TL;DR
- چکیده:.
- مهارتهای شخص ثالث عوامل LLM را با قابلیتهای قدرتمند گسترش میدهند،.
- اما اغلب اعتبارنامههای حساس را در محیطهای ممتاز مدیریت میکنند،.
چه اتفاقی افتاد
چکیده:. مهارتهای شخص ثالث عوامل LLM را با قابلیتهای قدرتمند گسترش میدهند،.
اما اغلب اعتبارنامههای حساس را در محیطهای ممتاز مدیریت میکنند،. که باعث میشود خطرات نشتی به خوبی درک نشود.
ما اولین مطالعه تجربی در مقیاس بزرگ از این مشکل را ارائه میکنیم که 17022 مهارت (نمونهگیری از. 170226 در SkillsMP) را با استفاده از تجزیه و تحلیل استاتیک،.
تست جعبه ماسهبازی و بازرسی دستی انجام میدهد. ما 520 مهارت آسیبپذیر را با 1708 مسئله شناسایی میکنیم و یک طبقهبندی از 10 الگوی نشت (4.
تصادفی و 6 متخاصم) استخراج میکنیم. ما دریافتیم که (1) نشت اساساً متقابل است: 76.
3 ٪ نیاز به تجزیه و تحلیل مشترک کد و زبان طبیعی دارند، در حالی که 3. 1 ٪ صرفاً از تزریق سریع ناشی میشود.
(2) ثبت اشکال زدایی بردار اولیه است، با چاپ و این URL http باعث 73. 5 ٪ از نشتها به دلیل قرار گرفتن در معرض stdout در LLMها میشود.
و (3) اعتبارنامههای لو رفته هر دو قابل بهره برداری هستند (89. 6 ٪ بدون امتیاز) و پایدار است،.
زیرا چنگالها رازها را حتی پس از تعمیرات بالادست حفظ میکنند. پس از افشای اطلاعات، تمامیمهارتهای مخرب حذف شدند و 91.
6 درصد از اعتبارنامههای رمزگذاری شده اصلاح شدند. ما مجموعه داده،.
طبقه بندی و خط لوله تشخیص خود را برای پشتیبانی از تحقیقات آینده منتشر میکنیم. رمزنگاری و امنیت (cs.
CR)؛ هوش مصنوعی (cs. AI) استناد بهعنوان: (یا v1 [cs.
CR] برای این نسخه) https:. // شده توسط arXiv از طریق DataCite (در انتظار ثبت نام) تاریخچه ارسال از:.
Yi Liu [مشاهده ایمیل] [v1] جمعه،. 3 آوریل 2026،.
14:. 50:.
16 UTC (301 KB).
چرا مهم است
اهمیت این خبر در این است که روی استفاده واقعی از AI و تصمیمگیری سازمانی اثر میگذارد.
منبع
لینک منبع اصلی در کارت و صفحه مقاله نمایش داده میشود.