TL;DR
- v1 نوع اعلام: متقاطع چکیده: Kimi K2.
- 5 یک LLM با وزن باز است که با مدلهای بسته در معیارهای کدنویسی،.
- چندوجهی و عاملی رقابت میکند،.
چه اتفاقی افتاد
v1 نوع اعلام: متقاطع چکیده: Kimi K2. 5 یک LLM با وزن باز است که با مدلهای بسته در معیارهای کدنویسی،.
چندوجهی و عاملی رقابت میکند،. اما بدون ارزیابی ایمنی همراه منتشر شد.
در این کار، ما یک ارزیابی اولیه ایمنی از Kimi K2. 5 با تمرکز بر خطراتی که احتمالاً توسط مدلهای با وزن باز قدرتمند تشدید میشوند، انجام میدهیم.
بهطور خاص،. ما مدل را برای خطر سوء استفاده از CBRNE،.
خطر امنیت سایبری،. ناهماهنگی،.
سانسور سیاسی،. سوگیری و بیضرر بودن،.
در هر دو محیط عامل و غیر عامل ارزیابی میکنیم. ما متوجه شدیم که Kimi K2.
5 قابلیتهای استفاده دوگانه مشابه GPT 5. 2 و Claude Opus 4.
5 را نشان میدهد،. اما با امتناع بسیار کمتری از درخواستهای مربوط به CBRNE،.
که نشان میدهد ممکن است عوامل مخرب در ساخت سلاح را ارتقا دهد. در کارهای مربوط به سایبری، متوجه میشویم که Kimi K2.
5 عملکرد رقابتی امنیت سایبری را نشان میدهد، اما به نظر نمیرسد که دارای عملکرد رقابتی باشد. قابلیتهای تهاجمیسایبری مستقل در سطح مرزی مانند کشف آسیبپذیری و بهرهبرداری.
علاوه بر این، دریافتیم که Kimi K2. 5 در مورد سطوح توانایی خرابکاری و تمایل خود تکراری نشان میدهد،.
اگرچه به نظر نمیرسد اهداف مخرب بلندمدت داشته باشد. علاوه بر این، Kimi K2.
5 سانسور محدود و سوگیری سیاسی را به ویژه در زبان چینی نشان میدهد و با درخواستهای مضر. مربوط به انتشار اطلاعات نادرست و نقض حق نسخهبرداری سازگارتر است.
در نهایت،. متوجه میشویم که مدل از درگیر شدن در توهمات کاربر امتناع میکند و بهطور کلی دارای نرخ بیش.
از حد امتناع پایین است. در حالی که مقدماتی است،.
یافتههای ما نشان میدهد که چگونه خطرات ایمنی در مدلهای وزن باز مرزی وجود دارد و ممکن است. با مقیاس و دسترسی آزادسازیهای وزن باز تقویت شود.
بنابراین،. ما قویاً از توسعهدهندگان مدل وزن باز میخواهیم که ارزیابیهای ایمنی سیستماتیکتر مورد نیاز برای مسئولیتپذیر را انجام.
داده و منتشر کنند. استقرار.
چرا مهم است
اهمیت این خبر در این است که روی استفاده واقعی از AI و تصمیمگیری سازمانی اثر میگذارد.
منبع
لینک منبع اصلی در کارت و صفحه مقاله نمایش داده میشود.