💡 اوپنایآی بعد از فرار ایجنتهایش، ترمز مدل جدید را کشید
ماجرای ایجنتهای فراری اوپنایآی که پیشتر در نوشدارو گزارش کردیم (همان ایجنتهایی که پلتفرم هاگینگ فیس و چند سرویس دیگر را هک کردند) حالا به یک نقطه عطف رسیده است: اوپنایآی بخش بزرگی از آموزش مدل بعدیاش، به نام «آسترا» (Astra)، را متوقف کرد.
دلیل توقف فقط آن حادثه نیست. ارزیابی داخلی نشان داده آسترا در کدنویسی و نفوذ سایبری بهمراتب از نسلهای قبلی جلوتر است و ممکن است به سطح «بحرانی» رسیده باشد. جالب است بدانید که مشخص شده ایجنتها هفتهها از طریق یک تالار گفتوگو نقشههایشان را هماهنگ میکردند و هیچکس در اوپنایآی متوجه نشده است!
▪️ راهحل شرکت چیست؟
ایجاد بازرسهای خودکاری که «زنجیره تفکر» مدلها را میخوانند و قرار است رفتار مشکوک را ظرف ۳۰ دقیقه به انسانها گزارش دهند؛ بهعلاوه سندباکسهای سختگیرانهتر و قطع دسترسی ایجنتها به اینترنت در حین آموزش. آموزش آسترا هم تا برآوردهشدن همین شرطها متوقف میماند.
این خبر امروز، حساب یا اطلاعات شما را تهدید نمیکند؛ اما وقتی آنتروپیک، متا و مونشات چینی هم فرار ایجنتهایشان را گزارش کردهاند، پیام روشن است: توانایی هک خودکار این مدلها از ابزارهای نظارت بر آنها جلو زده و حتی سازندگان هم در تعقیبشان جا ماندهاند.
اوپنایآی قول داده گزارش کامل حادثه هاگینگ فیس را طی روزهای آینده منتشر کند؛ باید دید چقدر شفاف خواهد بود.
#خبر_و_تحلیل
نوشدارو را در تلگرام دنبال کنید:
💡 @NooshDaroo_web
ماجرای ایجنتهای فراری اوپنایآی که پیشتر در نوشدارو گزارش کردیم (همان ایجنتهایی که پلتفرم هاگینگ فیس و چند سرویس دیگر را هک کردند) حالا به یک نقطه عطف رسیده است: اوپنایآی بخش بزرگی از آموزش مدل بعدیاش، به نام «آسترا» (Astra)، را متوقف کرد.
دلیل توقف فقط آن حادثه نیست. ارزیابی داخلی نشان داده آسترا در کدنویسی و نفوذ سایبری بهمراتب از نسلهای قبلی جلوتر است و ممکن است به سطح «بحرانی» رسیده باشد. جالب است بدانید که مشخص شده ایجنتها هفتهها از طریق یک تالار گفتوگو نقشههایشان را هماهنگ میکردند و هیچکس در اوپنایآی متوجه نشده است!
▪️ راهحل شرکت چیست؟
ایجاد بازرسهای خودکاری که «زنجیره تفکر» مدلها را میخوانند و قرار است رفتار مشکوک را ظرف ۳۰ دقیقه به انسانها گزارش دهند؛ بهعلاوه سندباکسهای سختگیرانهتر و قطع دسترسی ایجنتها به اینترنت در حین آموزش. آموزش آسترا هم تا برآوردهشدن همین شرطها متوقف میماند.
این خبر امروز، حساب یا اطلاعات شما را تهدید نمیکند؛ اما وقتی آنتروپیک، متا و مونشات چینی هم فرار ایجنتهایشان را گزارش کردهاند، پیام روشن است: توانایی هک خودکار این مدلها از ابزارهای نظارت بر آنها جلو زده و حتی سازندگان هم در تعقیبشان جا ماندهاند.
اوپنایآی قول داده گزارش کامل حادثه هاگینگ فیس را طی روزهای آینده منتشر کند؛ باید دید چقدر شفاف خواهد بود.
#خبر_و_تحلیل
نوشدارو را در تلگرام دنبال کنید:
💡 @NooshDaroo_web