‼️
استعفای معنادار کارمند ایمنی OpenAI!📌دیوید رابینسون که بیش از سه سال در اوپنایآی کار کرده و مسئولیت نوشتن گزارشهای ایمنی همراه با عرضه محصولات مهم این شرکت رو داشته، استعفا داده؛ اما دلیل رفتنش فقط یک اختلاف ساده کاری نیست...
اون میگه سرعت پیشرفت AI از سرعتی که شرکتها برای ایمنکردنش آماده میشن جلو زده و این وضعیت دیگه قابل ادامه نیست!
رابینسون معتقده اوپنایآی بیش از حد با روش «اول عرضه کن، بعد مشکل رو پیدا و برطرف کن» جلو میره؛ روشی که شاید برای فناوریهای معمولی جواب بده، اما وقتی پای مدلهایی با تواناییهای روزافزون وسطه، یک اشتباه میتونه عواقب خیلی بزرگتری داشته باشه! او حتی میگه شرکتهای سازنده هوش مصنوعی باید در بحث ایمنی، شبیه نیروگاههای هستهای و صنعت هوانوردی وسواس به خرج بدن.
🗣️اوپنایآی هم در واکنش گفته همچنان داره روی ایمنی و امنیت مدلها کار میکنه و در صورت نیاز، آموزش یا عرضه مدلها رو متوقف یا عقب میاندازه. با این حال، استعفای یکی از کارکنان باسابقه بخش ایمنی و هشدارهای صریحش، دوباره بحث مهمی رو وسط کشیده: آیا سرعت ساخت هوش مصنوعی از توان ما برای کنترل و ایمنکردنش جلو زده؟
🖥
@MobSec_ai -
هوش مصنوعی، تکنولوژی و ترفند روز