داریو آمودی، مدیرعامل Anthropic (شرکت سازنده Claude)، این روزا توی جنجال مدلهای Open Source گیر افتاده.
شایعهای پخش شده بود که Anthropic داره فشار میاره تا مدلهای وزنباز — همون مدلهایی که کدشون آزادانه در دسترسه — ممنوع بشن. آمودی اومد و صادقانه گفت: من مخالف Open Source نیستم، ولی یه خط قرمز دارم.
از نظرش مدلهای معمولی «کالای عمومی» هستن و باهاشون مشکلی نداره — ولی مدلهای خیلی قوی رو نباید آزادانه منتشر کرد. دلیلش اینه که وقتی کد یه مدل فوقپیشرفته عمومی شد، دیگه نمیشه روش محدودیت ایمنی گذاشت. مثل آبیه که رفته توی جوی.
نگرانی اصلیش هم چینه. میگه چین داره با «تقطیر» — یعنی پرسیدن هزاران سوال از مدلهای پیشرفته آمریکایی برای استخراج دانششون — جهش میکنه. اگه یه مدل خیلی قوی Open Source بشه، این مسیر خیلی کوتاهتر میشه.
راهحلهایی که پیشنهاد داده: تحریم تراشهها ادامه پیدا کنه، تقطیر از مدلهای آمریکایی جرمانگاری بشه، و یه نهاد بینالمللی برای ارزیابی ایمنی AI ساخته بشه که چین هم مجبور باشه توش شرکت کنه.
این موضعگیری در جواب نامه سران Nvidia، متا و مایکروسافت بود که میخواستن از محدودیتهای شتابزده روی مدلهای باز جلوگیری کنن. 🤖
شایعهای پخش شده بود که Anthropic داره فشار میاره تا مدلهای وزنباز — همون مدلهایی که کدشون آزادانه در دسترسه — ممنوع بشن. آمودی اومد و صادقانه گفت: من مخالف Open Source نیستم، ولی یه خط قرمز دارم.
از نظرش مدلهای معمولی «کالای عمومی» هستن و باهاشون مشکلی نداره — ولی مدلهای خیلی قوی رو نباید آزادانه منتشر کرد. دلیلش اینه که وقتی کد یه مدل فوقپیشرفته عمومی شد، دیگه نمیشه روش محدودیت ایمنی گذاشت. مثل آبیه که رفته توی جوی.
نگرانی اصلیش هم چینه. میگه چین داره با «تقطیر» — یعنی پرسیدن هزاران سوال از مدلهای پیشرفته آمریکایی برای استخراج دانششون — جهش میکنه. اگه یه مدل خیلی قوی Open Source بشه، این مسیر خیلی کوتاهتر میشه.
راهحلهایی که پیشنهاد داده: تحریم تراشهها ادامه پیدا کنه، تقطیر از مدلهای آمریکایی جرمانگاری بشه، و یه نهاد بینالمللی برای ارزیابی ایمنی AI ساخته بشه که چین هم مجبور باشه توش شرکت کنه.
این موضعگیری در جواب نامه سران Nvidia، متا و مایکروسافت بود که میخواستن از محدودیتهای شتابزده روی مدلهای باز جلوگیری کنن. 🤖