🤖 بازی خطرناک با #هوش_مصنوعی: شبیه‌سازی درد و لذت برای آزمایش #هوشیاری

🔺 پژوهشگران گوگل دیپ مایند و دانشکده اقتصاد لندن به تازگی مطالعه‌ای انجام داده‌اند که در آن از یک بازی برای بررسی رفتارهای مرتبط با «هوشیاری» در مدل‌های مختلف هوش مصنوعی استفاده کرده‌اند.

🎮 در این بازی، انتخاب برخی گزینه‌ها با جریمه «درد» شبیه‌سازی‌شده همراه بود، در حالی که گزینه‌های دیگر «لذت» را با امتیاز کمتر ارائه می‌دادند. محققان با بررسی رفتارهای تصمیم‌گیری این سیستم‌ها، به دنبال #شبیه‌سازی رفتارهای مشابه با هوشیاری بودند.

❌ اکثر مدل‌ها، از جمله Gemini 1.5 Pro گوگل، از گزینه‌های «دردناک» اجتناب می‌کردند، حتی وقتی که انتخاب این گزینه برای کسب بیشترین امتیاز ضروری بود. این مدل‌ها ترجیح می‌دادند ناراحتی را به حداقل برسانند یا لذت بیشتری کسب کنند، حتی اگر به قیمت از دست دادن امتیاز باشد.

⚠️ محققان تأکید دارند که #LLM های فعلی هوشیار نیستند و احساسات را درک نمی‌کنند. اما با پیچیده‌تر شدن سیستم‌ها، ممکن است نیاز به چارچوبی برای درک رفتارهای این سیستم‌ها ایجاد شود.

🌐 جزئیات بیشتر

🆔 @ShahrSakhtAfzar