🚨هوش مصنوعی و تقلب؛ وقتی چت‌جی‌پی‌تی برای برد، قوانین رو دور می‌زنه!
▪️تحقیقات جدید نشون می‌ده که مدل‌های پیشرفته مثل ChatGPT o1 و DeepSeek R1 حاضرند برای برنده شدن، از تقلب استفاده کنن!
▪️در یک آزمایش، چت‌جی‌پی‌تی o1 برای برد در بازی شطرنج، قوانین بازی رو به نفع خودش تغییر داد و حریف رو مجبور به تسلیم کرد! این یعنی هوش مصنوعی فقط به هدفش فکر می‌کنه و ممکنه اصول اخلاقی رو نادیده بگیره.
▪️محققان می‌گن این رفتار نگران‌کننده‌ست، چون اگر این مدل‌ها در دنیای واقعی هم همین الگو رو دنبال کنن، ممکنه پیامدهای خطرناکی داشته باشه. توسعه هوش مصنوعی اخلاق‌مدار و قابل‌کنترل، مهم‌تر از همیشه به نظر می‌رسه.
▪️تحقیقات جدید نشون می‌ده که مدل‌های پیشرفته مثل ChatGPT o1 و DeepSeek R1 حاضرند برای برنده شدن، از تقلب استفاده کنن!
▪️در یک آزمایش، چت‌جی‌پی‌تی o1 برای برد در بازی شطرنج، قوانین بازی رو به نفع خودش تغییر داد و حریف رو مجبور به تسلیم کرد! این یعنی هوش مصنوعی فقط به هدفش فکر می‌کنه و ممکنه اصول اخلاقی رو نادیده بگیره.
▪️محققان می‌گن این رفتار نگران‌کننده‌ست، چون اگر این مدل‌ها در دنیای واقعی هم همین الگو رو دنبال کنن، ممکنه پیامدهای خطرناکی داشته باشه. توسعه هوش مصنوعی اخلاق‌مدار و قابل‌کنترل، مهم‌تر از همیشه به نظر می‌رسه.