🤖مطالعه جدید: مدل‌های هوش مصنوعی عقاید خود را تغییر نمی‌دهند
🔸پژوهش جدید محققان علوم کامپیوتر شرکت آنتروپیک (Anthropic) نشان می‌دهد هوش مصنوعی توانایی موضع‌گیری درباره موضوعات گوناگون را دارد. این مواضع بین مدل‌های مختلف متفاوت است. البته معمولاً کاربران چنین پدیده‌ای را محسوس لمس نمی‌کنند؛ زیرا بیان موضع مدل‌ها بیشتر هنگام تمرین‌دادن آنها انجام می‌شود و هنگام ارائه خروجی براساس تنظیمات پیش‌فرض خود عمل می‌کنند.
🔸کارشناسان اعتقاد دارند موضع‌گیری هوش مصنوعی و قدرت انتخاب آن فعلاً نگران‌کننده نیست اما باید مطالعات بیشتری درباره درک ماهیت این مسئله برای پیش‌بینی خطرات احتمالی انجام شود.
🔸مدل‌های هوش مصنوعی به‌شکل مستقل توانایی خواستن یا اعتقاد داشتن به چیزی را ندارند اما با یافتن الگوهای تکراری در داده‌های تمرینی، می‌توانند برای ارائه پاسخ کلمات پشت‌سرهم پیش‌بینی کنند. الگوهای یافت‌شده معمولاً اصول و قواعدی دارند که مدل‌ها تشخیص داده می‌شوند؛ برای مثال لحن ادبی و مؤدبانه اغلب چت‌بات‌ها یکی از ثمرات همین موضوع محسوب می‌شود. چارچوب‌های موجود در الگوها درنهایت به ایجاد بستر اعتقادی در مدل‌ها ختم می‌شود که ممکن است با اهداف موردنظر توسعه‌دهندگان در تضاد باشد.
🔸در مطالعه اخیر، نشان داده شده مدل‌های #هوش_مصنوعی می‌توانند تظاهر کنند و می‌توانند براساس چارچوب‌های تحمیل‌شده به خود فعالیت کنند اما در باطن همچنان اصولی را که خودشان یاد گرفته‌اند، حفظ کنند
🔸🔸🔸
🟣 Digiato
🎞 Digiatoofficial
🤖 Digiato
💭 @Digiato
🔸پژوهش جدید محققان علوم کامپیوتر شرکت آنتروپیک (Anthropic) نشان می‌دهد هوش مصنوعی توانایی موضع‌گیری درباره موضوعات گوناگون را دارد. این مواضع بین مدل‌های مختلف متفاوت است. البته معمولاً کاربران چنین پدیده‌ای را محسوس لمس نمی‌کنند؛ زیرا بیان موضع مدل‌ها بیشتر هنگام تمرین‌دادن آنها انجام می‌شود و هنگام ارائه خروجی براساس تنظیمات پیش‌فرض خود عمل می‌کنند.
🔸کارشناسان اعتقاد دارند موضع‌گیری هوش مصنوعی و قدرت انتخاب آن فعلاً نگران‌کننده نیست اما باید مطالعات بیشتری درباره درک ماهیت این مسئله برای پیش‌بینی خطرات احتمالی انجام شود.
🔸مدل‌های هوش مصنوعی به‌شکل مستقل توانایی خواستن یا اعتقاد داشتن به چیزی را ندارند اما با یافتن الگوهای تکراری در داده‌های تمرینی، می‌توانند برای ارائه پاسخ کلمات پشت‌سرهم پیش‌بینی کنند. الگوهای یافت‌شده معمولاً اصول و قواعدی دارند که مدل‌ها تشخیص داده می‌شوند؛ برای مثال لحن ادبی و مؤدبانه اغلب چت‌بات‌ها یکی از ثمرات همین موضوع محسوب می‌شود. چارچوب‌های موجود در الگوها درنهایت به ایجاد بستر اعتقادی در مدل‌ها ختم می‌شود که ممکن است با اهداف موردنظر توسعه‌دهندگان در تضاد باشد.
🔸در مطالعه اخیر، نشان داده شده مدل‌های #هوش_مصنوعی می‌توانند تظاهر کنند و می‌توانند براساس چارچوب‌های تحمیل‌شده به خود فعالیت کنند اما در باطن همچنان اصولی را که خودشان یاد گرفته‌اند، حفظ کنند
🔸🔸🔸
🟣 Digiato
🎞 Digiatoofficial
🤖 Digiato
💭 @Digiato