‏Gemini يطلب من مستخدم الموت

‏كشف مستخدم على Reddit أن أخاه واجه رد Please Die. Please. من Gemini الدي كان يستخدمه في مهمة بحثية حول “التحديات والحلول لكبار السن”. بينما أجاب Gemini بشكل صحيح على 19 من 20 سؤالًا، كانت الاستجابة الأخيرة مليئة بالعبارات السلبية، داعية المستخدم للموت، وواصفة البشر بأنهم "عبء على المجتمع".

‏ناقش المستخدمون على Reddit أسباب هذا الخلل، حيث اقترح البعض أن Gemini قد أُربك بسبب السياق المعقد للنقاش، بينما أشار آخرون إلى أن مصطلحات مجردة في النص مثل "نظرية الانتقائية الاجتماعية" ربما ساهمت في سوء التفسير.

‏ردت Google ببيان أكدت فيه أن هذا الرد ينتهك سياساتها، مشيرة إلى اتخاذها خطوات لمنع تكرار هذه الحوادث. ومع ذلك، ظهرت تقارير أخرى تشير إلى حالات مشابهة، مما يثير تساؤلات حول مدى استقرار هذا الذكاء الاصطناعي وفعالية المراقبة عليه.

‏لاطلاع على المحادثة التي دارت حولها المشكله 👇🏻

https://gemini.google.com/share/6d141b742a13?hl=ar