her 2013
بچه ها چون میبینم تعداد زیادی از شما با هوش مصنوعی درباره مسائل شخصی زندگیتون صحبت میکنید، ازش مشورت میگیرید یا سوال هایی که از تراپیستتون میپرسید رو از اون هم میپرسید لازم دیدم ۲ تا نکته مهم بگم:
1. مدل های زبانی فعلی (یا حداقل اون هایی که الان رایگان در دسترس من و شما هستند) AGI نیستند. (به زبون ساده خیلی گاو تر از چیزی که تصور میکنید هستن) در نتیجه این ها درک خاصی از شخصیت شما ندارند و وقتی سوالی میپرسید صرفا یه توالی از کلمات و جملات پشت هم میچینند که احتمال میدن شانس موفقیت بیشتری برای پذیرش به عنوان جواب از سمت شما داشته باشه. همچنین باز اگه شما شخصیتی مثل نیچه بودید که شونصد تا کتاب و مقاله درباره تون نوشته شده بود و llm بر اساس اون ها train شده بود میزان اعتبار جواب ها بالا میرفت و قابل استناد میشدند، اما اینکه با ۴۰،۵۰ تا پرامپت و context window محدود انتظار داشته باشید از شما به شناخت برسن کلا منتفیه.
2. طراحی شدند تا people pleaser باشند و این مورد رو با پرامپت هاتون شاید بتونید کمتر کنید ولی اصل قضیه رو نمیتونید تغییر بدید. مثلا خود من تو معماری آلفرد این رو دقیقا رعایت کردم و براش تنظیم کردم اگه کاربر فلان چیز رو پرسید قربون صدقه اش برو، اگه بهمان رو گفت باهاش شوخی کن، اگه جوابش رو نداشتی به جاش فلان چیزو بگو ... خلاصه که تحت هر شرایطی راضی بفرستش بره. وقتی من توی پروژه کوچیک خودم این کار رو میکنم شک نکنید امثال ایلان ماسک و سم آلتمن هم تو ابعاد بزرگ تر به شیوه خودشون انجام میدن، چون مشتری خوشحال تر یعنی پول بیشتر.
پس پیشنهاد نهایی من چیه؟
این که تا وقتی AGI منبع باز نیومده برای اینجور موارد از هوش مصنوعی استفاده نکنید. نمیتونم بگم همچین چیزی 1 سال دیگه در دسترس مون خواهد بود یا 5 سال دیگه، ولی مطمئنا بسیار نزدیکه. تا اون موقع مشکلاتتون رو با تراپیستتون مطرح کنید، با دوستان صمیمی تون گپ بزنید و از آدم های امن خودتون مشورت بگیرید.
پ.ن.۱. در حال حاضر آلفرد رو بنا به دلایل فنی خاموش کردم ولی دفعه بعد که راه انداختمش میتونید این موارد رو خودتون تست کنید.
پ.ن.۲. این متن رو کسی نوشته که هر روز، تمام روز، با کمک هوش مصنوعی کنار دستش کار میکنه.
بچه ها چون میبینم تعداد زیادی از شما با هوش مصنوعی درباره مسائل شخصی زندگیتون صحبت میکنید، ازش مشورت میگیرید یا سوال هایی که از تراپیستتون میپرسید رو از اون هم میپرسید لازم دیدم ۲ تا نکته مهم بگم:
1. مدل های زبانی فعلی (یا حداقل اون هایی که الان رایگان در دسترس من و شما هستند) AGI نیستند. (به زبون ساده خیلی گاو تر از چیزی که تصور میکنید هستن) در نتیجه این ها درک خاصی از شخصیت شما ندارند و وقتی سوالی میپرسید صرفا یه توالی از کلمات و جملات پشت هم میچینند که احتمال میدن شانس موفقیت بیشتری برای پذیرش به عنوان جواب از سمت شما داشته باشه. همچنین باز اگه شما شخصیتی مثل نیچه بودید که شونصد تا کتاب و مقاله درباره تون نوشته شده بود و llm بر اساس اون ها train شده بود میزان اعتبار جواب ها بالا میرفت و قابل استناد میشدند، اما اینکه با ۴۰،۵۰ تا پرامپت و context window محدود انتظار داشته باشید از شما به شناخت برسن کلا منتفیه.
2. طراحی شدند تا people pleaser باشند و این مورد رو با پرامپت هاتون شاید بتونید کمتر کنید ولی اصل قضیه رو نمیتونید تغییر بدید. مثلا خود من تو معماری آلفرد این رو دقیقا رعایت کردم و براش تنظیم کردم اگه کاربر فلان چیز رو پرسید قربون صدقه اش برو، اگه بهمان رو گفت باهاش شوخی کن، اگه جوابش رو نداشتی به جاش فلان چیزو بگو ... خلاصه که تحت هر شرایطی راضی بفرستش بره. وقتی من توی پروژه کوچیک خودم این کار رو میکنم شک نکنید امثال ایلان ماسک و سم آلتمن هم تو ابعاد بزرگ تر به شیوه خودشون انجام میدن، چون مشتری خوشحال تر یعنی پول بیشتر.
پس پیشنهاد نهایی من چیه؟
این که تا وقتی AGI منبع باز نیومده برای اینجور موارد از هوش مصنوعی استفاده نکنید. نمیتونم بگم همچین چیزی 1 سال دیگه در دسترس مون خواهد بود یا 5 سال دیگه، ولی مطمئنا بسیار نزدیکه. تا اون موقع مشکلاتتون رو با تراپیستتون مطرح کنید، با دوستان صمیمی تون گپ بزنید و از آدم های امن خودتون مشورت بگیرید.
پ.ن.۱. در حال حاضر آلفرد رو بنا به دلایل فنی خاموش کردم ولی دفعه بعد که راه انداختمش میتونید این موارد رو خودتون تست کنید.
پ.ن.۲. این متن رو کسی نوشته که هر روز، تمام روز، با کمک هوش مصنوعی کنار دستش کار میکنه.