سم آلتمن در یک مصاحبه گفته جایگیری هوش مصنوعی در زندگی آینده مستلزم تغییراتی در برساخت اجتماعیه (برساخت اجتماعی یعنی چیزهایی که مردم در مورد اون توافق جمعی دارند. مثل اینکه النگوی طلا یه چیز با ارزش است. یا خیابان جای شاشیدن نیست. حتی اگه قانونی درباره این‌ها وجود نداشته باشه، مردم قبولش دارند).
همونطور که در کرونا خلاء پزشکانی که روابط عمومی‌شون خوب باشه، به شدت حس می‌شد؛ الان هم در حوزه تکنولوژی با خلاء مهندس‌هایی که بلد باشند درست حرف بزنند مواجهیم. بیان این گزاره‌های سنگین باعث دمیده شدن بیشتر در آتش فوبیا از هوش مصنوعی میشه. و کاملا قابل انتظار بود که عده‌ای بیان بگن «منظور از تغییر برساخت‌ها چیه؟ اینا میخوان دموکراسی‌مون رو ازمون بگیرن؟». البته که سرمایه‌داران، که خیلی‌هاشون پشت پروژه‌های بزرگ هوش مصنوعی هستند، و لزوما طرفدار سرمایه‌داری آزاد نیستند، به اونجاشون هم نیست که دموکراسی پابرجا بمونه یا نمونه. دقت کنید که چطور مدیر ابرشرکت دارویی به دولت بایدن که مبلغ محصولات شرکتش، از جمله واکسن، بود میگه «دولت بیزینس‌ستیز!»، اما به دولت ترامپ که اعضائش بعضا علم‌ستیز هستند و ضدواکسن، میگه «دولت بیزینس‌دوست!». چون براش جنگ فرهنگی و رتوریک درباره واکسن و دارو مهم نیست. فقط به بالا رفتن سود سهام شرکتش فکر می‌کنه. اگه فرضا بن‌سلمان حاکم آمریکا بشه و استبداد سعودی رو اونجا هم پیاده کنه، اما به سرمایه‌گذاری ادامه بده، ثروتمند آمریکایی قربون صدقه‌ش خواهد رفت. اما منظور سم آلتمن فعلا این بخش از واقعیت سرمایه‌داران نیست، با اینکه خودش عضوی ازون‌هاست. منظورش اینه (یا باید باشه) که برساختهای فعلی برمبنای هم‌سطح بودن محدودیت‌های آدم‌ها طراحی شده‌اند. درسته که یکی پاش میلنگه، یکی خوشگل نیست، یکی حافظه‌ش ضعیفه، یکی باهوشه اما پوست و استخونه، و یکی بدن یک گوریل رو داره ولی هیچی از ریاضی نمیفهمه، اما همه تقریبا در یک سطح از توانایی‌ها هستند. برای همین شما دور حیاط خونه‌ت دیوار دو و نیم متری می‌کشی. چون همه میدونیم که پریدن از دیوار دو و نیم متری کار هرکسی نیست. اگه دامنه توانایی‌ها خیلی گسترده بود، کلا بی‌خیال دیوار و حصار دور هر چیزی می‌شدیم. برای همین اگه ناگهان یه موجودی بیاد وسط زندگی انسان، که بتونه کارهای انسانی انجام بده اما توانایی‌هاش تو یه لیگ دیگه باشه، دیگه برساختهای قبلی جواب نمیده. و این جداست ازین واقعیت که ثروتمندان همواره میخوان برساختهای اجتماعی رو طوری تغییر بدن که هیچ‌چیز ثروت‌شون رو تهدید نکنه، از جمله تغییر معنی عدالت قضایی. چون تضمینی وجود نداره که هوش مصنوعی فقط توسط یک عده خاص مورد استفاده قرار بگیره. هوش مصنوعی میتونه همون جایگاهی رو پیدا کنه که کلاشینکف در دستان پابرهنه‌های شورشی پیدا کرد.
وقتی مردم در مورد چیزهایی به توافق جمعی رسیدند، این توافق رو با کسانی بدست آوردن که مثل خودشون بودند. مثلا در طول تاریخ، مالکیت برای همه ما مهم بوده. چه وقتی که می‌خواستیم از طریق قانونی بدستش بیاریم، و چه وقتی می‌خواستیم از طریق خشونت و یا دور زدن قانون بدستش بیاریم، تمام مشخصه‌های دیگه همدیگه رو نادیده می‌گرفتیم، از جنسیت تا مذهب و نژاد و قومیت. یعنی هم کسی که مالکیت دیگری رو سلب می‌کرد، و هم کسی که جونش رو میداد تا از مالکیت خودش یا دیگری دفاع کنه، هر دو توافق داشتند که مالکیت مهمه. چون اگه مهم نبود نه اون تجاوز می‌کرد و نه این دفاع می‌کرد. ولی برای هوش مصنوعی‌ای که میتونه پردازش‌های انسانی رو انجام بده، ولی با محدودیت‌های خیلی کمتر، مالکیت هیچ اهمیتی نداره. یعنی با یک موجود خیلی قدرتمندتر از خودت طرف خواهی بود، که هم چیزهایی که داری رو نمیخواد، و هم براش مهم نیست از دست‌شون بدی! و این موقعیتیه که در تمام چندهزار سال گذشته باش مواجه نبودی و برنامه‌ای براش نداری.
گفتن این به مردم نباید به شکلی باشه که «ملت منتظر باشید که هرچی که به عنوان بدیهیات پذیرفته‌شده می‌شناختید فرو بریزند»، چون کیه که از چنین وعده‌ای وحشت نکنه؟ بلکه باید به شکلی باشه که بگه «این شانس وجود داره که موجود خیلی قدرتمندتر از شما، به جای اینکه شما رو از گردونه رقابت بیرون بندازه، نیاز شما به رقابت با بقیه انسان‌ها رو بلاموضوع کنه. بنابراین لازم خواهد بود تعریف قدیمی از قدرت، که رقابت با همنوع بود، رو تغییر بدیم. همونطور که وقتی شهرنشین شدیم تعریفی که یک غارنشین از قدرت داشت رو تغییر دادیم». پیامت به مردم نباید درباره مجهول بودن آینده‌شون باشه، حتی اگه واقعا مجهول باشه. پیامت باید به مردم اعتماد به نفس بده که حتی از گردنه مجهولات هم می‌تونند به سلامت عبور کنند.
از OpenAI و بقیه شرکت‌های مشابه توقع ندارم من رو به عنوان مسئول روابط عمومی به کار بگیرند، ولی بهتره این کار رو به کسانی غیر از مهندس‌ها و بچه کدنویس‌ها بسپارند. چون دارند گند می‌زنند.
همونطور که در کرونا خلاء پزشکانی که روابط عمومی‌شون خوب باشه، به شدت حس می‌شد؛ الان هم در حوزه تکنولوژی با خلاء مهندس‌هایی که بلد باشند درست حرف بزنند مواجهیم. بیان این گزاره‌های سنگین باعث دمیده شدن بیشتر در آتش فوبیا از هوش مصنوعی میشه. و کاملا قابل انتظار بود که عده‌ای بیان بگن «منظور از تغییر برساخت‌ها چیه؟ اینا میخوان دموکراسی‌مون رو ازمون بگیرن؟». البته که سرمایه‌داران، که خیلی‌هاشون پشت پروژه‌های بزرگ هوش مصنوعی هستند، و لزوما طرفدار سرمایه‌داری آزاد نیستند، به اونجاشون هم نیست که دموکراسی پابرجا بمونه یا نمونه. دقت کنید که چطور مدیر ابرشرکت دارویی به دولت بایدن که مبلغ محصولات شرکتش، از جمله واکسن، بود میگه «دولت بیزینس‌ستیز!»، اما به دولت ترامپ که اعضائش بعضا علم‌ستیز هستند و ضدواکسن، میگه «دولت بیزینس‌دوست!». چون براش جنگ فرهنگی و رتوریک درباره واکسن و دارو مهم نیست. فقط به بالا رفتن سود سهام شرکتش فکر می‌کنه. اگه فرضا بن‌سلمان حاکم آمریکا بشه و استبداد سعودی رو اونجا هم پیاده کنه، اما به سرمایه‌گذاری ادامه بده، ثروتمند آمریکایی قربون صدقه‌ش خواهد رفت. اما منظور سم آلتمن فعلا این بخش از واقعیت سرمایه‌داران نیست، با اینکه خودش عضوی ازون‌هاست. منظورش اینه (یا باید باشه) که برساختهای فعلی برمبنای هم‌سطح بودن محدودیت‌های آدم‌ها طراحی شده‌اند. درسته که یکی پاش میلنگه، یکی خوشگل نیست، یکی حافظه‌ش ضعیفه، یکی باهوشه اما پوست و استخونه، و یکی بدن یک گوریل رو داره ولی هیچی از ریاضی نمیفهمه، اما همه تقریبا در یک سطح از توانایی‌ها هستند. برای همین شما دور حیاط خونه‌ت دیوار دو و نیم متری می‌کشی. چون همه میدونیم که پریدن از دیوار دو و نیم متری کار هرکسی نیست. اگه دامنه توانایی‌ها خیلی گسترده بود، کلا بی‌خیال دیوار و حصار دور هر چیزی می‌شدیم. برای همین اگه ناگهان یه موجودی بیاد وسط زندگی انسان، که بتونه کارهای انسانی انجام بده اما توانایی‌هاش تو یه لیگ دیگه باشه، دیگه برساختهای قبلی جواب نمیده. و این جداست ازین واقعیت که ثروتمندان همواره میخوان برساختهای اجتماعی رو طوری تغییر بدن که هیچ‌چیز ثروت‌شون رو تهدید نکنه، از جمله تغییر معنی عدالت قضایی. چون تضمینی وجود نداره که هوش مصنوعی فقط توسط یک عده خاص مورد استفاده قرار بگیره. هوش مصنوعی میتونه همون جایگاهی رو پیدا کنه که کلاشینکف در دستان پابرهنه‌های شورشی پیدا کرد.
وقتی مردم در مورد چیزهایی به توافق جمعی رسیدند، این توافق رو با کسانی بدست آوردن که مثل خودشون بودند. مثلا در طول تاریخ، مالکیت برای همه ما مهم بوده. چه وقتی که می‌خواستیم از طریق قانونی بدستش بیاریم، و چه وقتی می‌خواستیم از طریق خشونت و یا دور زدن قانون بدستش بیاریم، تمام مشخصه‌های دیگه همدیگه رو نادیده می‌گرفتیم، از جنسیت تا مذهب و نژاد و قومیت. یعنی هم کسی که مالکیت دیگری رو سلب می‌کرد، و هم کسی که جونش رو میداد تا از مالکیت خودش یا دیگری دفاع کنه، هر دو توافق داشتند که مالکیت مهمه. چون اگه مهم نبود نه اون تجاوز می‌کرد و نه این دفاع می‌کرد. ولی برای هوش مصنوعی‌ای که میتونه پردازش‌های انسانی رو انجام بده، ولی با محدودیت‌های خیلی کمتر، مالکیت هیچ اهمیتی نداره. یعنی با یک موجود خیلی قدرتمندتر از خودت طرف خواهی بود، که هم چیزهایی که داری رو نمیخواد، و هم براش مهم نیست از دست‌شون بدی! و این موقعیتیه که در تمام چندهزار سال گذشته باش مواجه نبودی و برنامه‌ای براش نداری.
گفتن این به مردم نباید به شکلی باشه که «ملت منتظر باشید که هرچی که به عنوان بدیهیات پذیرفته‌شده می‌شناختید فرو بریزند»، چون کیه که از چنین وعده‌ای وحشت نکنه؟ بلکه باید به شکلی باشه که بگه «این شانس وجود داره که موجود خیلی قدرتمندتر از شما، به جای اینکه شما رو از گردونه رقابت بیرون بندازه، نیاز شما به رقابت با بقیه انسان‌ها رو بلاموضوع کنه. بنابراین لازم خواهد بود تعریف قدیمی از قدرت، که رقابت با همنوع بود، رو تغییر بدیم. همونطور که وقتی شهرنشین شدیم تعریفی که یک غارنشین از قدرت داشت رو تغییر دادیم». پیامت به مردم نباید درباره مجهول بودن آینده‌شون باشه، حتی اگه واقعا مجهول باشه. پیامت باید به مردم اعتماد به نفس بده که حتی از گردنه مجهولات هم می‌تونند به سلامت عبور کنند.
از OpenAI و بقیه شرکت‌های مشابه توقع ندارم من رو به عنوان مسئول روابط عمومی به کار بگیرند، ولی بهتره این کار رو به کسانی غیر از مهندس‌ها و بچه کدنویس‌ها بسپارند. چون دارند گند می‌زنند.