چتجیپیتی واقعاً چه میداند؟!
گزارش دوم نیز از جان نوستا است که باز سخنان این دانشمند و نوآور حوزهی تکنولوژی میتواند مورد توجه فیلسوفان باشد. پرسش فلسفی او این است که «ال.ال.امها از جمله چتجیپیتی واقعاً چه «میدانند»؟»
خلاصهی سخن او این است که ال.ال.امها از طریق استنتاج، پاسخهایی عرضه میکنند که برای فهم سنتی از معرفت دردسرساز است. چه دردسری؟ به زعم نوستا خروجیهای این سیستم مولدِ زبان، مرز بین درک انسان و تشخیص الگوی آماری را از بین میبرند. تکنوآگاهیِ نوظهور (emergent techno-consciousness) معرفتشناسی سنتی را تغییر میدهد.
این پاسخ نیازمند ایضاح است. نوستا توضیحات خود را عرضه میکند که سادهسازیشدهی اهم نکات او در قالبی جدید به شرح زیر است.
سیستمهایی مانند چتجیپیتی، که به عنوان مولدهای از پیشآموزشدیده، بر روی مقادیر انبوهی از متون آموزش داده شدهاند، میتوانند پاسخهای پیچیده و ظریفی را ایجاد کنند که اغلب بسیار انسانیاند. آیا درک و تولید بسیار انسانوار این سیستمها دلیلی است که بگوییم این ماشینها به شیوهی انسان «میدانند» یا باید به این حد بسنده کنیم که این سیستمهای مولد صرفاً استنتاجگراند؟ هر دو انتخاب مشکلاتی برای معرفتشناسی رایج که معرفت را باورصادقموجه میداند (نقدهای گتیه را نادیده بگیریم) ایجاد میکند. به باور نوستا این پرسش، اساس معرفتشناسی را هدف میگیرد و ما را به بازنگری در درک خود از معرفتِ انسانی نیز سوق میدهد.
نوستا با تعریف سنتی معرفت به «باورِ صادقِ موجه» آغاز میکند. معرفت هر باوری نیست، بلکه باوریست که باید صادق باشد و بتوانیم برای صدق آن نیز توجیهی عرضه کنیم. اما باور امری روانشناختی است و چتجیپیتی ذهنی ندارد که باوری داشته باشد و قرار باشد صادق و موجه نیز باشد. پس آیا این یک توهم انسانیست که به این سیستمهای مولد «دانستن» را نسبت میدهیم؟
انسان و چتجیپیتی هر دو واجد قابلیت تشخیص الگو هستند. پس چه فرقی است که تشخیص الگوی چتجیپیتی را فاقد قابلیت «دانستن» میدانیم؟ انسانها به واسطهی برخورداری از آگاهی به الگوهای تشخیص داده شده، با توجه به زمینه، معنا میبخشند و به فهم میرسند. اما چرا نتوانیم نوعی از آگاهی را به ال.ال.امها نسبت دهیم؟!
مطابق فهم عرفی و بهطور متعارف به هر سیستم پردازشکنندهای آگاهی نسبت نمیدهیم. ماشین حساب ساده را در نظر بگیرید. ورودیهای آن سادهترند و بدون تعامل با محیط، فقط به ازای دریافت برخی ورودیهای مشخص (اعداد و اپراتورهای حساب) خروجیهای ثابتی دارد، سیستم پردازش آن ساده است، (هرچند علیالاصول مصون از خطا نیست اما) عملاً اشتباه نمیکند، فاقد عنصر یادگیری است، و بر اساس اطلاعات جدید خود را به روزرسانی نمیکند و تکامل نمییابد. و مهمتر از همه اینکه ماشینحساب معرفت جدیدی فراتر از اطلاعات ورودی تولید نمیکند. حالا یک ارگانیسم زنده مانند موش را به عنوان یک سیستم در نظر بگیریم. ورودیهای آن بسیار پیچیدهترند و عکس تمامی آنچه را در مورد ماشین حساب گفتیم میتوان به او نسبت داد.
حالا با توجه به این خصوصیات ال.ال.ام به موش شبیهتر است یا به ماشین حساب؟ پاسخ موش است.
اما اگر میتوانیم به واسطهی برخورداری از این ویژگیها سطحی از آگاهی (آگاهی جانوری) را به موش نسبت دهیم چرا نوعی آگاهی را که نوستا تکنوآگاهی مینامد به ال.ال.ام نسبت ندهیم؟ و اگر موش واجد نوعی معرفت است چرا ال.ال.ام نباشد؟ پیشنهاد نوستا آن است که شاید معرفتشناسی باید خود را از چنبرهی تمرکز بر باور و توجیه خلاص کند و به جای آن بر دقت آماری و سودمندی تأکید کند. بخش نخست این پیشنهاد یادآور پیشنهاد پوپر است و بخش دوم یادآور پیشنهاد پراگماتیستها که هر دو مبتنی بر نگاهی تکاملی به معرفتشناسی بوده است؛ که البته نوستا به این موارد اشارهای ندارد.
پیشنهاد دوم نوستا نیز قابل تأمل است. آگاهی در انسان به صورت ویژگی نوظهوری رخ داد که از اشکال سادهتر آغاز شد و به این درجه رسید. به نحو مشابه میتوان نوعی ویژگی نوظهور را در پیچیدگی پردازشها و به روزرسانیهای ال.ال.امها در نظر گرفت. چه ضرورتی دارد که آگاهی ماشین مشابه آگاهی انسان باشد؟ به وضوح آگاهی انسان بدنمند است. اما با تغییر در نوع بدنمندی، ماشین نیز میتواند صاحب نوعی تکنوآگاهی شود. آیا در اینصورت نمیتوان آن را واجد نوعی «تکنو-باور» نیز دانست [البته خود نوستا این اصطلاح را به کار نبرده] که در قالب معرفتشناسی رایجی که معرفت را باور صادق موجه میدانست از صدق و توجیه آن سخن گفت و نوعی دانستن هم به آن نسبت داد؟! در اینصورت دایرهی معرفتشناسی باید از حوزهی انسانی فراتر رود.
بخشی از این پیشنهاد را نیز میتوان به پوپر نسبت داد، جاییکه از معرفت در سگ سخن میگوید.
تحلیلی تکاملی پیشنهاد نوستا در پست بعدی
هادی صمدی
@evophilosophy
گزارش دوم نیز از جان نوستا است که باز سخنان این دانشمند و نوآور حوزهی تکنولوژی میتواند مورد توجه فیلسوفان باشد. پرسش فلسفی او این است که «ال.ال.امها از جمله چتجیپیتی واقعاً چه «میدانند»؟»
خلاصهی سخن او این است که ال.ال.امها از طریق استنتاج، پاسخهایی عرضه میکنند که برای فهم سنتی از معرفت دردسرساز است. چه دردسری؟ به زعم نوستا خروجیهای این سیستم مولدِ زبان، مرز بین درک انسان و تشخیص الگوی آماری را از بین میبرند. تکنوآگاهیِ نوظهور (emergent techno-consciousness) معرفتشناسی سنتی را تغییر میدهد.
این پاسخ نیازمند ایضاح است. نوستا توضیحات خود را عرضه میکند که سادهسازیشدهی اهم نکات او در قالبی جدید به شرح زیر است.
سیستمهایی مانند چتجیپیتی، که به عنوان مولدهای از پیشآموزشدیده، بر روی مقادیر انبوهی از متون آموزش داده شدهاند، میتوانند پاسخهای پیچیده و ظریفی را ایجاد کنند که اغلب بسیار انسانیاند. آیا درک و تولید بسیار انسانوار این سیستمها دلیلی است که بگوییم این ماشینها به شیوهی انسان «میدانند» یا باید به این حد بسنده کنیم که این سیستمهای مولد صرفاً استنتاجگراند؟ هر دو انتخاب مشکلاتی برای معرفتشناسی رایج که معرفت را باورصادقموجه میداند (نقدهای گتیه را نادیده بگیریم) ایجاد میکند. به باور نوستا این پرسش، اساس معرفتشناسی را هدف میگیرد و ما را به بازنگری در درک خود از معرفتِ انسانی نیز سوق میدهد.
نوستا با تعریف سنتی معرفت به «باورِ صادقِ موجه» آغاز میکند. معرفت هر باوری نیست، بلکه باوریست که باید صادق باشد و بتوانیم برای صدق آن نیز توجیهی عرضه کنیم. اما باور امری روانشناختی است و چتجیپیتی ذهنی ندارد که باوری داشته باشد و قرار باشد صادق و موجه نیز باشد. پس آیا این یک توهم انسانیست که به این سیستمهای مولد «دانستن» را نسبت میدهیم؟
انسان و چتجیپیتی هر دو واجد قابلیت تشخیص الگو هستند. پس چه فرقی است که تشخیص الگوی چتجیپیتی را فاقد قابلیت «دانستن» میدانیم؟ انسانها به واسطهی برخورداری از آگاهی به الگوهای تشخیص داده شده، با توجه به زمینه، معنا میبخشند و به فهم میرسند. اما چرا نتوانیم نوعی از آگاهی را به ال.ال.امها نسبت دهیم؟!
مطابق فهم عرفی و بهطور متعارف به هر سیستم پردازشکنندهای آگاهی نسبت نمیدهیم. ماشین حساب ساده را در نظر بگیرید. ورودیهای آن سادهترند و بدون تعامل با محیط، فقط به ازای دریافت برخی ورودیهای مشخص (اعداد و اپراتورهای حساب) خروجیهای ثابتی دارد، سیستم پردازش آن ساده است، (هرچند علیالاصول مصون از خطا نیست اما) عملاً اشتباه نمیکند، فاقد عنصر یادگیری است، و بر اساس اطلاعات جدید خود را به روزرسانی نمیکند و تکامل نمییابد. و مهمتر از همه اینکه ماشینحساب معرفت جدیدی فراتر از اطلاعات ورودی تولید نمیکند. حالا یک ارگانیسم زنده مانند موش را به عنوان یک سیستم در نظر بگیریم. ورودیهای آن بسیار پیچیدهترند و عکس تمامی آنچه را در مورد ماشین حساب گفتیم میتوان به او نسبت داد.
حالا با توجه به این خصوصیات ال.ال.ام به موش شبیهتر است یا به ماشین حساب؟ پاسخ موش است.
اما اگر میتوانیم به واسطهی برخورداری از این ویژگیها سطحی از آگاهی (آگاهی جانوری) را به موش نسبت دهیم چرا نوعی آگاهی را که نوستا تکنوآگاهی مینامد به ال.ال.ام نسبت ندهیم؟ و اگر موش واجد نوعی معرفت است چرا ال.ال.ام نباشد؟ پیشنهاد نوستا آن است که شاید معرفتشناسی باید خود را از چنبرهی تمرکز بر باور و توجیه خلاص کند و به جای آن بر دقت آماری و سودمندی تأکید کند. بخش نخست این پیشنهاد یادآور پیشنهاد پوپر است و بخش دوم یادآور پیشنهاد پراگماتیستها که هر دو مبتنی بر نگاهی تکاملی به معرفتشناسی بوده است؛ که البته نوستا به این موارد اشارهای ندارد.
پیشنهاد دوم نوستا نیز قابل تأمل است. آگاهی در انسان به صورت ویژگی نوظهوری رخ داد که از اشکال سادهتر آغاز شد و به این درجه رسید. به نحو مشابه میتوان نوعی ویژگی نوظهور را در پیچیدگی پردازشها و به روزرسانیهای ال.ال.امها در نظر گرفت. چه ضرورتی دارد که آگاهی ماشین مشابه آگاهی انسان باشد؟ به وضوح آگاهی انسان بدنمند است. اما با تغییر در نوع بدنمندی، ماشین نیز میتواند صاحب نوعی تکنوآگاهی شود. آیا در اینصورت نمیتوان آن را واجد نوعی «تکنو-باور» نیز دانست [البته خود نوستا این اصطلاح را به کار نبرده] که در قالب معرفتشناسی رایجی که معرفت را باور صادق موجه میدانست از صدق و توجیه آن سخن گفت و نوعی دانستن هم به آن نسبت داد؟! در اینصورت دایرهی معرفتشناسی باید از حوزهی انسانی فراتر رود.
بخشی از این پیشنهاد را نیز میتوان به پوپر نسبت داد، جاییکه از معرفت در سگ سخن میگوید.
تحلیلی تکاملی پیشنهاد نوستا در پست بعدی
هادی صمدی
@evophilosophy