گیرافتاده بین هوش مصنوعی و خودمختاری
جان نوستا در پست‌های قبل معرفی شده است. او از جمله پیشگامان فعال در حوزه‌ی هوش مصنوعی است. نکته‌ی قابل توجه در مورد او، توجه هم‌زمانش به تأثيرات انسانی این فناوری و اطلاع‌رسانی فعالانه در این زمینه است. مقاله اخیر او نیز بسیار قابل توجه است. در ادامه، خلاصه این مقاله را بررسی می‌کنیم.
تصور کنید مدتی است فقط با کمک هوش مصنوعی ایمیل نوشته‌اید و حالا می‌خواهید بدون کمک آن ایمیل بنویسید. احتمالاً با مشکل مواجه خواهید شد. همین وضعیت را در نظر بگیرید وقتی به‌طور مداوم از مسیریاب در رانندگی استفاده می‌کنید و ناگهان از کار می‌افتد. در این شرایط، مغز به اصطلاح لکنت می‌گیرد و مهارت‌هایی که قبلاً به‌طور طبیعی انجام می‌شدند، به راحتی قابل انجام نیستند.
نوستا این پدیده را «دام نوسان هوش مصنوعی» می‌نامد و آن را این‌گونه تعریف می‌کند: جابه‌جایی مداوم بین استفاده از هوش مصنوعی و انجام کارها به صورت دستی که می‌تواند اثرات منفی بر شناخت، عملکرد و حتی ایمنی داشته باشد. دام نوسان با تحلیل رفتن مهارت متفاوت است. در تحلیل رفتن مهارت، ما به مرور زمان انجام کاری را فراموش می‌کنیم. اما دام نوسان، الگویی پیچیده‌تر از سازگاری و انطباق مجدد است؛ چرخه‌ای پیوسته از وابستگی به هوش مصنوعی و تلاش برای بازیابی مهارت‌های دستی. این وضعیت، شامل ناراحتی، کاهش کارایی و حتی خطرات احتمالی ناشی از تغییر مداوم بین حالت‌های شناختیِ تقویت‌شده‌باهوش‌مصنوعی و حالت‌های سنتی است. به نظر می‌رسد این «مدل جدید» زندگی ما در عصر حاضر باشد، حداقل در آینده‌ای قابل پیش‌بینی.
ما معمولاً فکر می‌کنیم که فناوری‌ها نیروهای افزایشی هستند که توانایی‌های ما را گسترش می‌دهند و ما را بهتر، باهوش‌تر و سریع‌تر می‌کنند. اما واقعیت این است که بسیاری از فناوری‌ها ما را به روش‌های جدیدی از فکر کردن، مسیریابی و کار کردن عادت می‌دهند. وقتی به حالت استفاده نکردن از این فناوری‌ها برمی‌گردیم، به سادگی به وضعیت قبلی خود باز نمی‌گردیم، بلکه نوعی گسست شناختی را تجربه می‌کنیم.
برای مثال، مترجمی که به‌طور مداوم از هوش مصنوعی برای ترجمه استفاده می‌کند، ممکن است پس از مدتی کارایی قبلی خود را از دست بدهد. همچنین، پزشکی که برای تشخیص بیماری‌ها به هوش مصنوعی متکی است، ممکن است در صورت عدم دسترسی به آن، به خصوص در شرایط اورژانسی، دچار تردید شود و توانایی تشخیص شهودی خود را از دست دهد.
در این موارد، مشکل فقط از دست دادن مهارت نیست. مغز که به استفاده از این فناوری‌ها عادت کرده، در برابر تغییر و بازگشت به روش‌های قبلی مقاومت نشان می‌دهد. فناوری‌ها به جنبه‌های بسیار اساسی انسانی ما نفوذ می‌کنند.
از یکسو اگر هوش مصنوعی به شکل استراتژیک استفاده شود ممکن است با رشد مثبت شناختی همراه باشد. اما از سوی دیگر می‌تواند به تحلیل رفتن مهارت‌ها بیانجامد. این حالت وقتی رخ می‌دهد که اتکا به هوش مصنوعی بیش از حد و بدون کنترل باشد. وقتی یک ابزار جدید وارد روند کار ما می‌شود، ما بخشی از وظایف شناختی خود را به آن ابزار می‌سپاریم؛ چه حافظه باشد (مانند موتورهای جستجو)، چه تصمیم‌گیری (مانند هوش مصنوعی در پزشکی) یا آگاهی از محیط (مانند رانندگی خودکار). این واگذاری وظایف مفید به نظر می‌رسد، اما مشکل زمانی شروع می‌شود که مجبور می‌شویم دوباره کنترل را به دست بگیریم.
یک مشکل احساسی این وضعیت را بدتر می‌کند: وقتی فردی متوجه کاهش کارایی خود در بازگشت به کارهای دستی می‌شود، ناامیدی را تجربه می‌کند و به جای تلاش برای تقویت دوباره‌ی مهارت‌های خود، بیشتر به فناوری وابسته می‌شود.
آیا در آینده این مسأله حل می‌شود؟
دام نوسان، پدیده‌ای مربوط به زمانه‌ی ماست. ما در دور‌ه‌ی گذاری قرار داریم که در آن هوش مصنوعی و اتوماسیون قدرتمند شده‌اند، اما هنوز به‌طور کامل فراگیر نشده‌اند. این وضعیت باعث می‌شود افراد مدام بین استفاده از فناوری‌های پیشرفته و روش‌های سنتی و دستی در نوسان باشند. اگر استفاده از هوش مصنوعی کاملاً پایدار و همه‌گیر شود، آیا این نوسان از بین می‌رود یا همچنان به عنوان یک معضل باقی می‌ماند؟ در حالی که برخی افراد ممکن است با این وضعیت سازگار شده و به تعادل برسند، عموم دیگر افراد ممکن است در مدیریت صحیح وابستگی خود به هوش مصنوعی ناتوان باشند و مهارت‌هایشان تحلیل رود.
شاید نسل‌های آینده هرگز این اصطکاک را تجربه نکنند، زیرا ممکن است دیگر نیازی به بازگشت به مهارت‌های دستی نداشته باشند. اما اگر به بهای از دست دادن برخی مهارت‌های شناختی انسان این اصطکاک از بین رود چه؟! طرح این پرسش از جانب کسی که خود از پیشروان توسعه‌ی این حوزه است باید ما را به تأمل وادارد.
در پست بعد در دفاع از اینکه چرا باید این نظر نوستار را بسیار جدی گرفت به چند پژوهش تجربی جدید اشاره خواهد شد.
هادی صمدی
@evophilosophy
جان نوستا در پست‌های قبل معرفی شده است. او از جمله پیشگامان فعال در حوزه‌ی هوش مصنوعی است. نکته‌ی قابل توجه در مورد او، توجه هم‌زمانش به تأثيرات انسانی این فناوری و اطلاع‌رسانی فعالانه در این زمینه است. مقاله اخیر او نیز بسیار قابل توجه است. در ادامه، خلاصه این مقاله را بررسی می‌کنیم.
تصور کنید مدتی است فقط با کمک هوش مصنوعی ایمیل نوشته‌اید و حالا می‌خواهید بدون کمک آن ایمیل بنویسید. احتمالاً با مشکل مواجه خواهید شد. همین وضعیت را در نظر بگیرید وقتی به‌طور مداوم از مسیریاب در رانندگی استفاده می‌کنید و ناگهان از کار می‌افتد. در این شرایط، مغز به اصطلاح لکنت می‌گیرد و مهارت‌هایی که قبلاً به‌طور طبیعی انجام می‌شدند، به راحتی قابل انجام نیستند.
نوستا این پدیده را «دام نوسان هوش مصنوعی» می‌نامد و آن را این‌گونه تعریف می‌کند: جابه‌جایی مداوم بین استفاده از هوش مصنوعی و انجام کارها به صورت دستی که می‌تواند اثرات منفی بر شناخت، عملکرد و حتی ایمنی داشته باشد. دام نوسان با تحلیل رفتن مهارت متفاوت است. در تحلیل رفتن مهارت، ما به مرور زمان انجام کاری را فراموش می‌کنیم. اما دام نوسان، الگویی پیچیده‌تر از سازگاری و انطباق مجدد است؛ چرخه‌ای پیوسته از وابستگی به هوش مصنوعی و تلاش برای بازیابی مهارت‌های دستی. این وضعیت، شامل ناراحتی، کاهش کارایی و حتی خطرات احتمالی ناشی از تغییر مداوم بین حالت‌های شناختیِ تقویت‌شده‌باهوش‌مصنوعی و حالت‌های سنتی است. به نظر می‌رسد این «مدل جدید» زندگی ما در عصر حاضر باشد، حداقل در آینده‌ای قابل پیش‌بینی.
ما معمولاً فکر می‌کنیم که فناوری‌ها نیروهای افزایشی هستند که توانایی‌های ما را گسترش می‌دهند و ما را بهتر، باهوش‌تر و سریع‌تر می‌کنند. اما واقعیت این است که بسیاری از فناوری‌ها ما را به روش‌های جدیدی از فکر کردن، مسیریابی و کار کردن عادت می‌دهند. وقتی به حالت استفاده نکردن از این فناوری‌ها برمی‌گردیم، به سادگی به وضعیت قبلی خود باز نمی‌گردیم، بلکه نوعی گسست شناختی را تجربه می‌کنیم.
برای مثال، مترجمی که به‌طور مداوم از هوش مصنوعی برای ترجمه استفاده می‌کند، ممکن است پس از مدتی کارایی قبلی خود را از دست بدهد. همچنین، پزشکی که برای تشخیص بیماری‌ها به هوش مصنوعی متکی است، ممکن است در صورت عدم دسترسی به آن، به خصوص در شرایط اورژانسی، دچار تردید شود و توانایی تشخیص شهودی خود را از دست دهد.
در این موارد، مشکل فقط از دست دادن مهارت نیست. مغز که به استفاده از این فناوری‌ها عادت کرده، در برابر تغییر و بازگشت به روش‌های قبلی مقاومت نشان می‌دهد. فناوری‌ها به جنبه‌های بسیار اساسی انسانی ما نفوذ می‌کنند.
از یکسو اگر هوش مصنوعی به شکل استراتژیک استفاده شود ممکن است با رشد مثبت شناختی همراه باشد. اما از سوی دیگر می‌تواند به تحلیل رفتن مهارت‌ها بیانجامد. این حالت وقتی رخ می‌دهد که اتکا به هوش مصنوعی بیش از حد و بدون کنترل باشد. وقتی یک ابزار جدید وارد روند کار ما می‌شود، ما بخشی از وظایف شناختی خود را به آن ابزار می‌سپاریم؛ چه حافظه باشد (مانند موتورهای جستجو)، چه تصمیم‌گیری (مانند هوش مصنوعی در پزشکی) یا آگاهی از محیط (مانند رانندگی خودکار). این واگذاری وظایف مفید به نظر می‌رسد، اما مشکل زمانی شروع می‌شود که مجبور می‌شویم دوباره کنترل را به دست بگیریم.
یک مشکل احساسی این وضعیت را بدتر می‌کند: وقتی فردی متوجه کاهش کارایی خود در بازگشت به کارهای دستی می‌شود، ناامیدی را تجربه می‌کند و به جای تلاش برای تقویت دوباره‌ی مهارت‌های خود، بیشتر به فناوری وابسته می‌شود.
آیا در آینده این مسأله حل می‌شود؟
دام نوسان، پدیده‌ای مربوط به زمانه‌ی ماست. ما در دور‌ه‌ی گذاری قرار داریم که در آن هوش مصنوعی و اتوماسیون قدرتمند شده‌اند، اما هنوز به‌طور کامل فراگیر نشده‌اند. این وضعیت باعث می‌شود افراد مدام بین استفاده از فناوری‌های پیشرفته و روش‌های سنتی و دستی در نوسان باشند. اگر استفاده از هوش مصنوعی کاملاً پایدار و همه‌گیر شود، آیا این نوسان از بین می‌رود یا همچنان به عنوان یک معضل باقی می‌ماند؟ در حالی که برخی افراد ممکن است با این وضعیت سازگار شده و به تعادل برسند، عموم دیگر افراد ممکن است در مدیریت صحیح وابستگی خود به هوش مصنوعی ناتوان باشند و مهارت‌هایشان تحلیل رود.
شاید نسل‌های آینده هرگز این اصطکاک را تجربه نکنند، زیرا ممکن است دیگر نیازی به بازگشت به مهارت‌های دستی نداشته باشند. اما اگر به بهای از دست دادن برخی مهارت‌های شناختی انسان این اصطکاک از بین رود چه؟! طرح این پرسش از جانب کسی که خود از پیشروان توسعه‌ی این حوزه است باید ما را به تأمل وادارد.
در پست بعد در دفاع از اینکه چرا باید این نظر نوستار را بسیار جدی گرفت به چند پژوهش تجربی جدید اشاره خواهد شد.
هادی صمدی
@evophilosophy