بالاخره، بیایید کمی از این مه و غبار بکاهیم. گفتمان پیرامون هوش مصنوعی پر از افسانه است—داستانهایی که باورپذیر به نظر میرسند اما در برابر بررسی دقیق دوام نمیآورند. این افسانهها مانع تفکر شفاف و اقدام مؤثر میشوند. بیایید سه مورد از بزرگترین آنها را باطل کنیم.
🧠 افسانه شماره ۱: عاملهای هوش مصنوعی در حال دارای شعور شدن هستند
این افسانه توسط روانیِ هوش مصنوعی مدرن تقویت میشود. وقتی یک ماشین میتواند مکالمهای را پیش ببرد، شعر بگوید و چیزی را بیان کند که شبیه به احساس به نظر میرسد، طبیعی است که بپرسیم: آیا چیزی در آنجا در حال بیدار شدن است؟ آیا جرقهای از آگاهی وجود دارد؟
پاسخ، تا جایی که کسی میتواند بگوید، خیر است.
شعور—ظرفیت احساس کردن، تجربه کردن و آگاه بودن—چیزی نیست که حتی در انسانها هم آن را خوب درک کنیم. اما هر چه که باشد، عاملهای هوش مصنوعی آن را ندارند. آنها هیچ زندگی درونی ندارند. جهان را تجربه نمیکنند. آنها ورودیها را پردازش میکنند و بر اساس الگوهای آماری خروجی تولید میکنند. «من» در پاسخهایشان، یک سهولت دستوری است، نه بازتابی از خویشتن.
وقتی یک عامل میگوید «احساس کلافگی میکنم»، در حال بیان یک وضعیت درونی نیست. در حال تولید متنی است که با الگوی آنچه انسانها هنگام کلافگی میگویند مطابقت دارد. کلمات درست هستند، اما احساس پشت آنها وجود ندارد.
این موضوع اهمیت دارد زیرا باور به شعور منجر به انتظارات اشتباه میشود. شما شروع به فکر کردن میکنید که عامل نیتها، تمایلات و ارادهای مستقل دارد. ندارد. این یک ابزار است—یک ابزار فوقالعاده پیچیده، اما با این حال فقط یک ابزار. رفتار کردن با آن به عنوان چیزی فراتر از این، منجر به سردرگمی، اعتماد نابجا و تصمیمات ضعیف میشود.
💼 افسانه شماره ۲: عاملهای هوش مصنوعی اکثر مشاغل را حذف خواهند کرد
این افسانه دو طعم دارد: نسخه «وحشتآور» که میگوید «همه جایگزین خواهند شد» و نسخه کمی پیچیدهتر که میگوید «اکثر وظایف خودکار خواهند شد». هر دو اغراقآمیز هستند.
بیایید با نسخه وحشتآور شروع کنیم. بله، عاملهای هوش مصنوعی کار را تغییر خواهند داد. آنها وظایف زیادی را که امروزه انسانها انجام میدهند خودکار خواهند کرد. اما در طول تاریخ، خودکارسازی همواره بیشتر ماهیت کار را تغییر داده است تا اینکه خودِ کار را حذف کند. انقلاب کشاورزی کشاورزی را حذف نکرد؛ بلکه درصد کشاورزان را از ۹۰٪ به ۲٪ کاهش داد و در عین حال تولید غذا را به شدت افزایش داد. انقلاب صنعتی تولید را حذف نکرد؛ بلکه آن را دگرگون کرد و انواع جدیدی از مشاغل را ایجاد کرد که هیچکس قبلاً نمیتوانست تصورشان کند.
همین الگو اکنون در حال تکرار است. عاملهای هوش مصنوعی وظایف خاصی را خودکار خواهند کرد—تحقیق، پیشنویس، زمانبندی، تحلیل—اما انواع جدیدی از کار را نیز ایجاد خواهند کرد: نظارت بر عاملها، طراحی گردش کار، تعریف پیامدها و تضمین کیفیت. و آنها قابلیتهای انسانی را تقویت میکنند، که هر فرد را بهرهورتر میسازد و این امر از نظر تاریخی منجر به کار بیشتر میشود، نه کمتر.
حالا نسخه «اکثر وظایف خودکار خواهند شد». این از نظر فنی درست است اما گمراهکننده. بله، بسیاری از وظایف گسسته را میتوان خودکار کرد. اما مشاغل مجموعهای از وظایف گسسته نیستند؛ بلکه کلهای یکپارچهای هستند که به قضاوت، بافت، رابطه و تطبیق نیاز دارند. خودکارسازی وظایف، شغل را حذف نمیکند؛ بلکه تغییر میدهد که دارنده شغل زمان خود را صرف چه چیزی کند.
یک وکیل که تحقیقاتش خودکار میشود، بیکار نمیشود. او زمان کمتری را در کتابخانه و زمان بیشتری را با مشتریان، زمان بیشتری را روی استراتژی و زمان بیشتری را روی جنبههایی از وکالت میگذراند که واقعاً به یک انسان نیاز دارند. شغل تغییر میکند؛ ناپدید نمیشود.
خطر واقعی این نیست که عاملهای هوش مصنوعی مشاغل را حذف خواهند کرد. خطر واقعی این است که افرادی که یاد میگیرند با عاملها کار کنند، افرادی را که یاد نمیگیرند جایگزین خواهند کرد. رقابت انسان در برابر ماشین نیست؛ بلکه انسانِ مجهز به ماشین در برابر انسانِ بدون ماشین است.
🎯 افسانه شماره ۳: عاملهای هوش مصنوعی کاملاً دقیق هستند
این افسانه شاید خطرناکترین باشد، زیرا بسیار فریبنده است. عاملهای هوش مصنوعی با چنین اعتمادبهنفسی صحبت میکنند و با چنین روانی مینویسند که به راحتی میتوان فرض کرد آنها میدانند درباره چه چیزی صحبت میکنند. اما نمیدانند.
عاملهای هوش مصنوعی اشتباه میکنند. آنها اغلب اشتباه میکنند و به روشهایی اشتباه میکنند که تشخیصشان دشوار است. آنها حقایق را اختراع میکنند—پدیدهای که به آن «توهّم» (Hallucination) میگویند—زمانی که الگوهای آماریشان آنها را به سمت تولید اطلاعاتی کاملاً ساختگی اما به نظر منطقی سوق میدهند. تاریخها را اشتباه میگویند، نامها را اشتباه میگویند، حقایق پایه را اشتباه میگویند. آنها در اشتباهاتشان اعتمادبهنفس دارند، که این موضوع تشخیص خطاها را سختتر میکند.
این مشکل با این واقعیت تشدید میشود که عاملها در مقتدر به نظر رسیدن خوب هستند. انسانی که چیزی را نمیداند معمولاً احتیاط میکند، عدم قطعیت را بیان میکند و به نادانی خود اعتراف میکند. یک عامل هرگز این کار را نمیکند. با اعتمادبهنفس کامل ادعا میکند که نبرد هیستینگز در سال ۱۰۶۷ رخ داده (یک سال اشتباه)، که آب در هر ارتفاعی در ۱۰۰ درجه سانتیگراد میجوشد (غلط)، یا اینکه مطالعه خاصی چیزی را ثابت میکند که ثابت نکرده (کاملاً ساختگی). و همه اینها را با نثری بینقص بیان میکند.
این بدان معناست که کار با عاملها نیازمند یک حالت همیشگی از راستیآزمایی است. شما نمیتوانید فرض کنید که چون درست به نظر میرسد، پس درست است. باید بررسی کنید. باید اعتبارسنجی کنید. باید شکاکیت سالم خود را حفظ کنید.
به مرور زمان، همانطور که با یک عامل کار میکنید، حالتهای شکست آن را یاد میگیرید. میدانید چه نوع وظایفی را خوب انجام میدهد و کجاها تمایل به لغزش دارد. اما این یادگیری هرگز نیاز به نظارت را از بین نمیبرد. فقط نظارت شما را هدفمندتر میکند.