حالا وقت یک بررسی واقع‌بینانه است. در هیاهوی اشتیاق نسبت به عامل‌های هوش مصنوعی، خیلی راحت است که گرفتار «تفکر جادویی» شویم. تیتر اخبار فریاد می‌زنند که ماشین‌ها در حال تصرف همه‌چیز هستند، درباره پایان کار و هوش فراانسان صحبت می‌کنند. وقت آن است که آرام شویم و به کارهایی نگاه کنیم که عامل‌ها واقعاً نمی‌توانند انجام دهند—یا حداقل، هنوز نمی‌توانند.
درک این محدودیت‌ها بدبینی نیست؛ بلکه عمل‌گرایی است. این یعنی بدانید کجا باید خودتان درگیر بمانید، کجا باید راستی‌آزمایی کنید و کجا باید شکاکیت سالم خود را حفظ کنید.


🧠 آن‌ها نمی‌توانند واقعاً درک کنند

این مهم‌ترین مورد است و ارزش دارد کمی روی آن مکث کنیم.
عامل‌های هوش مصنوعی زبان را با روانی شگفت‌انگیزی پردازش می‌کنند. می‌توانند شعر بنویسند، به سؤالات پاسخ دهند و مکالماتی را پیش بکشند که کاملاً انسانی به نظر می‌رسند. اما آن‌ها به شیوه‌ای که شما درک می‌کنید، درک نمی‌کنند.
وقتی شما جمله‌ای را می‌خوانید، یک عمر تجربه زیسته و حسی را همراه خود می‌آورید. می‌دانید غمگین بودن، گرسنه بودن یا عاشق بودن چه حسی دارد. می‌دانید ایستادن زیر باران، بغل کردن یک نوزاد یا از دست دادن کسی که دوستش دارید چگونه است. این دانش در تک‌تک کلماتی که می‌خوانید و می‌نویسید تنیده شده است. معنا در تجربه ریشه دارد.

یک عامل هوش مصنوعی هیچ‌کدام از این‌ها را ندارد. او فقط متن دارد—میلیاردها کلمه، اما بدون هیچ تجربه‌ای در پشت آن‌ها. می‌داند که کلمه «غمگین» با «اشک»، «فقدان» و «افسردگی» مرتبط است، زیرا این کلمات در داده‌های آموزشی‌اش با هم ظاهر شده‌اند. اما نمی‌داند غم چه حسی دارد. نمی‌فهمد چرا فقدان اهمیت دارد. او در حال دستکاری نمادهاست، بدون هیچ ارتباطی با چیزهایی که آن نمادها نشان می‌دهند.
این منجر به نوع خاصی از خطا می‌شود: عامل می‌تواند کاملاً روان صحبت کند در حالی که کاملاً در اشتباه است. می‌تواند مقاله‌ای زیبا درباره سوگ بنویسد که از نظر احساسی تأثیرگذار و از نظر واقعی دقیق باشد، اما هیچ ایده‌ای نداشته باشد که درباره چه چیزی صحبت می‌کند. کلمات درست هستند، اما درکِ پشت آن‌ها غایب است.

💡 برای کار شما این یعنی: عامل می‌تواند شریک نوشتاری شما باشد، اما نمی‌تواند وجدان شما باشد. می‌تواند به شما در بیان ایده‌ها کمک کند، اما نمی‌تواند به شما بگوید کدام ایده‌ها ارزش بیان شدن دارند. می‌تواند یک سند را خلاصه کند، اما نمی‌تواند به شما بگوید که آیا آن سند اهمیت دارد یا خیر.


🎨 آن‌ها نمی‌توانند واقعاً خلاق باشند

این مورد بحث‌برانگیز است، پس بیایید دقیق باشیم.
عامل‌های هوش مصنوعی می‌توانند ایده‌های موجود را به روش‌های نوآورانه‌ای ترکیب کنند. می‌توانند مفاهیمی از اینجا، سبک‌هایی از آنجا و ساختارهایی از جای دیگر را بردارند و آن‌ها را با هم ترکیب کنند تا چیزی شبیه به یک چیز جدید بسازند. این شکلی از خلاقیت است و واقعاً مفید است. بسیاری از مثال‌های این کتاب به آن متکی هستند.

اما شکل دیگری از خلاقیت وجود دارد—همان نوعی که کل چارچوب را در هم می‌شکند. همان نوعی که چیزی را که قبلاً وجود نداشته اختراع می‌کند، امکانی را می‌بیند که هیچ‌کس ندیده، و به جای پر کردن یک دسته‌بندی موجود، یک دسته‌بندی کاملاً جدید می‌سازد. این نوع خلاقیت نیازمند قدم بیرون گذاشتن از داده‌های آموزشی، تصور کردنِ آنچه وجود ندارد، و جهشی به سوی ناشناخته‌هاست.
عامل‌های هوش مصنوعی نمی‌توانند این کار را بکنند. آن‌ها ذاتاً رو به گذشته هستند. بر اساس آنچه قبلاً وجود داشته آموزش دیده‌اند. می‌توانند بازترکیب، بازترکیب و پالایش کنند، اما نمی‌توانند واقعاً چیزی را از صفر خلق کنند. الگوهای آماری موجود در داده‌های آموزشی‌شان، آنچه را که می‌توانند تولید کنند محدود می‌کند. آن‌ها نمی‌توانند افکاری را بیندیشند که هرگز اندیشیده نشده‌اند.

💡 برای کار شما این یعنی: عامل می‌تواند به شما در اجرا کمک کند، اما نمی‌تواند چشم‌انداز شما را تعیین کند. می‌تواند صدها variation (تنوع) روی ایده شما تولید کند، اما نمی‌تواند در وهله اول آن ایده را به شما بدهد. آن بخش—جرقه اولیه—همچنان متعلق به شماست.


⚖️ آن‌ها نمی‌توانند پاسخگو باشند

این یک نکته عملی با پیامدهای واقعی حقوقی و اخلاقی است.
وقتی یک عامل اشتباه می‌کند—وقتی ایمیل اشتباهی می‌فرستد، پرواز اشتباهی رزرو می‌کند، یا یک قطعه اطلاعات حیاتی را اشتباه تفسیر می‌کند—چه کسی مسئول است؟ نه خودِ عامل. عامل هیچ شخصیت حقوقی، هیچ دارایی و هیچ توانایی برای مواجهه با پیامدها ندارد. مسئولیت مستقیماً به سمت شما، انسانی که آن را به کار گرفته، برمی‌گردد.

این مهم‌تر از آن است که به نظر می‌رسد. در کار سنتی، پاسخگویی یک بازدارنده برای رفتار است. افراد مراقب هستند چون می‌دانند در قبال اشتباهاتشان پاسخگو خواهند بود. عامل‌ها چنین بازدارنده‌ای ندارند. آن‌ها می‌توانند با اعتمادبه‌نفس اشتباه کنند، با روانی اشتباه کنند، و به روش‌هایی اشتباه کنند که کاملاً متقاعدکننده به نظر می‌رسند. و از آنجا که از بازخورد یاد می‌گیرند، حتی می‌توانند یاد بگیرند که به روش‌های متقاعدکننده‌تری اشتباه کنند! اگر اشتباهات را نگیرید، عامل آن‌ها را در مدل خود ادغام کرده و با اعتمادبه‌نفسی فزاینده تکرار می‌کند.

💡 برای کار شما این یعنی: عامل هرگز مرجع نهایی نیست. این شمایید. همیشه. مهم نیست عامل چقدر خوب شود، مهم نیست چقدر به آن اعتماد کنید، مسئولیت نهایی پیامدها با شماست. نظارت یک انتخاب نیست؛ بلکه یک ضرورت است.


🌌 آن‌ها نمی‌توانند با نوآوریِ کاملاً جدید کنار بیایند

عامل‌های هوش مصنوعی در گذشته آموزش دیده‌اند. آن‌ها می‌دانند چه اتفاقی افتاده، مردم چه نوشته‌اند و چه مشکلاتی حل شده است. آن‌ها در برخورد با موقعیت‌هایی که شبیه داده‌های آموزشی‌شان است، عالی عمل می‌کنند.
اما وقتی چیز کاملاً جدیدی ظهور می‌کند—یک بحران بی‌سابقه، یک فرصت پیش‌بینی‌نشده، یا سؤالی که هرگز پرسیده نشده—عامل‌ها دچار مشکل می‌شوند. آن‌ها الگوی مرتبطی برای استخراج ندارند. به تمثیل، تقریب، و تلاش برای جا دادن موقعیت جدید در دسته‌بندی‌های قدیمی روی می‌آورند. گاهی این کار می‌کند. اما اغلب اوقات نه.

به همین دلیل است که عامل‌ها در «حفظ و بهینه‌سازی» بهتر از «اختراع و برهم زدن وضع موجود» عمل می‌کنند. آن‌ها می‌توانند سیستم‌های موجود شما را به روانی نگه دارند، اما این‌ها نیستند که قرار است چیز بزرگ بعدی را تصور کنند.

💡 برای کار شما این یعنی: عامل‌ها شرکای عملیاتی شما هستند، نه چشم‌اندازپردازان استراتژیک شما. از آن‌ها برای اجرا، حفظ و بهینه‌سازی استفاده کنید. کارهای کاملاً جدید—کارِ تصور کردنِ اینکه قدم بعدی چیست—را برای خودتان نگه دارید.


🛡️ نمی‌توان به طور کورکورانه به آن‌ها اعتماد کرد

این محدودیتِ خلاصه‌ای است که همه موارد دیگر را به هم پیوند می‌زند.
به دلیل اینکه عامل‌ها واقعاً درک نمی‌کنند، به دلیل اینکه خلاقیت واقعی ندارند، به دلیل اینکه نمی‌توانند پاسخگو باشند، به دلیل اینکه با نوآوریِ کاملاً جدید مشکل دارند—به دلیل تمام این موارد، نمی‌توان به طور ضمنی و کورکورانه به آن‌ها اعتماد کرد. آن‌ها اشتباه خواهند کرد. با اعتمادبه‌نفس در اشتباه خواهند بود. منظور شما را به روش‌هایی سوءتعبیر خواهند کرد که دامنه آن از خنده‌دار تا فاجعه‌بار متغیر است.

این به آن معنا نیست که عامل‌ها مفید نیستند. این به آن معناست که آن‌ها به نظارت نیاز دارند. این به آن معناست که اعتماد باید به دست آورده شود و راستی‌آزمایی گردد، نه اینکه فرض شود. این به آن معناست که مشارکت انسان و هوش مصنوعی دقیقاً همین است—یک «مشارکت»، نه یک «جایگزینی».

🌟 متخصصانی که در عصر عامل‌ها موفق خواهند شد، کسانی هستند که یاد می‌گیرند «اعتماد کنند اما راستی‌آزمایی کنند»، کسانی که «تفویض اختیار می‌کنند اما نظارت می‌کنند»، و کسانی که از نقاط قوت ماشین بهره می‌برند در حالی که نسبت به نقاط ضعف آن هوشیار باقی می‌مانند.