هشدار تند وال‌استریت ژورنال: وقتی هوش مصنوعی به «بمب هسته‌ای» تبدیل می‌شود

 در تابستان ۱۹۶۲، صحرای نوادا لرزید. وزارت انرژی آمریکا بمبی هیدروژنی را در ۱۲۰ کیلومتری جنوب غربی لاس‌وگاس منفجر کرد تا ثابت کند سلاح‌های هسته‌ای می‌توانند برای کارهای ساده‌ای مثل خاک‌برداری هم مفید باشند. نتیجه اما یک فاجعه بود؛ ذرات رادیواکتیو تا ایالت داکوتای جنوبی پخش شد و جان بیش از ۱۳ میلیون آمریکایی را به خطر انداخت.

این ماجرا که بخشی از مجموعه مقالات «آمریکا ۲۵۰» برای بررسی ۲۵۰ سال تاریخ اقتصاد این کشور است، شباهت ترسناکی به رویدادهای امروز دارد. به گزارش زومان، وال‌استریت ژورنال می‌نویسد تب تند هوش مصنوعی و تلاش برای گنجاندن آن در تک‌تک بخش‌های زندگی، دقیقا یادآور پروژه هسته‌ای «شخم‌زن» و همان توهم قدیمی است: اینکه صرفا چون توانایی انجام کاری را داریم، پس حتما باید آن را امتحان کنیم.

غولی که امروز از چراغ جادو بیرون آمده، شاید ابرهای رادیواکتیو تولید نکند، اما ترکش‌های آن به‌زودی نمایان خواهد شد. تعدیل نیروی گسترده، خشم مشتریان و نابودی سرمایه شرکت‌هایی که این فناوری را در جای اشتباه به کار می‌گیرند، تنها بخشی از این تلفات است.

نویسنده این گزارش، پس از یک دهه مصاحبه با خالقان هوش مصنوعی، برندگان جایزه نوبل و صدها کاربر عادی، به یک حقیقت ساده رسیده است: ماهرترین افراد در استفاده از ماشین‌ها، دقیقا همان‌هایی هستند که می‌دانند کجا نباید از آن‌ها استفاده کرد.

دن لیوا، از مدیران سابق اپل و ای‌بی (eBay)، یکی از پیشگامان استفاده از هوش مصنوعی در مراکز تماس است. او باور دارد کارهای زیادی هست که ماشین می‌تواند انجام دهد، اما قطعا نباید انجامشان دهد.

خط قرمز کجاست؟ هرجا که به «همدلی انسانی» نیاز است.

لیوا یک مثال ساده می‌زند. اگر کسی بخواهد حساب کاربری‌اش را لغو کند، هوش مصنوعی در کسری از ثانیه این کار را می‌کند. اما اگر بیوه‌ای تماس بگیرد تا حساب همسر تازه درگذشته‌اش را ببندد، چه؟ سپردن این تماس به یک ربات بی‌احساس، فاجعه‌بار است.

در سوی دیگر، ناتالی دسین ایستاده است؛ پرستار و متخصص پزشکی خانواده و روان‌پزشکی. او از ده‌ها ابزار ماشینی استفاده می‌کند و هفته‌ای ۱۵ تا ۲۰ ساعت از وقتش را می‌خرد. این زمان ذخیره‌شده به او اجازه می‌دهد به عنوان یک پزشک مستقل، به امور ۳۰۰ بیمار رسیدگی کند. اما بزرگ‌ترین دستاورد او سرعت نیست. او می‌گوید این فناوری به او اجازه می‌دهد در جلسات مشاوره، «حضور کامل» داشته باشد. ربات‌ها فرم‌های بیمه را پر می‌کنند و او می‌تواند تمام حواسش را به چشم‌های بیمار بدهد.

او می‌گوید: «اگر در روان‌پزشکی ارتباط واقعی نسازید، نشانه‌ها گم می‌شوند. وقتی از بیمار می‌پرسم آیا به خودکشی فکر می‌کند، باید به چشمانش نگاه کنم تا حقیقت را بفهمم.» در واقع، ماشین‌ها باید جاهای خالی را پر کنند تا انسان‌ها فرصت کنند انسان بمانند.

یکی از توصیه‌های همیشگی به کسب‌وکارهای کوچک این است: برای نوشتن متن‌های تبلیغاتی خود سراغ هوش مصنوعی نروید. این حرف شاید با وعده‌های پر زرق و برق این روزها در تضاد باشد. ماشین‌ها نویسندگان بدی نیستند، اما وقتی همه می‌توانند با فشردن یک دکمه کوهی از کلمات را تولید کنند، آنچه ارزش پیدا می‌کند «اصالت» است؛ یعنی حس واقعی و انسانی که پشت یک متن وجود دارد.

شرکت‌های بزرگ فناوری این را بهتر از هر کسی می‌دانند. طنز تلخ ماجرا اینجاست که سازندگان همین ماشین‌های هوشمند، حالا در به در دنبال انسان‌های واقعی می‌گردند تا در میان زباله‌دان محتواهای ماشینی شبکه‌های اجتماعی، داستان‌هایی با روح و احساس بنویسند. ظهور اینفلوئنسرهایی که جلوی دوربین زل می‌زنند و مستقیم با مخاطب حرف می‌زنند نیز ریشه در همین نیاز دارد؛ تقلید احساس واقعی انسانی با کدهای کامپیوتری هنوز کار بسیار سختی است.

وقتی لیوا مدیر عملیات پرداخت در ای‌بی بود، یک ترس بزرگ داشت: اگر سیستم هوشمند ما تصمیمی بگیرد و بعداً مشکلی پیش بیاید، آیا می‌توانیم دلیل آن تصمیم را توضیح دهیم؟

این ترس باید کابوس هر کسی باشد که از هوش مصنوعی مولد (سیستم‌هایی که محتوای جدید تولید می‌کنند) در حوزه‌های حساسی مثل پزشکی، حقوق یا مالی استفاده می‌کند. مدل‌های زبانی امروزی هنوز شبیه «جعبه سیاه» هستند؛ یعنی سیستم‌های پیچیده‌ای که نحوه تصمیم‌گیری و پردازش اطلاعات در آن‌ها برای خود سازندگانشان هم کاملا شفاف و قابل درک نیست.

وقتی نمی‌توانیم بفهمیم ماشین چگونه به یک نتیجه رسیده، حداقل باید بتوانیم مسیر کارش را کنترل کنیم. مایک والش، مدیرعامل لکسیس‌نکسیس (LexisNexis) که از سال ۱۹۷۳ خدمات تحقیقات حقوقی می‌دهد، راهکار جالبی دارد. مشتریان او حالا به جای جستجو در پرونده‌ها، از سیستم برای نوشتن پیش‌نویس‌های حقوقی استفاده می‌کنند. تفاوت ربات او با چت‌بات‌های معمولی این است که ربات‌های او حق ندارند توهم بزنند و پرونده خیالی بسازند؛ آن‌ها فقط می‌توانند به اسنادی ارجاع دهند که واقعا در پایگاه داده شرکت وجود دارد. با این حال، وکلایی که با این سیستم‌ها کار می‌کنند می‌دانند که در نهایت، مسئولیت قانونی هر اشتباهی بر گردن انسان است، نه ماشین. بنابراین، بازبینی نهایی همیشه با یک جفت چشم انسانی انجام می‌شود.

مدیران عامل عاشق هوش مصنوعی هستند چون فکر می‌کنند بهره‌وری را به آسمان می‌برد. اما کارمندان نظر دیگری دارند. دلیل این شکاف عمیق این است که همه کارها را نمی‌توان به ماشین سپرد.

شرکت‌هایی که با عجله ماشین‌ها را جایگزین آدم‌ها می‌کنند، در حال خودکشی خاموش هستند. آن‌ها از یک طرف «دانش سازمانی» را از دست می‌دهند؛ یعنی آن تجربه و مهارت‌های ناملموسی که سال‌ها در ذهن کارمندانشان انباشته شده است. از طرف دیگر، چرخه پرورش استعدادها را نابود می‌کنند. اگر امروز مهندسان جوان را اخراج کنیم و کارشان را به ماشین بسپاریم، فردا که مهندسان ارشد بازنشسته شوند، هیچ متخصص با تجربه‌ای برای نظارت بر کار ماشین‌ها نخواهیم داشت.

همین حالا شرکت‌هایی که با سر و صدا به سمت اتوماسیون کامل رفتند، در حال عقب‌نشینی و استخدام مجدد نیروهای انسانی هستند. ماشین‌ها گاهی به جای کم کردن حجم کار، فقط فشار را روی دوش افراد متخصص‌تر می‌اندازند. به زودی مشخص خواهد شد چه کسانی در استفاده از فناوری زیاده‌روی کردند و چه کسانی گوهر اصلی تفاوتشان را فدای سرعت کردند.

پروژه «شخم‌زن» در دهه شصت میلادی قرار بود معجزه‌ای برای استفاده صلح‌آمیز از انرژی هسته‌ای باشد، اما به فاجعه‌ای تمام‌عیار تبدیل شد. این پروژه نشان داد که داشتن یک قدرت عظیم، دلیل خوبی برای استفاده از آن در کارهای روزمره نیست.

امروز که هوش مصنوعی در حال نفوذ به خصوصی‌ترین بخش‌های زندگی ماست، تلاش دیوانه‌وار برای حل کردن تمام مشکلات جهان با کدهای کامپیوتری، می‌تواند به همان سرنوشت دچار شود. شاید ما به جای یادگیری نحوه استفاده از ماشین‌ها، بیش از هر زمان دیگری نیاز داریم یاد بگیریم که چه زمانی دوشاخه آن‌ها را از برق بکشیم.