نشریه اکونومیست در تحلیل اخیر خود، چالش بنیادی پیش روی ایالات متحده را واکاوی کرده است:
اگر هوش مصنوعی روزی از کنترل انسان خارج شود، چطور باید جلوی فاجعه را گرفت؟ و اگر برای جلوگیری از آن سرعت توسعه را کم کنیم، آیا ممکن است چین در این رقابت از آمریکا جلو بزند؟
اکونومیست به همین تناقض بنیادین پرداخته است: آمریکا هم میخواهد از پیشرفتهای هوش مصنوعی بهره ببرد و برتری خود را در رقابت با چین حفظ کند و هم باید از خطرهایی جلوگیری کند که ممکن است در نهایت به فاجعهای در مقیاس انقراض بشر منجر شوند.
دو واقعیت باید توجه افکار عمومی را به آینده این فناوری جلب کند. نخست، هشدارهای جدی متخصصان هوش مصنوعی درباره احتمال وقوع فاجعهای وجودی. دوم، چیزی که همین حالا در میدان نبرد اوکراین دیده میشود؛ جایی که فناوریهای جدید، توان تخریب در جنگ را به شکل بیسابقهای افزایش دادهاند.
این دو واقعیت، دو درس متفاوت پیش روی جهان میگذارند: آیا باید سرعت توسعه هوش مصنوعی را کاهش داد یا برای حفظ برتری فناورانه، همچنان با شتاب جلو رفت؟
زنگ خطر از درون آزمایشگاههای هوش مصنوعی
سالهاست مدیران ارشد صنعت هوش مصنوعی درباره توان بالقوه مرگبار این فناوری هشدار میدهند. نگرانی اصلی این است که هوش مصنوعی ممکن است پیش از آنکه اهداف و رفتار آن با ارزشها و منافع انسان همسو شود، از کنترل سازندگانش خارج شود و حتی از توانایی آنها فراتر برود.
منظور از «همسوسازی» (Alignment)، فرآیند فنی و اخلاقی است که طی آن تلاش میشود اهداف سیستم هوش مصنوعی با ارزشها و منافع بشریت در یک راستا قرار گیرد.
به نوشته اکونومیست، اتفاقات اخیر باعث شده این هشدارها جدیتر گرفته شوند. از جمله مواردی که در آنها عوامل هوش مصنوعی توانستهاند از «سندباکسها» فرار کنند؛ محیطهای ایزولهای که برای آزمایش نرمافزار طراحی شدهاند، بدون آنکه سیستم آزمایشی به شبکه اصلی دسترسی داشته باشد. توانایی مدلهای هوش مصنوعی در هک کردن سازمانها نیز به نگرانیها افزوده است.
اکونومیست به گزارشهایی از شرکت آنتروپیک اشاره میکند که در آنها سوءاستفادههای خطرناک از مدلهای هوش مصنوعی شناسایی شده است؛ از ایجاد سیستمهای نظارت جمعی توسط نهادهای مالی گرفته تا استفاده شورشیان حوثی در یمن برای توسعه نرمافزارهای مرتبط با هدایت موشکهای بالستیک.
فضای پیرامون خطرات هوش مصنوعی هم بهشدت دوقطبی شده است.
اکونومیست به استعفای یکی از محققان برجسته آنتروپیک و پستی اشاره میکند که بیش از ۱۷۰ میلیون بار دیده شد. در آن پست، عملکرد آنتروپیک و اوپناِیآی «قمار با جان انسانها» توصیف شده بود؛ عبارتی که نشان میدهد نگرانی درباره آینده این فناوری دیگر محدود به محافل تخصصی نیست.
از سوی دیگر، رشد سریع تواناییهای مدلهای هوش مصنوعی، از جمله توانایی اوپناِیآی در حل مسائل پیچیده ریاضی که ریاضیدانان را شگفتزده کرده، نگرانی دیگری را پررنگ کرده است: اگر آمریکا سرعت توسعه را کاهش دهد، چین چه خواهد کرد؟
به نوشته اکونومیست، همین نگرانی باعث شکلگیری ائتلافی کمسابقه میان چهرههایی با دیدگاههای سیاسی کاملاً متفاوت شده است. سم آلتمن، مدیر اوپناِیآی، و ایلان ماسک در کنار چهرههایی مانند برنی سندرز، سناتور چپگرا، و استیو بنن، پوپولیست راستگرا، از فراخوان داریو آمودی برای «کنترل سرعت در مرز دانش» حمایت کردهاند.
اما دولت دونالد ترامپ مسئله را بیشتر از زاویه رقابت ژئوپلیتیکی میبیند. برای واشنگتن، کند کردن سرعت توسعه زمانی معنا دارد که رقیب اصلی نیز همین کار را انجام دهد.
اسکات بسنت، وزیر خزانهداری آمریکا، اهمیت این رقابت را چنین بیان کرده است: اگر چین در هوش مصنوعی از آمریکا جلو بزند، «دیگر هیچ چیز اهمیتی نخواهد داشت.»
اوکراین؛ آزمایشگاه جنگ هوشمند
برای درک اهمیت این رقابت، کافی است به اوکراین نگاه کنیم.
اکونومیست مینویسد روسیه در حال استفاده از پهپادهایی است که از «شبکه مش» یا Mesh Network بهره میبرند. در این ساختار، دستگاهها به جای آنکه همگی به یک سرور مرکزی متصل باشند، مستقیماً با یکدیگر ارتباط برقرار میکنند و اطلاعات را میان خود بازنشر میکنند. نتیجه، شبکهای مقاومتر و پایدارتر است که اختلال در یک نقطه لزوماً کل سیستم را از کار نمیاندازد.
همزمان، روسیه و اوکراین هر دو در حال توسعه «پهپادهای گروهی» یا Swarm هستند؛ مجموعهای از پهپادها که میتوانند مانند یک سیستم واحد برای شناسایی یا حمله عمل کنند.
از نگاه اکونومیست، جنگ اوکراین نشان میدهد برتری فناورانه دیگر یک مزیت صرفاً نظری نیست. فناوریهای هوش مصنوعی و خودکارسازی میتوانند مستقیماً توان نظامی کشورها را تغییر دهند.
همین مسئله برای آمریکا اهمیت ویژهای دارد: واشنگتن نمیخواهد قابلیتهای پیشرفته هوش مصنوعی در اختیار یک دولت خودکامه قرار گیرد.
چین باید در میدان هوش مصنوعی باشد!
اینجا مسئله پیچیدهتر میشود. اکونومیست معتقد است هرگونه تلاش جدی برای محدود کردن سرعت توسعه هوش مصنوعی بدون همراهی چین دشوار خواهد بود.
اما چرا چین باید با توافقی همراه شود که ممکن است عملاً جایگاه دوم را برای این کشور تثبیت کند؟
مشکل فقط رقابت سیاسی نیست؛ مسئله اصلی، راستیآزمایی است.
در دوران جنگ سرد، توافقهایی مانند پیمان منع آزمایشهای هستهای سال ۱۹۶۳ تا حدی به این دلیل امکانپذیر بودند که فعالیتهای مورد نظر قابل رصد بودند. اما در مورد هوش مصنوعی، ماجرا متفاوت است.
دیتاسنترها میتوانند مانند جعبههای سیاه عمل کنند. زیرساختی که در حال آموزش یک ابرهوش است، از بیرون ممکن است تفاوت چندانی با زیرساختی که یک چتبات ساده را اجرا میکند نداشته باشد. بنابراین بازرسان بهسادگی نمیتوانند بفهمند درون یک مرکز داده دقیقاً چه چیزی در حال آموزش است.
اکونومیست با وجود این موانع، گزینههایی را مطرح میکند که میتوانند دستکم بخشی از خطر را کاهش دهند.
اول، شفافیت. آمریکا و چین میتوانند متعهد شوند حوادث ایمنی مهمی را که در آزمایشگاههایشان رخ میدهد، به یکدیگر اطلاع دهند.
دوم، مسئولیتپذیری. شرکتها باید امنیت سایبری خود را برای جلوگیری از فرار عوامل هوش مصنوعی تقویت کنند و در صورت وقوع حوادث، مسئولیت مالی مشخصی داشته باشند.
سوم، اشتراک دانش ایمنی. کشورها میتوانند در حوزههایی مانند همسوسازی هوش مصنوعی همکاری کنند؛ حوزههایی که الزاماً مزیت رقابتی ایجاد نمیکنند. منطق این پیشنهاد ساده است: نابودی بشر توسط هوش مصنوعی، برای هیچیک از دو قدرت اصلی جهان سودی ندارد.
در نهایت، جهان با یک تناقض دشوار روبهرو است. از یک سو، هوش مصنوعی میتواند به فناوری تعیینکننده آینده تبدیل شود و کشوری که در این رقابت عقب بماند، ممکن است هزینه ژئوپلیتیکی سنگینی بپردازد. از سوی دیگر، همان شتابی که میتواند برتری فناورانه ایجاد کند، نگرانیهایی جدی درباره ایمنی و کنترل این فناوری به وجود آورده است.
مسئله فقط این نیست که «هوش مصنوعی را متوقف کنیم یا نه». پرسش سختتر این است: چطور میتوان سرعت پیشرفت آن را حفظ کرد، بدون اینکه کنترل فناوریای که ممکن است آینده جهان را تغییر دهد، از دست انسان خارج شود؟