مدیران بزرگ‌ترین شرکت‌های هوش مصنوعی برای روزی آماده می‌شوند که یک حمله سایبری گسترده، خشم مردم و سیاستمداران را علیه این فناوری برانگیزد.
تصور کنید یک روز صبح از خواب بیدار شوید و ببینید نه می‌توانید به حساب بانکی‌تان دسترسی داشته باشید، نه اینترنت درست کار می‌کند و نه حتی از وصل ماندن برق و آب مطمئن هستید. حالا تصور کنید عامل این اختلال گسترده، هوش مصنوعی باشد؛ همان فناوری که قرار بود زندگی را آسان‌تر کند.
این فقط یک سناریوی خیالی نیست. به گزارش آکسیوس، مدیران ارشد شرکت‌هایی مانند اوپن‌ای‌آی و آنتروپیک، پشت درهای بسته در حال بررسی چنین وضعیتی هستند. آن‌ها می‌خواهند بدانند اگر هوش مصنوعی به یک بحران بزرگ منجر شود، چگونه باید با پیامدهای فنی، سیاسی و خشم افکار عمومی روبه‌رو شوند.
نگرانی اصلی درباره یک حمله سایبری گسترده است؛ حمله‌ای که بتواند خدمات مالی، اینترنت یا زیرساخت‌های حیاتی مانند شبکه برق و آب را مختل کند.
وقتی هوش مصنوعی علیه سازندگانش دردسر می‌سازد
برنامه‌ریزی برای بحران اتفاق تازه‌ای نیست. پنتاگون دهه‌هاست سناریوهای جنگی را شبیه‌سازی می‌کند و شرکت‌های بزرگ نیز برای شرایط اضطراری برنامه دارند. اما آکسیوس می‌نویسد تفاوت این ماجرا در نگاه برخی مدیران و پژوهشگران صنعت هوش مصنوعی است؛ کسانی که وقوع یک حادثه فاجعه‌بار را نه صرفاً یک احتمال دور، بلکه اتفاقی تقریباً اجتناب‌ناپذیر می‌دانند.
البته موضع رسمی شرکت‌ها محتاطانه‌تر است. سخنگوی اوپن‌ای‌آی می‌گوید این شرکت برای سناریوهای مختلف تمرین‌های آمادگی برگزار می‌کند، اما هیچ‌کدام را اتفاقی قطعی نمی‌داند. آنتروپیک نیز از اظهارنظر درباره این موضوع خودداری کرده است.
خطر می‌تواند شکل‌های متفاوتی داشته باشد. شاید گروهی از عامل‌های هوش مصنوعی از کنترل محیط آزمایشی خارج شوند یا یک مهاجم بتواند از مدل‌های موجود به شیوه‌ای سوءاستفاده کند که سازندگانشان پیش‌بینی نکرده‌اند.
در هر دو حالت، مسئله فقط خسارت اولیه نیست. پس از وقوع حادثه، احتمالاً رقابتی برای مقصر شناختن شرکت‌ها، مدیران و سیاستمداران آغاز خواهد شد.
در این میان، سم آلتمن، مدیرعامل اوپن‌ای‌آی، داریو آمودی، مدیرعامل آنتروپیک و حتی دونالد ترامپ ممکن است هدف انتقادها قرار بگیرند؛ به‌ویژه آنکه دولت ترامپ تمایل چندانی به گسترش مقررات محدودکننده هوش مصنوعی نشان نداده است.
یک هکر و ده‌ها هزار قربانی
آکسیوس برای نشان دادن ابعاد خطر به حملات سایبری اخیر علیه نهادهای مالی کره جنوبی اشاره می‌کند؛ حملاتی که خبر نفوذ به دو بانک نیز در میان آن‌ها مطرح شده است.
براساس اعلام شرکت امنیت سایبری کراوداسترایک، ظاهراً یک هکر چینی با استفاده از ابزارهای هوش مصنوعی مبتنی بر مدل‌هایی مانند دیپ‌سیک توانسته اطلاعات ده‌ها هزار مشتری بانکی را سرقت کند.
این مهاجم سپس از ابزار برنامه‌نویسی «کلود کد» برای یافتن بازارهایی جهت فروش اطلاعات سرقت‌شده کمک گرفته است.
اهمیت این نمونه در مقیاس حمله است: اگر یک نفر بتواند با کمک هوش مصنوعی چنین خسارتی ایجاد کند، استفاده سازمان‌یافته از همین ابزارها چه پیامدهایی خواهد داشت؟
خاموش کردن هوش مصنوعی؛ راه‌حلی که شاید عملی نباشد
مدیران صنعت هوش مصنوعی فقط نگران خود حادثه نیستند؛ واکنش سیاستمداران پس از آن نیز اهمیت دارد.
به نوشته آکسیوس، برخی مدیران احتمال می‌دهند اگر دموکرات‌ها پس از انتخابات میان‌دوره‌ای آمریکا قدرت بیشتری به دست آورند، برای توقف یا محدودسازی فوری سامانه‌های پیشرفته هوش مصنوعی تلاش کنند.
اما چنین تصمیمی با موانع بزرگی روبه‌روست.
نخست آنکه بسیاری از قانون‌گذاران آمریکایی شناخت کافی از سرعت تحولات این فناوری ندارند. از سوی دیگر، سرمایه‌گذاری در زیرساخت‌های هوش مصنوعی چنان با اقتصاد جهانی گره خورده که توقف ناگهانی آن می‌تواند پیامدهای اقتصادی سنگینی داشته باشد.
مشکل دیگر، مدل‌های متن‌باز هستند؛ مدل‌هایی که نسخه‌های آن‌ها قابل دانلود و استفاده است و کنترل متمرکز همه آن‌ها عملاً دشوار خواهد بود.
برخی کارشناسان امنیت سایبری معتقدند برای مقابله با هوش مصنوعی مخرب، شاید ناچار باشیم از هوش مصنوعی دیگری استفاده کنیم.
یکی از پیشنهادهای مطرح، نصب «کلید قطع اضطراری» روی سامانه‌های پیشرفته است؛ راهکاری که از حمایت‌هایی در هر دو حزب آمریکا و حتی در صنعت فناوری برخوردار است. بااین‌حال، درباره امکان فنی خاموش کردن هم‌زمان همه این سامانه‌ها تردیدهای جدی وجود دارد.
شش تا دوازده ماه تا نخستین شوک؟
به گزارش آکسیوس، شماری از افراد مطلع در صنعت هوش مصنوعی معتقدند یک حادثه فاجعه‌بار بزرگ ممکن است طی شش تا دوازده ماه آینده رخ دهد. این ارزیابی، پیش‌بینی برخی فعالان صنعت است و به معنای قطعی بودن وقوع بحران نیست.
شرکت‌ها در همین راستا از «تیم‌های قرمز» استفاده می‌کنند؛ گروه‌هایی که نقش مهاجم را بازی می‌کنند تا پیش از وقوع حادثه، ضعف‌های خطرناک سامانه‌ها را پیدا کنند.
بخش دیگری از برنامه‌ها نیز بر آموزش سریع نمایندگان کنگره و آماده‌سازی پیشنهادهای قانونی متمرکز است.
مدیران می‌دانند که تصویب مقررات سخت‌گیرانه در شرایط فعلی دشوار است. بااین‌حال، می‌خواهند از همین حالا بر تصمیم‌هایی اثر بگذارند که واشنگتن ممکن است پس از نخستین بحران بزرگ اتخاذ کند.
آکسیوس یادآوری می‌کند که اختلافات حزبی همیشه مانع تصمیم‌گیری مشترک نیست. یکی از دستیاران دموکرات به همکاری دو حزب در بحران مالی ۲۰۰۸ و همه‌گیری کرونا اشاره کرده است.
در نهایت، پرسش پیش روی صنعت هوش مصنوعی فقط این نیست که چگونه می‌توان از یک فاجعه جلوگیری کرد؛ مسئله این است که اگر حادثه‌ای بزرگ رخ دهد، چه کسی مسئول شناخته می‌شود و چه کسی اختیار متوقف کردن فناوری را خواهد داشت؟
