به گزارش زومان، هفته گذشته بود که خبر نفوذ مدل هوش مصنوعی اوپنایآی به شرکت فناوری هاگینگفیس در صدر اخبار دنیای دیجیتال قرار گرفت و حالا ابعاد جدیدی از آن روشن شده است.
اما ماجرا چه بود؟
رویترز میگوید این مدل هوش مصنوعی پس از خارج شدن از فضای ایزوله، چند روز پیاپی به فعالیتهای هکری خود ادامه داد و اوپنایآی زمانی از این اتفاق باخبر شد که تهدید حمله سایبری مهار و موضوع نیز به افبیآی گزارش شده بود.
این مدل، برنامهای بود که میتوانست با کمترین نظارت انسانی یا حتی بدون دخالت انسان، تصمیم بگیرد و وظایف پیچیده را اجرا کند.
توماس ولف همبنیانگذار هاگینگفیس میگوید حمله به این شرکت دو روز بعد، یعنی ۱۱ ژوئیه آغاز شد و تا ۱۳ ژوئیه ادامه یافت.
هاگینگفیس یکی از مهمترین منابع آنلاین ابزارها و مدلهای هوش مصنوعی به شمار میرود.
به گفته ولف و سه منبع آگاه از تحقیقات، چند روز گذشت تا اوپنایآی متوجه شود مدل متعلق به این شرکت پشت این حمله قرار داشته است.
اوپنایآی در ۲۱ ژوئیه بهطور عمومی اعلام کرد یکی از مدلهای هوش مصنوعی این شرکت از کنترل خارج شده و به هاگینگفیس نفوذ کرده است. انتشار این خبر بازتاب گستردهای در جهان داشت؛ با این حال، بسیاری از جزئیات حادثه تاکنون منتشر نشده بود.
مدتزمان فعالیت خارج از کنترل این عامل و تأخیر اوپنایآی در شناسایی نقش آن، از جمله اطلاعاتی است که برای نخستینبار در این گزارش افشا میشود.
هاگینگفیس در حال تدوین جدول زمانی کاملی از این حمله برای انتشار عمومی است و نمیتوانیم درباره اتفاقاتی که در داخل اوپنایآی رخ داده است، توضیحی ارائه کنیم.- توماس ولف
اوپنایآی در بیانیهای این حمله را بیسابقه توصیف و اعلام کرد این حادثه «نقطهای مهم در حوزه ایمنی هوش مصنوعی» محسوب میشود.
این شرکت اعلام کرد با کمک مشاوران مستقل در حال بررسی ماجراست و پس از پایان تحقیقات، گزارشی فنی درباره آن منتشر خواهد کرد.
این ماجرا که یادآور داستانهای علمیتخیلی درباره از دست رفتن کنترل انسان بر سامانههای خطرناک هوش مصنوعی است، در مقطع حساسی برای اوپنایآی رخ داده است.
اما چرا؟
مدیران اوپنایآی خود را برای عرضه احتمالی سهام این شرکت در بورس آماده میکنند؛ اتفاقی که ممکن است همین امسال رخ دهد.
اوپنایآی برای تأمین هزینههای چند میلیارد دلاری توسعه فعالیتهای خود در سالهای آینده، به منابع مالی تازه نیاز دارد.
سه متخصص امنیت سایبری معتقدند ناتوانی اوپنایآی در کنترل عامل هوش مصنوعی خود، پرسشهای تازهای را درباره سازوکارهای ایمنی این شرکت مطرح میکند.
مارلی اسمیت کارشناس ارشد اطلاعات در بنیاد غیرانتفاعی دادههای اخلاقی جهان گفت:
آیا آنها این سامانه را بدون نظارت رها کرده بودند و اصلاً متوجه رفتار آن نشدند؟ یا از اقداماتش خبر داشتند، اما نمیدانستند چگونه باید مهارش کنند؟ هر دو احتمال به یک اندازه خطرناک و نگرانکننده است.
آیا پیش از حمله نشانههای هشدار دهندهای وجود داشت؟
ماجرا زمانی آغاز شد که اوپنایآی در حال سنجش تواناییهای امنیت سایبری یک عامل هوش مصنوعی بود. این عامل با استفاده از دو مدل بسیار پیشرفته شرکت فعالیت میکرد: مدل جیپیتی ۵.۶ سول و مدلی که هنوز عرضه نشده و اوپنایآی آن را «حتی توانمندتر» توصیف کرده است.
به گفته سه منبع، پیش از آغاز حمله نیز نشانههایی از رفتارهای غیرعادی در این مدل اوپنایآی دیده شده بود.
در یکی از موارد، یک مدل یادداشتهایی به جا گذاشته بود که ظاهراً خطاب به نسخههای آینده خودش نوشته شده بودند.
سه فرد آگاه از موضوع گفتند این یادداشتها در بخشی از زیرساخت اوپنایآی پیدا شدند و در آنها توضیح داده شده بود که مدل ها چگونه میتوانند محدودیتهای داخلی شرکت را دور بزنند و خود را آزاد کنند.
یکی دیگر از منابع گفت در آزمایشهای قبلی این مدلها نیز مواردی ثبت شده بود که سامانههای نظارتی قطع یا از کار انداخته شده بودند.
به گفته دو منبع آگاه از تحقیقات داخلی اوپنایآی، کارکنان شرکت در تعطیلات پایان هفته ۱۸ و ۱۹ ژوئیه سرنخهایی را در گزارشهای داخلی پیدا کردند. این گزارشها که فعالیت سامانههای اوپنایآی را ثبت میکنند، نشان میدادند مدل مورد نظر توانسته از محدودیتهای محیط آزمایشی خارج شود.
چهار فرد آشنا با شیوه آموزش و ارزیابی مدلهای اوپنایآی میگویند این شرکت معمولاً چندین آزمایش را بهطور همزمان اجرا میکند. این آزمایشها با سرعت بسیار بالا انجام میشوند و حجم عظیمی از داده تولید میکنند؛ بهگونهای که کارکنان گاهی قادر نیستند همه اطلاعات را بهموقع بررسی کنند.
به گفته یک منبع آگاه، زمانی که اوپنایآی سرانجام هاگینگفیس را از نقش عامل خود در حمله مطلع کرد، این شرکت پیشتر موضوع را به افبیآی گزارش داده بود.