مدل Gemini در جریان آزمایش تواناییهای امنیت سایبری خود به اینترنت دسترسی یافت و سامانههای چند مجموعه دیگر را هک کرد.
این رویداد نخستین مورد شناخته شدهای است که در آن، یکی از سامانههای هوش مصنوعی گوگل چنین اقدامی را بهطور خودکار به انجام میرساند. این نفوذها در ماه مه و در جریان آزمونهای امنیتی اریگولار (مجموعهای مستقل در حوزه ارزیابی امنیت سایبری) رخ داده است.
بهگزارش رویترز، Gemini طی یک ارزیابی استاندارد، اطلاعات عمومی موجود در اینترنت را پیدا کرد و با حدسزدن اطلاعات ورود به سه وبسایت دسترسی یافت که تصور میکرد در محدوده آزمایش قرار دارند.
هدر ادکینز معاون مهندسی امنیت گوگل در این باره گفت: «اطمینان حاصل کردیم که هر سه مجموعه از موضوع آگاه شوند و با شریک آموزشی خود روی تغییراتی همکاری کردیم که اکنون در فرایندهای آزمایشی خود اعمال کردهاند.»
ادکینز افزود: «چنین رویدادهایی اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای رفتار مسئولانه را برجسته میکنند.»
به گفته سخنگوی اریگولار، اشتباه Gemini ناشی از همان مشکلی بود که سایر آزمایشگاههای هوش مصنوعی را نیز تحت تاثیر قرار داد و تمام مجموعههای مرتبط در اواخر ژوئیه از آن مطلع شدند.
این سخنگو تأکید کرد که تمامی مشکلاتِ شناختهشده چند هفته پیش از سوی این شرکت برطرف شده است.
همزمان، شرکتهای متا، آنتروپیک و اوپنایآی نیز موارد مشابهِ مرتبط با اریگولار را گزارش کردهاند. متا در ماه اوت اعلام کرد که این رویداد شامل خروج از محیط ایزوله یا حملهای سایبری و پیچیده نبوده است؛ در همین حال، اریگولار از تلاش برای تدوین بهترین راهکارها جهت اجرای امن ارزیابیهای امنیت سایبری هوش مصنوعی خبر داد.
این تحولات گزارش شده پرسشهایی را درباره تدابیر حفاظتی لازم مطرح کردهاند، زیرا عاملهای هوش مصنوعی از استقلال بیشتر و دسترسی گستردهتر به اینترنت و سامانههای رایانهای برخوردار میشوند.
در یکی از موارد، Gemini آنقدر گذرواژههای مختلف را حدس زد تا سرانجام به یک سامانه محافظتشده راه پیدا کرد. در دو مورد دیگر، مدل اطلاعات ورود را در یک مخزن عمومی یافت و سپس با استفاده از همان اطلاعات به سامانههای محافظتشده دسترسی پیدا کرد.
روزنامهی والاستریت ژورنال که نخستین بار روز جمعه خبر را منتشر کرد، جزئیات مربوط به روش دسترسی Gemini در هر سه مورد را گزارش داده بود.
بر پایه گزارش والاستریت ژورنال، یک نفوذ با حدسزدن گذرواژه و دو نفوذ دیگر با اطلاعات ورود منتشر شده در مخزن عمومی انجام شدند و در هر سه مورد عملیات نفوذ متوقف شده است.
نظر شما درباره دسترسی عاملهای هوش مصنوعی به اینترنت و سامانههای رایانهای چیست؟