غافلگیری OpenAI از قدرت هک هوش مصنوعی جدیدش

اوپن‌ای‌آی بخشی از اقدامات مربوط به جدیدترین مدل‌ هوش مصنوعی خود را متوقف کرده است.

دلیل این تصمیم، توانایی بالای این مدل در انجام وظایف مرتبط با امنیت سایبری و نیاز به اعمال تدابیر حفاظتی سخت‌گیرانه‌تر عنوان شده است.

براساس گزارش بلومبرگ، اوپن‌ای‌آی اعلام کرده مدل جدیدش با نام «آسترا» در آزمایش‌های امنیتی توانایی سایبری بسیار بالایی نشان داده؛ تا جایی که این شرکت نگران است مدل بتواند بدون کمک انسان، آسیب‌پذیری‌های ناشناخته نرم‌افزاری را پیدا کند و راهی برای نفوذ از طریق آن‌ها بسازد.

به همین دلیل، اوپن‌ای‌آی در حال تقویت سازوکارهای امنیتی مربوط به توسعه و آزمایش مدل‌های جدید خود است.

سم آلتمن مدیرعامل اوپن‌ای‌آی در شبکه اجتماعی ایکس نوشت:

Astra مدل قدرتمندی است و ما در تلاشیم آن را به‌طور عمومی در دسترس قرار دهیم. فکر نمی‌کنیم اینکه مدل‌های قدرتمند فقط در اختیار تعداد محدودی از افراد قرار بگیرند، راهبرد درستی باشد. با توجه به توانایی‌های سایبری این مدل، برای اینکه بتوانیم آن را با ایمنی بیشتری منتشر کنیم به کمی زمان بیشتر نیاز داریم؛ البته امیدواریم این مدت طولانی نباشد.

آلتمن تأکید کرده که هدف نهایی شرکت همچنان عرضه عمومی آستراست، اما توانایی‌های سایبری این مدل باعث شده اوپن‌ای‌آی برای انتشار آن با احتیاط بیشتری پیش برود.

این تصمیم در شرایطی گرفته شده که طی دو هفته گذشته، هم اوپن‌ای‌آی و هم شرکت آنتروپیک به‌طور علنی اعلام کرده‌اند مدل‌هایشان هنگام انجام آزمایش‌های امنیتی، ناخواسته از سدهای حفاظتی چند مؤسسه عبور کرده‌اند.

شرکت متا نیز روز چهارشنبه اعلام کرد که یکی از مدل‌های هوش مصنوعی تازه‌ منتشر شده‌اش در جریان آزمایش‌ها توانسته به سیستم رایانه‌ای یک شرکت ثالث نفوذ کند.

این اتفاق‌ها نگرانی تازه‌ای درباره رفتار مستقل مدل‌های هوش مصنوعی ایجاد کرده‌اند.

مسئله اصلی این است که مدل‌های پیشرفته‌تر ممکن است هنگام انجام وظایف، اقداماتی انجام دهند که حتی پژوهشگران متخصص در شناسایی ضعف‌های امنیتی نیز نتوانند از قبل آن‌ها را به‌طور کامل پیش‌بینی کنند.

به همین دلیل، شرکت‌های فعال در این حوزه با فشار بیشتری برای طراحی آزمایش‌های ایمنی سخت‌گیرانه‌تر و ایجاد محیط‌های آزمایشی امن‌تر روبه‌رو شده‌اند؛ محیط‌هایی که حتی در صورت رفتار پیش‌بینی‌ نشده مدل، امکان آسیب به سیستم‌های واقعی را به حداقل برسانند.

اوپن‌ای‌آی در مطلبی که در وبلاگ خود منتشر کرده گفته است برای ارزیابی دقیق‌تر توانایی‌های آسترا با نهادهای دولتی و سازمان‌های فعال در حوزه ایمنی هوش مصنوعی همکاری خواهد کرد.

این شرکت همچنین قصد دارد مجموعه‌ای از دستورالعمل‌ها و توصیه‌های امنیتی در اختیار شرکت‌ها و سازمان‌های مستقلی قرار دهد که مدل‌های پیشرفته اوپن‌ای‌آی را آزمایش می‌کنند تا ارزیابی این مدل‌ها در محیطی امن‌تر انجام شود.