دولت ترامپ کوتاه آمد؛ دسترسی مشروط خارجی‌ها به مدل پیشرفته Claude

به گزارش زومان به نقل از اکسیوس، قدرتمندترین مدل‌های هوش مصنوعی شرکت آنتروپیک پس از چند هفته محدودیت، دوباره به‌صورت محدود در دسترس قرار گرفته‌اند.

این بازگشت پس از آن اتفاق افتاد که این شرکت توانست بخشی از نگرانی‌های امنیتی دولت دونالد ترامپ را برطرف کند.

ماجرا به مدل‌های Mythos 5 و Fable 5 مربوط می‌شود؛ دو مدلی که حذف ناگهانی آن‌ها از دسترس، هم در صنعت هوش مصنوعی و هم میان متحدان آمریکا نگرانی ایجاد کرد.

دلیل این نگرانی روشن بود: برخی کشورها و شرکت‌های هم‌پیمان آمریکا برای توانایی‌های سایبری خود به این مدل‌ها وابسته بودند و قطع دسترسی، بخشی از این توانایی‌ها را محدود کرد.

بر اساس نامه‌ای از هاوارد لاتنیک وزیر بازرگانی آمریکا به آنتروپیک که اکسیوس آن را مشاهده کرده، همکاری این شرکت با دولت آمریکا «پیشرفت قابل توجهی» داشته است.

در این نامه آمده است که آنتروپیک متعهد شده با دولت آمریکا روی پروتکل‌ها، استانداردها و نحوه انتشار مدل‌های مشمول محدودیت کار کند.

منظور از مدل‌های مشمول محدودیت، مدل‌هایی است که دولت آمریکا به‌دلیل توانایی‌های پیشرفته‌شان، مخصوصاً در حوزه سایبری درباره انتشار یا صادرات آن‌ها حساسیت دارد.

وزارت بازرگانی آمریکا همچنین خطرهای مربوط به «انحراف استفاده» از این مدل‌ها را بررسی کرده است؛ یعنی این نگرانی که مدل‌ها به دست افراد یا نهادهایی برسند که از آن‌ها برای اهداف خطرناک یا برخلاف منافع امنیتی آمریکا استفاده کنند.

در نهایت، لاتنیک اعلام کرده که آنتروپیک اکنون تدابیر حفاظتی لازم را اجرا کرده است.

اما مدل Mythos 5 برای چه کسانی آزاد شد؟

طبق نامه وزارت بازرگانی، آنتروپیک می‌تواند دسترسی به Mythos 5 را برای گروهی از شرکت‌ها و کارکنان خارجی تأییدشده دوباره فعال کند؛ اما این به معنی باز شدن کامل دسترسی برای همه کاربران نیست.

سخنگوی آنتروپیک به اکسیوس گفته که این شرکت اطلاعیه دولت را دریافت کرده و اکنون در حال آماده‌سازی دسترسی برای ارائه‌دهندگان تأییدشده است تا آن‌ها هرچه سریع‌تر دوباره به Mythos 5 متصل شوند.

او همچنین گفته است آنتروپیک از این پیشرفت استقبال می‌کند و همچنان با دولت آمریکا همکاری خواهد کرد تا دسترسی به Mythos 5 گسترده‌تر شود و Fable 5 نیز دوباره برای استفاده عمومی در دسترس قرار بگیرد.

با وجود این عقب‌نشینی نسبی دولت آمریکا، محدودیت‌ها کاملاً برداشته نشده‌اند. کنترل‌ها همچنان برای همه سازمان‌هایی که به‌طور مشخص از سوی دولت تأیید نشده‌اند، برقرار است.

نکته مهم‌تر اینکه این نامه تغییری در محدودیت‌های مربوط به Fable 5 ایجاد نمی‌کند. بنابراین فعلاً گشایش اصلی مربوط به Mythos 5 است، نه هر دو مدل به‌صورت کامل.

وزیر بازرگانی آمریکا در نامه خود همچنین تأکید کرده که دولت می‌تواند هر زمان شرایط تغییر کرد، دامنه این مجوزها را دوباره بررسی و محدودتر یا گسترده‌تر کند.

او حتی حق تغییر فهرست نهادهایی را که به مدل‌ها دسترسی دارند، برای خود محفوظ دانسته است.

یعنی دسترسی فعلی هم دائمی و قطعی نیست؛ بیشتر شبیه یک مجوز مشروط و قابل بازنگری است.

اما چرا دولت آمریکا روی این مدل هوش مصنوعی حساس شده بود؟

طبق ادعای دولت آمریکا، محدودیت‌های گسترده علیه آنتروپیک پس از آن اعمال شد که آمازون نگرانی‌هایی درباره امکان «جیل‌بریک» این مدل‌ها مطرح کرد. جیل‌بریک در هوش مصنوعی یعنی تلاش برای دور زدن محدودیت‌های ایمنی مدل، تا بتوان از آن پاسخ‌هایی گرفت که در حالت عادی نباید ارائه کند.

به گفته دولت، آنتروپیک در ابتدا پاسخ جدی و کافی به این نگرانی‌ها نداده بود؛ موضوعی که در نهایت باعث شد وزارت بازرگانی کنترل‌های سخت‌گیرانه‌ای بر این مدل‌ها اعمال کند.

با این حال، هنوز دقیقاً مشخص نیست آنتروپیک چه اقداماتی انجام داده که دولت آمریکا را برای بازگرداندن محدود دسترسی قانع کرده است.

این پرونده بخشی از روند بزرگ‌تری در آمریکا است؛ روندی که در آن دولت تلاش می‌کند برای مدل‌های بسیار پیشرفته هوش مصنوعی، چارچوب‌های امنیتی و نظارتی تازه‌ای بسازد.

پیش‌تر مدل OpenAI نیز زیر بررسی‌های دولتی قرار گرفته بود؛ بررسی‌هایی که خود شرکت آن‌ها را پایدار و قابل ادامه نمی‌دانست.

این پرونده می‌تواند مقدمه سخت‌گیری‌های تازه باشد؛ چرا که دولت آمریکا تا ماه آگوست باید فرایند رسمی تازه‌ای برای بررسی توانایی‌های سایبری مدل‌های هوش مصنوعی طراحی کند؛ یعنی دولت می‌خواهد قبل از انتشار یا دسترسی گسترده به مدل‌های قدرتمند، بداند این مدل‌ها چه قابلیت‌هایی دارند و آیا می‌توانند از نظر امنیتی خطرساز شوند یا نه.

به گفته یک منبع آگاه از مذاکرات، آنتروپیک در حال گفت‌وگو با مقام‌های دولتی است تا پیش از انتشار مدل‌های آینده، یک چارچوب رسمی‌تر برای رسیدگی به نگرانی‌های امنیت ملی شکل بگیرد.

بازگشت محدود Mythos 5 نشان می‌دهد دولت آمریکا فعلاً از سخت‌گیرانه‌ترین موضع خود عقب نشسته، اما هنوز قصد ندارد کنترل مدل‌های قدرتمند هوش مصنوعی را رها کند.

برای آنتروپیک این تصمیم یک گام مثبت است؛ چون بخشی از دسترسی به مدل‌هایش احیا می‌شود. برای صنعت هوش مصنوعی اما پیام بزرگ‌تر روشن است: از این پس مدل‌های پیشرفته فقط با معیارهای فنی سنجیده نمی‌شوند، بلکه امنیت ملی، توانایی‌های سایبری و ریسک سوءاستفاده هم در سرنوشت انتشار آن‌ها نقش مستقیم خواهند داشت.