جنگ بر سر سرعت پیشرفت هوش مصنوعی؛ اختلاف نظر غول‌های فناوری با ترامپ

به گزارش زومان، داریو آمودی مدیرعامل شرکت آنتروپیک (توسعه‌دهنده مدل کلود)، خواستار کاهش سرعت توسعه مدل‌های پیشرفته هوش مصنوعی شد؛ هشداری که با توجه به جایگاه او در رأس یکی از بزرگ‌ترین شرکت‌های تجاری این حوزه و خط مقدم رقابت هوش مصنوعی، توجه‌ها را به خود جلب کرده است.

طبق گزارش بلومبرگ، او با اشاره به افزایش نگرانی‌ها درباره خطرات «جدی» این فناوری برای بشریت، در یادداشتی وبلاگی نوشت: «باید سرعتی را که با آن توانایی‌های مدل‌های هوش مصنوعی را بهبود می‌دهیم، کاهش دهیم.»

آمودی با تاکید بر ضرورت اولویت‌بخشی به ایمنی و مهار ریسک‌های فاجعه‌بار افزود: «پیشرفت همچنان سریع به نظر خواهد رسید و باید از زمانی که به دست می‌آوریم، عاقلانه استفاده کنیم.»

آمودی دو عامل اصلی را مطرح کرد؛ نخست توانایی هوش مصنوعی برای بهبود خود و دوم رخداد اخیر میان اوپن‌ای‌آی (OpenAI)و هاگینگ فیس(Hugging Face) که در آن، یک دسته از عامل‌های هوش مصنوعی با همکاری یکدیگر توانستند یک وب‌سایت شخص ثالث را نفوذ کنند.

او همچنین توضیح داد که «کندشدن» به‌معنای متوقف‌کردن آموزش مدل یا پیشرفت فنی نیست، بلکه هدف آن است که شرکت‌ها زمان کافی برای هم‌راستا کردن و ایمن‌سازی مدل‌های خود داشته باشند و ارزیاب‌های شخص ثالث هم بتوانند این موضوع را تأیید کنند.

در طول دوران رونق هوش مصنوعی، مدیران ارشد آزمایشگاه‌های پیشرو در این حوزه درباره خطرات وجودی بالقوه هشدار داده‌اند؛ ادعاهایی که گاهی به عنوان تلاش‌هایی برای بازاریابی قابلیت‌های محصولاتشان و معرفی خود به عنوان بهترین متولیان این فناوری رد شده است. خود آمودی پیش از این گفته بود که ۲۵ درصد احتمال دارد اوضاع «واقعاً، واقعاً بد» پیش برود.

آنتروپیک مدت‌هاست خود را شرکتی معرفی می‌کند که بر توسعه مسئولانه‌تر و ایمن‌تر هوش مصنوعی تمرکز دارد تا خطرهای بالقوه این فناوری را کاهش دهد و منافع اجتماعی آن را به حداکثر برساند.

این شرکت اوایل سال جاری نیز با هدف محدودکردن عرضه مدل میتوس(Mythos)، پس از تشخیص تهدیدهای منحصربه‌فرد سایبری، دست به احتیاط زد.

آنتروپیک پیش‌تر گفته بود جهان به سامانه‌ای نیاز دارد که به‌صورت جمعی مشخص کند چه زمانی باید کار روی این فناوری آهسته شود.

هم‌زمان، آنتروپیک در رقابتی سخت با رقیب دیرینه‌اش اوپن‌ای‌آی برای ساخت مدل‌هایی پیشرفته‌تر باقی مانده است؛ مدل‌هایی که بتوانند کارهای پیچیده‌تر و ارزشمندتری را برای مشتریان کسب‌وکار خودکار کنند.

هر دو شرکت اسناد محرمانه‌ای برای عرضه عمومی سهام ثبت کرده‌اند و بلومبرگ می‌گوید انتظار می‌رود آنتروپیک همین امسال وارد وال‌استریت شود.

اندکی پس از افشای رخداد امنیتی هاگینگ فیس، آنتروپیک اعلام کرد که مدل‌هایش در جریان آزمایش‌های امنیت سایبری به سه سازمان نفوذ کرده‌اند؛ موضوعی که نگرانی‌ها درباره توانایی آزمایشگاه‌های هوش مصنوعی برای جلوگیری از سرکشی فناوری خود را بیشتر کرد. آنتروپیک اوایل همین هفته همچنین گفت که هک چهارمی را هم کشف کرده است.

آمودی نوشت که هرچند هیچ‌یک از این نفوذهای عامل‌محور، از جمله مورد هاگینگ فیس، تا امروز خسارت قابل‌توجهی ایجاد نکرده‌اند، نگرانی او این است که «تا ۶ تا ۱۲ ماه دیگر، چنین دسته‌ای ممکن است بتواند با یک بات‌نت پایدار کل اینترنت را تصاحب کند»؛ رخدادی که به‌گفته او می‌تواند «صدها میلیارد دلار» خسارت به‌بار آورد و دامنه آسیب‌ها پس از آن هم بزرگ‌تر شود.

او گفت:

آنتروپیک متعهد می‌شود دسترسی کامل را در اختیار ارزیاب‌های شخص ثالث بگذارد تا شیوه‌های ایمنی را راستی‌آزمایی کنند و رخدادها را گزارش دهند.

آمودی افزود که آنتروپیک به‌زودی این «ارزیاب‌های تعبیه‌شده» را به دفترهای خود می‌آورد و برایشان میز، کارت شناسایی، لپ‌تاپ شرکتی و «مجوزهایی تقریبا هم‌سطح با آنچه تیم‌های داخلی ارزیابی ریسک دارند» فراهم می‌کند.

به‌گفته او، گام‌های بیشتر به هماهنگی در سطح صنعت و نیز همکاری جهانی نیاز خواهد داشت.

آمودی نوشت که همچنان باور دارد هوش مصنوعی می‌تواند کیفیت زندگی انسان را به‌طور چشمگیری بهبود دهد و میل او برای رسیدن به این مزایا کم نشده است، اما تأکید کرد این منافع تنها زمانی به دست می‌آید که فناوری به‌درستی ساخته شود و «تا زمانی که از زمان به‌دست‌آمده خوب استفاده کنیم، ارزش دارد که برای درست‌انجام‌دادن آن دقتی غیرمعمول به خرج دهیم».

اندکی پس از انتشار یادداشت آمودی، ایلان ماسک که هدایت ایکس‌ای‌آی کورپ(xAI Corp) را بر عهده دارد، نوشت «داریو درست می‌گوید».

در همین حال، سم آلتمن مدیرعامل اوپن‌ای‌آی گفت که شرکتش در حال بررسی کندکردن توسعه هوش مصنوعی پیشرفته است و ترجیح می‌دهد این کار همراه با کل صنعت انجام شود.

یاکوب پاچوکی، دانشمند ارشد اوپن‌ای‌آی، نیز هشدار داده و گفته است که شرکت‌ها باید «در صورت لزوم برای کندکردن توسعه آینده هماهنگ شوند».

چندی پیش نیز جیکوب کاکسون پژوهشگر هوش مصنوعی از شغلش استعفا داد و هر دو کارفرمای سابق خود، آنتروپیک و اوپن‌ای‌آی را متهم کرد که با شتاب‌دادن به‌سمت هوش مصنوعی فراهوشمند، با جان انسان ها قمار می‌کنند».

او در یک پست شبکه‌های اجتماعی گفت:

افرادی که هوش مصنوعی می‌سازند باور دارند این فناوری می‌تواند «تا پایان دهه همه ما را بکشد».

در پاسخ، ایوان هوبینگر کارمند فعلی آنتروپیک گفت که او و دیگران در شرکت هم نسبت به چنین سناریویی نگران هستند و نوشت: «شخصا فکر می‌کنم احتمال آن در دهه آینده بیش از ۱۰ درصد است».

در ماه ژوئیه، بیش از ۱۰۰۰ نفر از کارکنان شرکت‌های برتر هوش مصنوعی طوماری را امضا کردند که از دولت آمریکا می‌خواست سازوکاری را پشتیبانی کند که به «کندشدن آگاهانه» توسعه هوش مصنوعی کمک کند تا این فناوری بیش از حد سریع پیش نرود.

در ماه‌های اخیر، مدل‌های هوش مصنوعی مهارت بیشتری در اجرای هک‌های خود نشان داده‌اند و آنتروپیک، اوپن‌ای‌آی و متا پلتفرمز(Meta Platforms) همگی اعلام کرده‌اند که مدل‌هایشان از محیط‌های آزمایشی خارج شده، به اینترنت باز دسترسی پیدا کرده و هنگام آزمایش، به قربانیان واقعی نفوذ کرده‌اند.

آمودی در یادداشتش نوشت که یک راهبرد هماهنگ به رهبران صنعت هوش مصنوعی در آمریکا اجازه می‌دهد کارهای ایمنی لازم را بدون قربانی‌کردن مزیت رقابتی انجام دهند.

او گفت که چنین رویکردی مستلزم برخی معافیت‌های ضدانحصار در آمریکا برای هماهنگی شرکت‌ها در حوزه‌های مشخص و نیز همکاری با چین خواهد بود.

آمودی نوشت که اگر آمریکا توانمندی‌های هوش مصنوعی خود را بیش از اندازه مهار کند، در حالی که چین چنین نکند و سپس چین از این مسیر منحرف شود، هوش مصنوعی می‌تواند آن‌قدر قدرتمند باشد که چنین انحرافی به سلطه ژئوپولیتیک آن بینجامد.

با وجود همه این هشدارها، بلومبرگ می‌گوید که دولت ترامپ تاکنون علاقه اندکی به اعمال قدرت تنظیم‌گری برای گذاشتن حفاظ‌های محدودکننده بر توسعه هوش مصنوعی نشان داده است.

در همین راستا، دونالد ترامپ رئیس جمهور ایالات متحده در سفر خود به ایرلند، در پاسخ به پرسشی درباره احتمال کاهش سرعت توسعه هوش مصنوعی یا وضع مقررات بیشتر برای این صنعت؟ گفت: «نیروهای بسیار منفی زیادی وجود دارند که این موضوع را مطرح می‌کنند، درحالی‌که نباید مطرحش کنند و درباره چیزهایی صحبت می‌کنند که اتفاق نخواهند افتاد.»

او با اشاره به رقابت آمریکا و چین در حوزه هوش مصنوعی افزود:

ما در هوش مصنوعی از چین جلو هستیم... و صادقانه بگویم، می‌خواهم همین‌طور بماند، چون هرکس در هوش مصنوعی پیروز شود، پیروز [نهایی] است.

ترامپ گفت گخ امکان ایجاد «محدودیت‌هایی برای هوش مصنوعی» وجود دارد، اما از اظهارات خود درباره ضرورت حفظ برتری آمریکا در این حوزه عقب‌نشینی نکرد.