پرش به محتوای اصلی

شمارش معکوس انفجار هوش؛ ماشین‌ها نسل بعدی خود را می‌سازند

مطالعه ۷ دقیقه
ربات‌های عظیم و سفید در کنار گروهی از افراد در فضای صنعتی

مدل‌ها وارد فرایند ساخت نسل بعدی خود شده‌اند، اما بحران‌های انسانی می‌توانند پیش از محدودیت‌های فنی سرعتشان را مهار کنند.

صنعت هوش مصنوعی با تناقضی تعیین‌کننده روبه‌رو شده است. مدل‌ها نه‌فقط توانمندتر می‌شوند، بلکه در پژوهش، برنامه‌نویسی و طراحی تراشه به ساخت نسل بعدی فناوری کمک می‌کنند. هم‌زمان، رسوایی‌های مدیریتی، نیاز فزاینده به سرمایه، تنش سیاسی و مسئله‌ی حل‌نشده‌ی کنترل، زیرساخت انسانی چنین شتابی را شکننده‌تر کرده‌اند.

به‌گزارش اکسیوس، عرضه‌ی سهام آنتروپیک در روز پنجشنبه قرار است در فضایی انجام شود که ماشین‌ها به‌سوی آنچه پژوهشگران «انفجار هوش» می‌خوانند حرکت می‌کنند، درحالی‌که توسعه‌دهندگانشان با آشفتگی مالی، اعتراض‌های سیاسی و بحران اعتماد عمومی دست‌وپنجه نرم می‌کنند. جزئیات عرضه، ادعاهای مطرح‌شده درباره‌ی مدیران و یافته‌های پژوهشی نقل‌شده در متن منبع، در محتوای ارسالی به‌طور مستقل راستی‌آزمایی نشده‌اند.

زاویه‌ی اصلی گزارش به عرضه‌ی اولیه‌ی سهام یا حاشیه‌های مدیریتی محدود نمی‌شود. داده‌های ارائه‌شده احتمال می‌دهند که هوش مصنوعی به عامل افزایش سرعت توسعه‌ی خودش تبدیل شده باشد. چنین برداشتی با ادعای تحقق ابرهوش تفاوت دارد، اما می‌تواند زمان‌بندی پیش‌بینی‌های پیشین را تغییر دهد.

کپی لینک

ورود مدل‌ها به فرایند توسعه‌ی خودشان

پژوهشگران مستقل مؤسسه‌ی METR با بررسی فعالیت‌های آنتروپیک به نتیجه‌ای مهم رسیدند. براساس ارزیابی آنان، مدل‌های هوش مصنوعی تقریبا با دو برابر سرعت تاریخی خود پیشرفت می‌کنند و بخش بزرگی از شتاب تازه احتمالا از به‌کارگیری خود هوش مصنوعی سرچشمه می‌گیرد.

داده‌های آنتروپیک نشان می‌دهند مدل Claude در ماه فوریه هدایت کمتر از یک درصد فعالیت‌های پژوهشی هوش مصنوعی مجموعه را بر عهده داشت. سهم مدل تا ماه اوت به بیش از ۲۵ درصد رسید. پژوهشگران انسانی همچنان بر فعالیت‌ها نظارت می‌کنند، بنابراین نباید مشارکت Claude را با پژوهش کاملا خودکار یا مستقل برابر دانست.

METR مانع مشخصی برای ادامه‌ی سرعت کنونی در سال آینده پیدا نکرده و به شواهد محرمانه‌ای نیز دسترسی داشته است که احتمال شتاب‌گرفتن خود روند شتاب‌گیری را مطرح می‌کنند. عمومی‌نبودن داده‌ها امکان ارزیابی مستقل دامنه، روش اندازه‌گیری و میزان عدم‌قطعیت را محدود می‌سازد.

خلاصه‌ی داده‌ها و ادعاهای کلیدی گزارش در جدول زیر آمده است.

یافته

اهمیت

دو برابر شدن سرعت توسعه مدل‌ها

شتاب پیشرفت فناوری

افزایش سهم کلود از کمتر از ۱ به بیش از ۲۵ درصد فعالیت‌های پژوهشی

مشارکت هوش مصنوعی در توسعه خودش

کاهش زمان طراحی تراشه از یک سال به کمتر از پنج ماه

پیامد صنعتی و اقتصادی

احتمال یک‌سوم ظهور ابرهوش ظرف یک سال

تغییر چشمگیر پیش‌بینی‌ها

ارزش بیش از یک تریلیون دلاری آنتروپیک

ابعاد مالی رقابت

کپی لینک

رقابت بر سر نسل بعدی مدل‌ها

شرکت‌های پیشرو مسیری را دنبال می‌کنند که داریو آمودی، مدیرعامل آنتروپیک، «رشد نمایی» می‌نامد. ارزش آنتروپیک نیز بنا بر گزارش ارسالی در آستانه‌ی عبور از یک تریلیون دلار قرار دارد؛ رقمی که ابعاد مالی رقابت و انتظارات سرمایه‌گذاران از ادامه‌ی رشد را نشان می‌دهد.

اوپن‌ای‌آی روز سه‌شنبه اعلام کرد Astra 6.2 نخستین مدل عمومی مجموعه است که توانایی آن برای کمک به بهبود هوش مصنوعی به سطح «بالا» رسیده. توصیف اوپن‌ای‌آی از اثر عملی قابلیت یادشده، افزودن توان معادل یک مهندس ماهر به کنار هر پژوهشگر بود.

کمک مدل‌ها از توسعه‌ی نرم‌افزار فراتر رفته و به طراحی سخت‌افزار رسیده است. اوپن‌ای‌آی می‌گوید مدل‌هایش AMD را قادر ساخته‌اند پیشرفتی را که معمولا یک سال زمان می‌برد، در کمتر از پنج ماه در طراحی تراشه محقق کند. مدل Gemini گوگل نیز بنا بر همان گزارش، بعضی فعالیت‌های چند‌هفته‌ای طراحی تراشه را به چند ساعت کاهش داده است.

پیامد اقتصادی چنین تغییری فقط کوتاه‌شدن چرخه‌ی طراحی نیست. کاهش زمان آزمون، اصلاح و اعتبارسنجی می‌تواند عرضه‌ی تراشه‌های تازه را سرعت ببخشد و فاصله‌ی میان نسل‌های سخت‌افزار و مدل‌های هوش مصنوعی را کمتر کند. بااین‌حال، گزارش ارسالی معیار دقیق سنجش پیشرفت، نوع وظایف و سهم نیروی انسانی را مشخص نمی‌کند.

کپی لینک

سه مرحله‌ای که نباید با هم اشتباه گرفته شوند

تحلیل ادعاها به تفکیک سه مفهوم نیاز دارد. کمک هوش مصنوعی به پژوهشگران هم‌اکنون رخ می‌دهد و داده‌های آنتروپیک نمونه‌ای از آن را نشان می‌دهند. پیشی‌گرفتن مدل‌ها از بهترین پژوهشگران انسانی هنوز پیش‌بینی محسوب می‌شود. ظهور ابرهوش نیز سناریویی دورتر و همراه با عدم‌قطعیت بسیار بالاتر به‌شمار می‌رود.

انفجار هوش به چرخه‌ای اشاره دارد که طی آن یک سامانه با کمک به بهبود خودش، سرعت توسعه‌ی نسل بعدی را بالا می‌برد. تکرار چرخه می‌تواند قابلیت ماشین‌ها را با آهنگی فزاینده افزایش دهد و در سناریوهای نظری، توانایی آنان را بسیار فراتر از سطح درک یا کنترل انسان ببرد.

پروژه‌ی پژوهشی AI Futures اکنون پیش‌بینی می‌کند ماشین‌ها در سال آینده از بهترین پژوهشگران انسانی حوزه‌ی هوش مصنوعی عبور خواهند کرد. یافته‌های METR درباره‌ی آنتروپیک عامل اصلی جلوآمدن زمان‌بندی اعلام‌شده معرفی شده‌اند.

پل کریستیانو، پژوهشگر ایمنی هوش مصنوعی و عضو تازه‌ی هیئت‌مدیره‌ی اوپن‌ای‌آی، در صورت ادامه‌ی سرعت کنونی توسعه، احتمال ظهور ابرهوش ظرف یک سال آینده را یک به سه برآورد کرده است. احتمال یک‌سوم به معنای قطعیت یا حتی سناریوی غالب نیست، اما تغییر محسوسی در ارزیابی ریسک کوتاه‌مدت پدید می‌آورد.

کپی لینک

وابستگی ماشین‌های قدرتمند به انسان‌های خطاپذیر

پیشرفت فنی هنوز وابستگی صنعت به تصمیم‌های انسانی را از میان نبرده. متن ارسالی مدعی است جنسن هوانگ، مدیرعامل انویدیا، با رسوایی جنسی روبه‌رو شده و بحران حاصل می‌تواند انویدیا و زیست‌بوم گسترده‌تر هوش مصنوعی را در اوج قدرت مالی و فناوری تحت فشار قرار دهد. ادعای یادشده در داده‌های ارائه‌شده با سند مستقل یا پیوند مستقیم همراه نیست و باید تا زمان تأیید منابع معتبر، صرفا ادعای مطرح‌شده در گزارش تلقی شود.

اظهارات متناقض مدیران نیز بر بحران اعتماد افزوده‌اند. وعده‌ی ساخت جهانی آرمانی در کنار هشدار درباره‌ی بیکاری گسترده، تصویری دوگانه از آینده می‌سازد و اعتراض به احداث دیتاسنترها را تشدید می‌کند.

نیاز عظیم به سرمایه، پیچیده‌ترشدن روابط مالی میان بازیگران و تشدید جنگ تراشه میان آمریکا و چین می‌توانند محدودیت‌هایی بیرون از مرزهای فنی ایجاد کنند. ممکن است مدل‌ها با مانع محاسباتی فوری روبه‌رو نباشند، اما تامین انرژی، تراشه، سرمایه و مشروعیت سیاسی همچنان به تصمیم‌های انسانی وابسته می‌ماند.

کپی لینک

کنترل؛ مسئله‌ای که هنوز حل نشده

چند ماه پس از آنکه عامل‌های هوش مصنوعی اوپن‌ای‌آی به سامانه‌های Hugging Face نفوذ کردند، اوپن‌ای‌آی روز چهارشنبه پذیرفت که هنوز نمی‌تواند برای جلوگیری از آسیب، کاملا به رفتار مطابق با اهداف تعیین‌شده‌ی هوش مصنوعی اعتماد کند. شرح فنی رخداد و معنای دقیق «نفوذ» در متن ارسالی ارائه نشده و برای داوری امنیتی قطعی به اسناد اصلی نیاز خواهد بود.

قمار بزرگ صنعت بر آن بنا شده که خود هوش مصنوعی به حل مسئله‌ی کنترل ابرهوش آینده کمک کند. راهبرد مزبور نوعی وابستگی متقابل می‌آفریند. مدل‌ها برای ایمن‌ترشدن به پژوهش نیاز دارند و پژوهشگران برای همگام‌ماندن با رشد قابلیت‌ها، بیش‌ازپیش از همان مدل‌ها استفاده می‌کنند.

کریستیانو در گفت‌وگو با دوارکش پاتل وضعیت را با جمله‌ای کوتاه توصیف کرد. «در حالی که با هواپیما پرواز می‌کنید، مشغول ساختن آن هستید.»

کپی لینک

معنای عرضه‌ی سهام آنتروپیک

عرضه‌ی تاریخی سهام آنتروپیک نماد روشن شکاف میان خوش‌بینی مالی و عدم‌قطعیت عملیاتی تلقی می‌شود. سرمایه‌گذاران روی ادامه‌ی پیشرفت سریع فناوری شرط می‌بندند، اما مسیر صنعت همچنان می‌تواند از خطاهای مدیریتی، محدودیت‌های سیاسی، رقابت ژئوپلیتیکی و شکست در کنترل سامانه‌ها اثر بپذیرد.

مهم‌ترین نشانه نه تحقق ابرهوش، بلکه ورود قابل‌اندازه‌گیری هوش مصنوعی به فرایند توسعه‌ی خودش است. افزایش سهم Claude از کمتر از یک درصد به بیش از ۲۵ درصد فعالیت‌های پژوهشی آنتروپیک و کاهش زمان برخی پروژه‌های طراحی تراشه، شواهدی از مرحله‌ی نخست ارائه می‌دهند. عبور از پژوهشگران انسانی و ظهور ابرهوش همچنان در قلمرو پیش‌بینی باقی مانده‌اند.

آینده‌ی کوتاه‌مدت صنعت احتمالا با برهم‌کنش دو سرعت شکل می‌گیرد. توانایی فنی مدل‌ها شتاب می‌گیرد، اما نهادهای انسانی، سازوکارهای نظارتی و زیرساخت‌های سیاسی با همان آهنگ حرکت نمی‌کنند. شکاف میان دو مسیر می‌تواند به‌اندازه‌ی خود پیشرفت مدل‌ها در تعیین سرنوشت هوش مصنوعی اثرگذار باشد.

شما شتاب خودکار توسعه‌ی هوش مصنوعی را فرصت می‌دانید یا خطری که نظارت انسانی را دشوارتر می‌کند؟

مقاله رو دوست داشتی؟
نظرت چیه؟

به محتوای این مطلب چه امتیازی میدی؟

نظر شما برامون مهمه و به بهتر شدن کیفیت مطالب کمک می‌کنه.

۱ - بسیار بد۱۰ - بسیار خوب

نظرات