به گزارش زومان، باراک اوباما هشدار داده است که هوش مصنوعی در صورت مدیریت نشدن میتواند «خطرناک» باشد و از دموکراتها خواسته برای مواجهه با پیامدهای ایمنی و اقتصادی این فناوری، چارچوب سیاسی مشخصی تدوین کنند.
رویترز روز یکشنبه ۲۲ شهریور به نقل از نیویورکتایمز گزارش داد رئیسجمهور پیشین آمریکا این سخنان را در یک مراسم خصوصی جمعآوری کمک مالی مطرح کرده است. او با اشاره به سرعت پیشرفت هوش مصنوعی گفت این فناوری «با سرعت بسیار زیادی در دست بخش خصوصی» در حال حرکت است و اگر سیاستگذاران نتوانند بر آن مسلط شوند، ممکن است خطرناک باشد.
اوباما تنها هشدار نداده، بلکه پیشنهاد سیاسی مشخصی هم مطرح کرده است. او از هاکیم جفریز، رهبر اقلیت دموکرات مجلس نمایندگان، خواسته در صورت بازپسگیری مجلس در انتخابات میاندورهای ۳ نوامبر، چارچوبی برای یک گفتوگوی عمومی درباره سیاستگذاری هوش مصنوعی ایجاد کند.
نگاه او حتی به انتخابات امسال محدود نیست. اوباما گفته نامزدهای انتخابات ریاستجمهوری ۲۰۲۸ نیز باید هوش مصنوعی را به یکی از محورهای اصلی برنامه خود تبدیل کنند و برای مخاطرات ایمنی و اقتصادی آن برنامهای روشن داشته باشند.
این بخش حرف اوباما از هشدار درباره یک فناوری فراتر میرود. رئیسجمهور پیشین آمریکا در واقع میخواهد هوش مصنوعی را از اتاق مدیران شرکتهای فناوری و آزمایشگاهها بیرون بکشد و به موضوعی برای رقابت سیاسی تبدیل کند.
اما برای فهمیدن اینکه چرا این پیشنهاد مناقشهبرانگیز است، باید روی چهار کلمه حرف او مکث کرد: «در دست بخش خصوصی».
مسئله فقط هوش مصنوعی نیست؛ مسئله صاحب قدرت است
اوباما در زمره مخالفان فناوری قرار نمیگیرد. او پیشتر از ظرفیت هوش مصنوعی برای تغییر پزشکی، آموزش، انرژی و تولید سخن گفته است. نگرانی او از جای دیگری میآید: فناوریای که میتواند چنین تغییر بزرگی ایجاد کند، عمدتاً با سرمایه و تصمیم شرکتهای خصوصی توسعه پیدا میکند.
اینجا یک مسئله آشنای اقتصادی ظاهر میشود. سود یک تصمیم و هزینه آن همیشه به یک نفر نمیرسد.
اگر یک شرکت با استفاده از هوش مصنوعی نیروی انسانی کمتری استخدام کند، افزایش بهرهوری در حساب همان شرکت دیده میشود؛ اما هزینه آموزش دوباره کارگران یا بیکاری احتمالی آنها فقط در همان صورت مالی ظاهر نمیشود. اگر مدلی برای حمله سایبری استفاده شود نیز سازنده آن لزوماً تمام خسارتی را که دیگران متحمل میشوند، پرداخت نمیکند.
منطق اوباما از همینجا شکل میگیرد: اگر بخشی از هزینه یک فناوری را جامعه میپردازد، جامعه هم باید در تعیین قواعد آن سهم داشته باشد.
این استدلال در نگاه اول ساده به نظر میرسد. مشکل از جایی آغاز میشود که دولت وارد اتاق میشود.
دارویی که ممکن است خود بیماری بسازد
فرض کنید برای توسعه یک مدل پیشرفته، مجموعهای از آزمونهای اجباری، حسابرسیها و الزامات حقوقی گرانقیمت تعیین شود. شرکتهای بزرگ توان پرداخت هزینه آنها را دارند؛ یک شرکت کوچک شاید نه.
آن وقت قانونی که با هدف محدود کردن قدرت غولهای فناوری نوشته شده، میتواند ورود رقبای آنها را دشوارتر کند.
این یکی از نقدهای اصلی جریان طرفدار آزادی بیشتر برای توسعه فناوری است. آنها پیشنهاد میکنند به جای آنکه خود فناوری از ابتدا زیر انبوهی از مقررات قرار گیرد، تا جای ممکن آسیب مشخص و کاربرد خطرناک آن تنظیم شود.
مثال سادهای وجود دارد. اگر هوش مصنوعی دارویی طراحی کند، دارو همچنان باید آزمونهای ایمنی را پشت سر بگذارد. اگر کسی با هوش مصنوعی کلاهبرداری کند، کلاهبرداری همچنان جرم است. چرا پیش از آنکه بدانیم یک فناوری دقیقاً چگونه استفاده خواهد شد، برای ساخت آن مانع ایجاد کنیم؟
این نگاه در سیاست آمریکا نیز طرفدار دارد. دولت دونالد ترامپ بر حفظ برتری آمریکا در هوش مصنوعی و پرهیز از مقررات سنگین تاکید کرده و کاهش موانع توسعه فناوری را بخشی از راهبرد خود قرار داده است.
به این ترتیب اولین تناقض مقابل اوباما شکل میگیرد: ممکن است برای کم کردن قدرت شرکتهای بزرگ، مقرراتی بنویسید که بزرگ بودن را به یک مزیت حتی مهمتر تبدیل کند.
اما این تنها دردسر نسخه اوباما نیست.
«منافع عمومی» روی کاغذ سادهتر است
اوباما میخواهد سیاست عمومی جایی برای منافع جامعه در برابر منافع شرکتها باز کند. ولی «منافع جامعه» عددی نیست که بتوان آن را از جدولی بیرون کشید.
فرض کنید یک سامانه هوش مصنوعی هزینه تشخیص یک بیماری را بهشدت کاهش دهد و همزمان بخشی از مشاغل همان صنعت را حذف کند. جامعه باید توسعه آن را کند کند یا اجازه دهد منفعت بزرگتر سریعتر به دست آید؟
یا دشوارتر: اگر یک فناوری احتمال بسیار کوچکی برای ایجاد خسارتی بسیار بزرگ داشته باشد، چه میزان خطر قابل قبول است؟
اینها فقط پرسشهای فنی نیستند. در نهایت کسی باید میان منفعت امروز و خطر فردا، میان شغل موجود و بهرهوری بیشتر و میان نوآوری و احتیاط وزنگذاری کند.
اوباما نمیخواهد این انتخاب تنها در اختیار شرکتها باشد. اما منتقدانش میتوانند یک کلمه را در همان استدلال عوض کنند: چرا باید تصور کنیم سیاستمداران، تنظیمگران و گروههای ذینفوذ الزاماً بهتر از شرکتها میدانند چه چیزی به سود جامعه است؟
در این نقطه، بحث دیگر درباره قدرت هوش مصنوعی نیست؛ درباره قدرت تصمیم گرفتن درباره هوش مصنوعی است.
و درست همینجا داستان پیچیدهتر میشود، چون این بار بخشی از کسانی که فناوری را میسازند نیز خواهان محدودیت شدهاند.
وقتی سازندگان هم میگویند کمی آهستهتر
تنها یک روز پیش از انتشار سخنان اوباما، داریو آمودی، مدیرعامل آنتروپیک، از شرکتهای هوش مصنوعی خواست سرعت افزایش قابلیت مدلها را کاهش دهند تا فرصت بیشتری برای ایجاد سازوکارهای ایمنی فراهم شود.
او پیشنهاد کرده ارزیابان مستقل به فرایندهای شرکتهای پیشرو دسترسی داشته باشند و شرکتها درباره استانداردهای ایمنی با یکدیگر همکاری کنند. سم آلتمن، مدیرعامل اوپنایآی، و ایلان ماسک، مدیر ایکسایآی نیز با بخشهایی از این پیشنهاد موافقت کردهاند.
این اتفاق مرزبندی راحت میان «دولت محتاط» و «سیلیکونولی عاشق سرعت» را خراب میکند. اکنون کسانی درون همین صنعت نیز میگویند قابلیت مدلها ممکن است سریعتر از سازوکارهای مهار آنها پیش برود.
ولی راهحل صنعت هم بیمسئله نیست. اگر بزرگترین سازندگان هوش مصنوعی دور یک میز بنشینند و استانداردهای ایمنی را تعیین کنند، استانداردهایی که برای آنها قابل پرداخت است ممکن است برای رقیب تازهوارد نباشد.
در نتیجه حتی بر سر اصل احتیاط میتوان توافق کرد و باز به همان سؤال اول برگشت: قواعد را چه کسی مینویسد؟
اوباما یک دعوای فنی را انتخاباتی میکند
اهمیت سخنان تازه اوباما شاید همینجا باشد. او راهحل نهایی این مسئله را ارائه نکرده است؛ حتی هنوز معلوم نیست چارچوبی که از دموکراتها میخواهد دقیقاً چه شکلی خواهد داشت.
کاری که او کرده، سیاسی کردن پرسش است.
اگر پیشنهاد او جدی گرفته شود، هوش مصنوعی در انتخابات آینده آمریکا دیگر فقط موضوعی درباره تراشه، مدلهای زبانی یا رقابت با چین نخواهد بود. بحث میتواند به حقوق صاحبان مشاغل، قدرت شرکتها، توزیع ثروت، امنیت و سرانجام حدود دخالت دولت برسد.
این شاید نقطهای باشد که داستان هوش مصنوعی تغییر میکند. سالها سؤال اصلی این بود که ماشینها تا کجا میتوانند پیش بروند؟
حالا اوباما سؤال دیگری را وسط سیاست آمریکا گذاشته است: چه کسی اجازه دارد پاسخ آن سؤال را تعیین کند؟
پاسخ «شرکتها» نگرانی اوباما را میسازد. پاسخ «دولت» نگرانی مخالفانش را.
و شاید به همین دلیل، این مناقشه به این زودیها صاحب یک پاسخ راحت نخواهد شد.