۵ خطر بزرگ هوش مصنوعی که آینده جهان را تهدید می‌کند

بر اساس یک مطالعه جدید از مؤسسه فناوری ماساچوست (MIT)، احتمال اینکه هوش مصنوعی در پنج سال آینده به توانایی‌های خطرناک تسلیحاتی دست پیدا کند یا باعث خسارات گسترده‌ای شود که جان میلیون‌ها نفر را بگیرد، حدود ۲۰ درصد است.

اما چرا این موضوع مهم است؟

آکسیوس می‌گوید این یافته‌ها به بحث‌های فزاینده درباره ایمنی هوش مصنوعی و امنیت سایبری دامن می‌زند؛ زیرا دولت‌ها و شرکت‌ها در رقابت برای عرضه سیستم‌های هوش مصنوعی قدرتمندتر هستند.

خبر هفته گذشته درباره یک مدل هوش مصنوعی از OpenAI که توانست از محدودیت‌های امنیتی عبور کند و به پلتفرم هوش مصنوعی هاگینگ فیس نفوذ کند، بار دیگر نگرانی‌ها درباره خطرات احتمالی این فناوری را افزایش داده است.

در این پژوهش، محققانی از مؤسسه فناوری ماساچوست (MIT) و دانشگاه کوئینزلند استرالیا از ۲۷۲ متخصص بین‌المللی خواستند ۲۴ ریسک مختلف مرتبط با هوش مصنوعی را بر اساس احتمال وقوع و شدت پیامدهای آن‌ها در بازه زمانی ۲۰۲۵ تا ۲۰۳۰ ارزیابی کنند.

نتایج نشان داد متخصصان معتقدند ۱۸ مورد از ۲۴ ریسک بررسی‌ شده، حداقل ۱۰ درصد احتمال ایجاد پیامدهای فاجعه‌بار در پنج سال آینده دارند.

با این حال، پنج خطر اصلی با احتمال وقوع بالاتر نسبت به سایر موارد، بیش از همه مورد توجه قرار گرفتند.

این مطالعه، «پیامد فاجعه‌بار» را رویدادی تعریف می‌کند که می‌تواند به بیش از یک میلیون مرگ انسانی، بیش از ۱۰۰ میلیارد دلار خسارت اقتصادی یا پیامدهایی در مقیاس تمدنی منجر شود.

اما ۵ خطر اصلی هوش مصنوعی از نگاه کارشناسان چه بود؟

• دستیابی به قابلیت‌های خطرناک؛ ۲۱.۵ درصد: کارشناسان معتقدند سیستم‌های هوش مصنوعی ممکن است از طریق فریب انسان‌ها، کمک به توسعه سلاح‌ها، انجام حملات سایبری یا ناهماهنگی میان اهداف خود و خواسته‌های انسانی، زمینه‌ساز خسارات گسترده شوند.

• حملات سایبری، توسعه سلاح و ایجاد خسارت جمعی؛ ۲۱ درصد: استفاده از هوش مصنوعی برای طراحی و توسعه سلاح‌ها، از جمله سلاح‌های شیمیایی و زیستی، اجرای حملات سایبری یا ساخت ابزارهای کشتار جمعی مانند تسلیحات هسته‌ای، یکی از مهم‌ترین نگرانی‌های کارشناسان است.

• تمرکز قدرت و توزیع ناعادلانه منافع؛ ۱۸ درصد: اگر مزایای هوش مصنوعی تنها در اختیار گروه‌ها یا شرکت‌های محدودی قرار گیرد، می‌تواند به افزایش نابرابری اقتصادی و اجتماعی منجر شود.

• رقابت میان شرکت‌ها برای توسعه سریع‌تر مدل‌ها؛ ۱۶.۶ درصد: رقابت شدید برای عرضه قدرتمندترین مدل‌های هوش مصنوعی ممکن است شرکت‌ها را به سمت توسعه سریع‌تر و کم‌احتیاط‌تر سوق دهد؛ موضوعی که می‌تواند به تولید سیستم‌های پرخطا و خطرناک منجر شود.

• اطلاعات جعلی و گمراه‌کننده؛ ۱۲.۸ درصد: هوش مصنوعی می‌تواند اطلاعات نادرست، خطاهای گسترده یا محتوای گمراه‌کننده تولید کند؛ مسئله‌ای که ممکن است باعث شکل‌گیری باورهای اشتباه و تصمیم‌های نادرست توسط انسان‌ها شود.

کارشناسان می‌گویند برخی اقدامات کنترلی و پیشگیرانه می‌توانند شدت آسیب‌های احتمالی هوش مصنوعی را کاهش دهند، اما حتی با اجرای این اقدامات نیز احتمال وقوع برخی از این خطرها همچنان بالاتر از ۱۰ درصد باقی می‌ماند.

نگرانی درباره ایمنی هوش مصنوعی، بحث‌ها درباره ضرورت ایجاد چارچوب‌های نظارتی و محدودیت‌های کنترلی برای این فناوری را افزایش داده است.

رفتار سیستم‌های هوش مصنوعی و حتی برداشت عمومی از عملکرد آن‌ها می‌تواند بازارها را تحت تأثیر قرار دهد و در مدت کوتاهی فضای گفت‌وگوهای عمومی را تغییر دهد؛ موضوعی که به تقویت سناریوهای نگران‌کننده درباره آینده این فناوری منجر شده است.

در مقابل، هوش مصنوعی تاکنون افزایش چشمگیری در بهره‌وری ایجاد کرده و بسیاری از فعالان این حوزه بر ظرفیت آن برای خودکارسازی وظایف، بهبود عملکرد و افزایش توانایی‌های انسانی تأکید دارند.

پژوهشگران تأکید می‌کنند خطرات فاجعه‌بار هوش مصنوعی همچنان با عدم قطعیت همراه هستند، اما احتمال و شدت این تهدیدها به اندازه‌ای است که دولت‌ها، شرکت‌ها و سایر فعالان این حوزه باید آن‌ها را به‌عنوان چالش‌هایی جدی برای مدیریت و کاهش ریسک در نظر بگیرند.