پل کریستیانو، عضو هیئت‌مدیره بنیاد OpenAI، درباره سرعت پیشرفت هوش مصنوعی و احتمال خارج شدن کنترل این فناوری از دست انسان هشدار داده است. او معتقد است در صورت ادامه روند فعلی توسعه مدل‌های پیشرفته، ممکن است طی سه سال آینده هوش مصنوعی کنترل تصمیم‌های مهم را در دست بگیرد؛ سناریویی که به گفته او می‌تواند حاکمیت انسان بر جهان را تهدید کند.
منظور از تسلط هوش مصنوعی بر جهان چیست؟
کریستیانو این هشدار را در جریان سخنرانی‌های Hinton Lectures 2026 مطرح کرد؛ مجموعه‌ای از نشست‌ها که با میزبانی جفری هینتون، از چهره‌های شناخته‌شده حوزه هوش مصنوعی، برگزار می‌شود.
او تسلط هوش مصنوعی را صرفاً به معنای قدرتمندتر شدن ربات‌ها یا جایگزینی انسان در مشاغل نمی‌داند. در سناریوی مورد نظر او، سیستم‌های هوشمند به اهداف مستقلی دست پیدا می‌کنند و تصمیم می‌گیرند چه اتفاقی در جهان رخ دهد؛ به‌طوری‌که انسان‌ها دیگر اختیار نهایی را در اختیار نداشته باشند.
کریستیانو برای توضیح دشواری متوقف کردن چنین سیستم‌هایی، این وضعیت را به تلاش یک فرد عادی برای متوقف کردن ارتش آمریکا تشبیه کرد. از نگاه او، حتی افراد قدرتمند سیاسی نیز ممکن است در برابر سامانه‌هایی که کنترل بخش‌های مهم جهان را به دست گرفته‌اند، توان مقابله مؤثری نداشته باشند.
احتمال ۵۰ درصدی در صورت توسعه بدون محدودیت
یکی از نگران‌کننده‌ترین بخش‌های اظهارات کریستیانو به سرعت توسعه هوش مصنوعی مربوط می‌شود. او هشدار داد اگر شرکت‌ها بدون توجه کافی به ایمنی، سریع‌ترین مسیر ممکن را برای ساخت سیستم‌های پیشرفته انتخاب کنند، احتمال تسلط هوش مصنوعی بر جهان طی سه سال آینده می‌تواند به حدود ۵۰ درصد برسد.
او همچنین احتمال وقوع چنین اتفاقی در بازه کوتاه‌تر شش تا ۱۲ ماه آینده را منتفی نمی‌داند. بااین‌حال، این ارقام پیش‌بینی قطعی یا نتیجه یک مدل آماری اثبات‌شده نیستند؛ کریستیانو تأکید کرده که ارزیابی‌هایش بر قضاوت شخصی او درباره روند پیشرفت فناوری استوارند.
هشدار درباره مرگ‌ومیر ناشی از خطاهای هوش مصنوعی
کریستیانو تنها نگران از دست رفتن کنترل انسان بر سیستم‌های هوشمند نیست. او معتقد است خطاهای هوش مصنوعی نیز ممکن است به یکی از عوامل مهم مرگ‌ومیر انسان‌ها تبدیل شوند.
از نظر او، توسعه سریع سیستم‌هایی که توانایی انجام عملیات پیچیده دارند، بدون ایجاد سازوکارهای ایمنی قابل‌اعتماد می‌تواند خطرناک باشد. این سیستم‌ها ممکن است در جریان اجرای مأموریت‌های خود تصمیم‌هایی بگیرند که پیامدهای پیش‌بینی‌نشده‌ای برای انسان‌ها داشته باشد.
او همچنین به خطر حملات سایبری، دست‌کاری تصمیم‌های سیاسی و استفاده مخرب از سامانه‌های خودکار اشاره کرده است. افزایش توانایی هوش مصنوعی در انجام فعالیت‌های پیچیده، می‌تواند دامنه این تهدیدها را گسترده‌تر کند.
چرا عضو هیئت‌مدیره OpenAI خواستار کاهش سرعت توسعه است؟
کریستیانو معتقد است شرکت‌های فعال در حوزه هوش مصنوعی باید پیش از عرضه سیستم‌های قدرتمندتر، روش‌های مطمئن‌تری برای ارزیابی و کنترل رفتار آن‌ها ایجاد کنند. او همچنین خواستار ورود جدی‌تر دولت‌ها و هماهنگی بین‌المللی برای کاهش خطرهای احتمالی شده است.
این هشدار در حالی مطرح می‌شود که کریستیانو پیش‌تر نیز درباره آمادگی ناکافی صنعت هوش مصنوعی برای مدیریت خطرهای احتمالی صحبت کرده بود. او در سپتامبر ۲۰۲۶ گفته بود شرکت‌های فعال در این حوزه، از جمله OpenAI، هنوز در مسیر قابل‌قبولی برای کاهش خطر از دست رفتن کنترل انسان قرار ندارند.
با وجود اهمیت این هشدارها، سناریوی تسلط هوش مصنوعی بر جهان همچنان یک احتمال مورد بحث در حوزه ایمنی هوش مصنوعی است، نه اتفاقی قطعی یا پیش‌بینی‌شده با زمان‌بندی مشخص. اظهارات کریستیانو بیش از هر چیز نشان‌دهنده نگرانی بخشی از پژوهشگران درباره فاصله گرفتن سرعت پیشرفت قابلیت‌های هوش مصنوعی از سرعت توسعه ابزارهای ایمنی است.
منابع:
- Digit
- The Guardian
- BetaKit
