شرکت‌های بزرگ هوش مصنوعی در حال بررسی سناریوهایی هستند که در آن‌ها یک حمله سایبری گسترده یا سوءاستفاده از ابزارهای پیشرفته هوش مصنوعی می‌تواند خدمات حیاتی مانند بانکداری، برق، اینترنت و تأمین آب را مختل کند. گزارش‌های تازه نشان می‌دهند مدیران شرکت‌هایی مانند OpenAI و آنتروپیک علاوه بر بررسی خطرهای فنی، خود را برای واکنش‌های سیاسی و اجتماعی پس از وقوع یک حادثه بزرگ نیز آماده می‌کنند.
این نگرانی در شرایطی افزایش یافته که توانایی مدل‌های هوش مصنوعی در انجام وظایف پیچیده، کمک به برنامه‌نویسی و اجرای عملیات سایبری رو به گسترش است. بااین‌حال، سناریوهای مطرح‌شده به معنای قطعی‌بودن وقوع یک فاجعه نیستند؛ بلکه نشان می‌دهند شرکت‌ها و نهادهای مرتبط، پیامدهای احتمالی پیشرفت سریع این فناوری را جدی‌تر گرفته‌اند.
چرا غول‌های هوش مصنوعی نگران یک بحران بزرگ هستند؟
بر اساس گزارش‌های منتشرشده درباره برنامه‌ریزی مدیران صنعت هوش مصنوعی، یکی از نگرانی‌های اصلی، وقوع حمله‌ای است که بتواند بخش‌هایی از زیرساخت‌های حیاتی را از کار بیندازد. اختلال در خدمات مالی، شبکه برق، ارتباطات اینترنتی یا سامانه‌های تأمین آب می‌تواند فراتر از یک مشکل فنی ساده باشد و پیامدهای اقتصادی و اجتماعی گسترده‌ای ایجاد کند.
در چنین شرایطی، شرکت‌های فناوری ممکن است با این پرسش روبه‌رو شوند که آیا محصولات و ابزارهای آن‌ها در شکل‌گیری حادثه نقش داشته‌اند یا خیر. اگر مشخص شود یک عامل هوش مصنوعی در اجرای حمله‌ای مخرب نقش داشته، فشار عمومی و سیاسی برای محدودکردن توسعه این فناوری می‌تواند به‌شدت افزایش یابد.
گزارش‌ها حاکی از آن است که مدیران شرکت‌ها سناریوهای مختلف بحران را بررسی می‌کنند تا برای پیامدهای احتمالی، از جمله واکنش قانون‌گذاران و افکار عمومی، آمادگی بیشتری داشته باشند.
حملات سایبری؛ یکی از جدی‌ترین خطرهای هوش مصنوعی پیشرفته
هوش مصنوعی می‌تواند در شناسایی آسیب‌پذیری‌های نرم‌افزاری، تحلیل کد، خودکارسازی برخی مراحل حمله و افزایش سرعت فعالیت مهاجمان نقش داشته باشد. این قابلیت‌ها به‌خودی‌خود مخرب نیستند و در صورت استفاده مسئولانه می‌توانند به تیم‌های امنیتی برای شناسایی و رفع ضعف‌ها کمک کنند؛ اما در اختیار مهاجمان نیز ممکن است برای افزایش مقیاس و سرعت حملات به کار گرفته شوند.
یکی از نگرانی‌های مهم، کاهش هزینه و دشواری اجرای حملات پیچیده است. اگر ابزارهای هوش مصنوعی بتوانند بخشی از کارهایی را که پیش‌تر به دانش تخصصی و زمان زیادی نیاز داشتند خودکار کنند، افراد بیشتری ممکن است توانایی اجرای حملات سایبری را پیدا کنند.
در مقابل، همین فناوری می‌تواند برای دفاع سایبری، بررسی سریع‌تر رخدادها و شناسایی رفتارهای مشکوک به کار گرفته شود. به همین دلیل، نتیجه نهایی تا حد زیادی به نحوه طراحی ابزارها، سطح دسترسی آن‌ها و آمادگی سازمان‌ها برای مقابله با تهدیدهای جدید بستگی دارد.
شرکت‌ها برای واکنش عمومی و فشار سیاسی آماده می‌شوند
یکی از محورهای این برنامه‌ریزی، واکنش احتمالی جامعه و دولت‌ها پس از وقوع نخستین حادثه بزرگ مرتبط با هوش مصنوعی است. اگر چنین رویدادی خسارت قابل‌توجهی به بار آورد، ممکن است درخواست‌ها برای محدودکردن توسعه مدل‌های پیشرفته، وضع قوانین سخت‌گیرانه‌تر و افزایش نظارت مستقل بر شرکت‌های فناوری شدت بگیرد.
مدیران صنعت همچنین نگران‌اند که در صورت وقوع بحران، مسئولیت میان شرکت‌های توسعه‌دهنده مدل، سازمان‌های استفاده‌کننده و مهاجمان انسانی به موضوعی مناقشه‌برانگیز تبدیل شود. در این میان، مدل‌های متن‌باز یا دارای وزن‌های قابل‌دسترسی نیز چالش جداگانه‌ای ایجاد می‌کنند؛ زیرا کنترل نحوه استفاده از نسخه‌های منتشرشده آن‌ها دشوارتر است.
شرکت OpenAI تأیید کرده است که تمرین‌هایی برای آمادگی در برابر سناریوهای مختلف انجام می‌دهد، اما تأکید کرده که این سناریوها پیش‌بینی قطعی آینده نیستند. آنتروپیک نیز در زمان انتشار گزارش اولیه، اظهارنظر رسمی درباره جزئیات مطرح‌شده نداشت.
آیا وقوع یک فاجعه هوش مصنوعی اجتناب‌ناپذیر است؟
برخی از افراد فعال در صنعت معتقدند احتمال وقوع یک حادثه بزرگ در ماه‌های آینده باید جدی گرفته شود؛ بااین‌حال، این ارزیابی‌ها پیش‌بینی قطعی یا اجماع علمی درباره زمان وقوع یک بحران نیستند. تمرین سناریوهای بحرانی نیز به‌خودی‌خود نشان نمی‌دهد که شرکت‌ها وقوع چنین رویدادی را حتمی می‌دانند.
آنچه اهمیت بیشتری دارد، آمادگی عملی برای کاهش احتمال حادثه و محدودکردن خسارت در صورت وقوع آن است. سازمان‌های مسئول زیرساخت‌های حیاتی باید آسیب‌پذیری‌های خود را برطرف کنند، سامانه‌های تشخیص حمله را بهبود دهند و برای قطع خدمات، بازیابی اطلاعات و ادامه فعالیت در شرایط اضطراری برنامه داشته باشند.
شرکت‌های هوش مصنوعی نیز می‌توانند با ارزیابی امنیتی مستقل، محدودکردن دسترسی مدل‌ها به ابزارهای حساس و همکاری با متخصصان امنیت سایبری، بخشی از خطر را کاهش دهند. بااین‌حال، هیچ اقدام منفردی تضمین نمی‌کند که همه تهدیدها از بین بروند.
جمع‌بندی
برنامه‌ریزی شرکت‌های بزرگ هوش مصنوعی برای سناریوهای بحرانی نشان می‌دهد که نگرانی درباره پیامدهای این فناوری دیگر صرفاً به بحث‌های نظری محدود نیست. حملات سایبری، احتمال اختلال در زیرساخت‌های حیاتی و دشواری کنترل برخی عامل‌های هوشمند، همگی ضرورت تقویت دفاع سایبری و تدوین قواعد روشن‌تر را برجسته می‌کنند.
بااین‌حال، نباید آمادگی برای یک بحران احتمالی را با تأیید قریب‌الوقوع‌بودن آن اشتباه گرفت. مسئله اصلی این است که توسعه هوش مصنوعی با سازوکارهای متناسب برای امنیت، پاسخ‌گویی و مدیریت بحران همراه شود؛ پیش از آنکه یک حادثه بزرگ، تصمیم‌گیری را به واکنشی شتاب‌زده و پرهزینه تبدیل کند.
منابع:
- Digit.in
- Axios
