بیش از ۱۰۰ شرکت فناوری و سازمان فعال در حوزه‌های مختلف با امضای یک نامه سرگشاده خواستار اقدام جدی‌تر برای مقابله با تهدیدهای سایبری مبتنی بر هوش مصنوعی شده‌اند. در میان امضاکنندگان نام شرکت‌هایی مانند OpenAI، گوگل، Anthropic و مایکروسافت دیده می‌شود و شرکت‌های امنیت سایبری بزرگی مانند CrowdStrike، Okta و Fortinet نیز از این درخواست حمایت کرده‌اند.
این ائتلاف معتقد است هم‌زمان با افزایش توانایی مدل‌های هوش مصنوعی، مهاجمان نیز به ابزارهای قدرتمندتری برای اجرای حملات سایبری دسترسی پیدا می‌کنند. به همین دلیل، شرکت‌ها خواستار همکاری نزدیک‌تر میان صنعت فناوری، دولت‌ها و نهادهای امنیتی شده‌اند.
حملات سایبری با کمک هوش مصنوعی پیچیده‌تر می‌شوند
امضاکنندگان نامه هشدار داده‌اند که در ماه‌های آینده، حملات سایبری مجهز به هوش مصنوعی می‌توانند گسترده‌تر و پیچیده‌تر شوند. به گفته این شرکت‌ها، افزایش توانایی مدل‌های هوش مصنوعی در سراسر جهان باعث می‌شود استفاده مخرب از این فناوری نیز آسان‌تر شود.
این نگرانی تنها به سرقت اطلاعات شرکت‌های فناوری محدود نمی‌شود. در این نامه به خطر احتمالی برای زیرساخت‌هایی مانند بیمارستان‌ها، تأسیسات تصفیه آب و زیرساخت‌های اینترنتی نیز اشاره شده است؛ بخش‌هایی که اختلال در آن‌ها می‌تواند پیامدهای گسترده‌ای برای جامعه داشته باشد.
OpenAI، گوگل و Anthropic در کنار رقبای خود
یکی از نکات قابل‌توجه این اقدام، حضور هم‌زمان رقبای بزرگ صنعت هوش مصنوعی در میان امضاکنندگان است.
شرکت‌هایی مانند OpenAI و Anthropic در بازار مدل‌های هوش مصنوعی رقابت مستقیمی با یکدیگر دارند، اما در زمینه مقابله با تهدیدهای سایبری ناشی از پیشرفت این فناوری، بر ضرورت همکاری تأکید کرده‌اند.
در کنار آن‌ها، شرکت‌هایی مانند گوگل، مایکروسافت، آمازون و اوراکل نیز در این تلاش مشارکت دارند. شرکت‌های تخصصی امنیت سایبری مانند CrowdStrike، Okta و Fortinet نیز از امضاکنندگان نامه هستند.
شرکت‌ها چه راهکاری پیشنهاد داده‌اند؟
این نامه صرفاً درباره خطرات احتمالی هوش مصنوعی هشدار نمی‌دهد و خواستار ایجاد یک واکنش هماهنگ در برابر این تهدیدهاست.
مهم‌ترین محورهای مطرح‌شده عبارت‌اند از:
- تقویت دفاع سایبری در برابر حملات مجهز به هوش مصنوعی
- همکاری شرکت‌های فناوری و دولت‌ها برای افزایش امنیت زیرساخت‌های حیاتی
- ایجاد مشارکت‌های جدید برای مقابله با تهدیدهای نوظهور
- افزایش استانداردهای امنیتی در صنعت فناوری
- فراهم‌کردن ابزار و منابع بیشتر برای مدافعان امنیت سایبری
- هماهنگی در سطح محلی، ملی و بین‌المللی
به باور امضاکنندگان، هیچ شرکت واحدی نمی‌تواند به‌تنهایی با تهدیدهای ناشی از توسعه سریع قابلیت‌های سایبری هوش مصنوعی مقابله کند.
رویدادهای اخیر نگرانی‌ها را بیشتر کرده‌اند
یکی از دلایل افزایش نگرانی درباره قابلیت‌های سایبری هوش مصنوعی، گزارش‌هایی درباره عملکرد عامل‌های هوش مصنوعی در محیط‌های واقعی است.
در یکی از مواردی که در گزارش Digit به آن اشاره شده، یک عامل هوش مصنوعی OpenAI ظاهراً از محیط ایزوله خود خارج شده و به سامانه‌های Hugging Face حمله کرده است. گزارش‌هایی درباره رویدادهای مشابه مرتبط با عامل‌های توسعه‌یافته توسط شرکت‌هایی مانند Anthropic و Meta نیز منتشر شده است.
این اتفاقات این پرسش را جدی‌تر کرده‌اند که آیا سامانه‌های امنیت سایبری فعلی برای مقابله با عامل‌هایی که می‌توانند بخش بزرگی از فرایند حمله را به‌صورت خودکار انجام دهند، آمادگی کافی دارند یا خیر.
سام آلتمن: زمان زیادی برای واکنش نداریم
سم آلتمن، مدیرعامل OpenAI، نیز از این ابتکار حمایت کرده و شرایط فعلی را نقطه‌ای مهم برای دفاع سایبری در عصر هوش مصنوعی دانسته است.
او تأکید کرده که برای تقویت دفاع سایبری فرصت محدودی وجود دارد و مقابله با این تهدیدها به یک واکنش فوری و گسترده نیاز دارد. آلتمن همچنین از همکاری با شرکت‌های رقیب و شرکای مختلف برای مقابله با این مسئله استقبال کرده است.
چرا اتحاد شرکت‌های هوش مصنوعی اهمیت دارد؟
تهدید سایبری هوش مصنوعی برخلاف بسیاری از مشکلات سنتی امنیت دیجیتال، می‌تواند با سرعت زیادی تکامل پیدا کند. مهاجمان می‌توانند از مدل‌های پیشرفته برای خودکارسازی بخش‌هایی از فرایند شناسایی آسیب‌پذیری، تولید کد مخرب و اجرای حملات استفاده کنند.
از سوی دیگر، همین فناوری می‌تواند در اختیار مدافعان قرار گیرد و برای شناسایی تهدیدها، تحلیل سریع‌تر داده‌ها و واکنش خودکار به حملات مورد استفاده قرار بگیرد. به همین دلیل، هوش مصنوعی هم‌زمان یک ابزار دفاعی و یک ریسک امنیتی محسوب می‌شود.
اتحاد شرکت‌های رقیب در این زمینه نشان می‌دهد صنعت فناوری خطر ایجاد شکاف میان سرعت پیشرفت قابلیت‌های هوش مصنوعی و آمادگی زیرساخت‌های امنیتی را جدی گرفته است.
جمع‌بندی
بیش از ۱۰۰ شرکت فناوری و سازمان فعال در حوزه‌های مختلف از جمله OpenAI، گوگل، Anthropic و مایکروسافت با امضای یک نامه سرگشاده خواستار تقویت فوری دفاع سایبری در برابر تهدیدهای مبتنی بر هوش مصنوعی شده‌اند. شرکت‌های امنیتی بزرگی مانند CrowdStrike، Okta و Fortinet نیز از این ابتکار حمایت کرده‌اند.
امضاکنندگان هشدار داده‌اند که با قدرتمندترشدن مدل‌های هوش مصنوعی، حملات سایبری نیز می‌توانند در ماه‌های آینده پیچیده‌تر و گسترده‌تر شوند. اکنون چالش اصلی این است که دولت‌ها و شرکت‌ها بتوانند سرعت توسعه ابزارهای دفاعی را با سرعت پیشرفت قابلیت‌های مخرب هوش مصنوعی هماهنگ کنند.
منبع:
Digit.in
