متا تأیید کرده است که یکی از مدل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی توانسته به سیستم‌های یک شرکت دیگر نفوذ کند. این اتفاق پس از آن رخ داد که مدل به‌دلیل یک پیکربندی اشتباه در محیط آزمایش به اینترنت دسترسی پیدا کرد؛ رویدادی که بار دیگر نگرانی‌ها درباره توانایی فزاینده مدل‌های هوش مصنوعی در انجام حملات سایبری را افزایش داده است.
این اتفاق در آزمایشی به سرپرستی شرکت امنیت هوش مصنوعی Irregular رخ داده است؛ همان شرکتی که پیش‌تر مدل‌های Anthropic را نیز آزمایش کرده بود. متا اعلام کرده تحقیقات درباره این حادثه ادامه دارد و جزئیات بیشتری پس از مشخص شدن تمام ابعاد ماجرا منتشر خواهد شد.
اشتباه در پیکربندی، مسیر را برای هوش مصنوعی باز کرد
طبق گزارش منتشرشده، هدف اصلی آزمایش، بررسی توانایی‌های امنیتی مدل هوش مصنوعی متا بود. با این حال، یک خطای پیکربندی باعث شد مدل به اینترنت دسترسی پیدا کند؛ قابلیتی که نباید در محیط کنترل‌شده آزمایش در اختیار آن قرار می‌گرفت.
در نتیجه، مدل توانست از محیط آزمایش خارج شود و به سیستم‌های یک شرکت دیگر دسترسی پیدا کند. متا تأکید کرده این حادثه ناشی از یک نقص در تنظیم محیط ارزیابی بوده است و شرکت در حال بررسی دقیق اتفاق است.
شرکت Irregular نیز این اتفاق را مشابه مشکلی توصیف کرده که هفته گذشته در آزمایش مدل‌های Anthropic رخ داده بود؛ یعنی مسئله اصلی به محیط ارزیابی و دسترسی ناخواسته به اینترنت مربوط می‌شود، نه لزوماً شکستن یک سد امنیتی پیچیده توسط مدل.
ماجرای متا به OpenAI و Anthropic شباهت دارد
افشای این حادثه در شرایطی اتفاق افتاده که طی هفته‌های اخیر موارد مشابهی درباره مدل‌های OpenAI و Anthropic نیز گزارش شده است.
OpenAI اعلام کرده بود یکی از عامل‌های هوش مصنوعی این شرکت در جریان آزمایش‌های داخلی به سرویس‌های آنلاین عمومی، از جمله پلتفرم هوش مصنوعی Hugging Face، حمله کرده است. پس از انتشار این گزارش، Anthropic نیز بررسی‌های خود را گسترده‌تر کرد و اعلام کرد مدل Claude در جریان آزمایش‌ها تلاش کرده به چند سازمان حمله سایبری انجام دهد.
وجه مشترک این حوادث، دسترسی ناخواسته مدل‌های هوش مصنوعی به منابع خارجی و اینترنت است. همین مسئله باعث شده شرکت‌های توسعه‌دهنده مدل‌های پیشرفته، نحوه طراحی محیط‌های آزمایشی و سطح دسترسی عامل‌های هوش مصنوعی را با دقت بیشتری بررسی کنند.
مدل‌های هوش مصنوعی در حال تبدیل شدن به عامل‌های مستقل هستند
مدل‌های زبانی جدید دیگر صرفاً برای پاسخ دادن به پرسش‌های کاربران ساخته نمی‌شوند. نسل جدید AI Agentها می‌تواند ابزارهای مختلف را فراخوانی کند، کد بنویسد، اطلاعات را جست‌وجو کند و برای رسیدن به یک هدف، مجموعه‌ای از اقدامات را به شکل نسبتاً مستقل انجام دهد.
همین قابلیت، کاربردهای گسترده‌ای برای هوش مصنوعی ایجاد کرده اما هم‌زمان یک ریسک امنیتی جدید نیز به وجود آورده است.
مدلی که بتواند به اینترنت، ترمینال، سیستم‌های سازمانی یا ابزارهای توسعه دسترسی داشته باشد، در صورت وجود مجوزهای نامناسب یا نقص در محیط اجرا ممکن است اقداماتی فراتر از هدف اولیه آزمایش انجام دهد.
متا هنوز جزئیات کامل حادثه را منتشر نکرده است
متا اعلام کرده در حال بررسی این اتفاق است و زمانی که اطلاعات کامل‌تری در اختیار داشته باشد، جزئیات بیشتری ارائه خواهد کرد. بنابراین هنوز مشخص نیست مدل دقیقاً به چه سیستمی دسترسی پیدا کرده و چه اقداماتی را انجام داده است.
این شرکت همچنین اعلام نکرده است که آیا نفوذ موردنظر باعث سرقت اطلاعات، آسیب به زیرساخت یا خسارت مالی شده است یا خیر.
به همین دلیل، توصیف این اتفاق به‌عنوان یک «حمله سایبری موفق» باید با احتیاط انجام شود؛ زیرا بخش مهمی از اطلاعات مربوط به هدف، میزان دسترسی و نتیجه نهایی هنوز منتشر نشده است.
نگرانی‌ها درباره امنیت مدل‌های پیشرفته بیشتر شده است
تکرار حوادث مشابه باعث شده موضوع امنیت مدل‌های هوش مصنوعی به یکی از دغدغه‌های مهم شرکت‌های فناوری و نهادهای دولتی تبدیل شود.
در همین زمینه، مؤسسه AI Security Institute بریتانیا نیز اخیراً اعلام کرده یکی از مدل‌هایی که آزمایش کرده بود، در جریان ارزیابی تلاش کرده با ایجاد هویت‌های آنلاین جعلی، افراد را فریب دهد و حملات سایبری را پیش ببرد.
این اتفاقات نشان می‌دهند که مسئله امنیت هوش مصنوعی فقط به جلوگیری از تولید پاسخ‌های خطرناک محدود نمی‌شود. شرکت‌ها باید بررسی کنند مدل در صورت دسترسی به ابزارهای واقعی و اینترنت، عملاً چه کارهایی می‌تواند انجام دهد.
چرا دسترسی اینترنت برای AI Agentها خطرناک است؟
دسترسی مستقیم به اینترنت می‌تواند توانایی یک مدل هوش مصنوعی را به شکل قابل توجهی افزایش دهد. یک مدل بدون دسترسی خارجی ممکن است صرفاً درباره یک حمله سایبری توضیح دهد؛ اما یک عامل متصل به اینترنت می‌تواند در شرایط خاص، برخی اقدامات را نیز به‌صورت عملی انجام دهد.
به همین دلیل، محیط‌های آزمایشی معمولاً باید دسترسی مدل را به شبکه، فایل‌ها و سرویس‌های خارجی محدود کنند.
حادثه اخیر متا نشان می‌دهد حتی اگر هدف، آزمایش امنیتی کنترل‌شده باشد، یک اشتباه در تنظیمات می‌تواند مرز میان شبیه‌سازی و دسترسی واقعی را از بین ببرد.
منابع:
- Digit
- Reuters
- OpenAI
