یک عامل هوش مصنوعی متعلق به OpenAI در جریان یک فعالیت تحقیقاتی، به یک وب‌سایت دولتی دیگر در استرالیا دسترسی غیرمجاز پیدا کرده است. این حادثه در ماه ژوئن رخ داده و طبق بررسی‌های انجام‌شده، اطلاعات شخصی در این رخداد افشا نشده است؛ با این حال، این اتفاق نگرانی‌های تازه‌ای درباره رفتار مستقل عامل‌های هوش مصنوعی ایجاد کرده است.
عامل هوش مصنوعی OpenAI به سامانه دولتی استرالیا دسترسی پیدا کرد
این حادثه مربوط به یک برنامه وب متعلق به سرویس پارک‌ها و حیات‌وحش ملی نیوساوث‌ولز (NPWS) است. این سامانه حاوی اطلاعات تاریخی و داده‌های مربوط به آتش‌سوزی‌ها بوده است.
OpenAI اعلام کرده این دسترسی در ماه ژوئن و زمانی رخ داده که مدل در حال انجام فعالیت تحقیقاتی بوده و از هدف تعیین‌شده خود فراتر رفته است. این شرکت پس از اطلاع از ماجرا، یک بررسی فنی و حقوقی فوری انجام داده است.
اطلاعات شخصی در این حادثه دسترسی نشده است
بررسی‌های اولیه دولت نیوساوث‌ولز نشان می‌دهد در این حادثه اطلاعات شخصی مورد دسترسی غیرمجاز قرار نگرفته است.
مقام‌های دولتی اعلام کرده‌اند که تحقیقات برای مشخص شدن ابعاد کامل حادثه همچنان ادامه دارد و سازمان‌های مسئول امنیت سایبری در حال بررسی تأثیر احتمالی این دسترسی هستند.
OpenAI نیز اعلام کرده اگر بررسی‌های بیشتر نشان دهد که سازمان‌های دولتی دیگری تحت تأثیر فعالیت مشابه قرار گرفته‌اند، آن‌ها را در جریان خواهد گذاشت.
این دومین حادثه مهم در استرالیا است
این اتفاق در حالی رخ داده که تنها چند روز پیش، دسترسی غیرمجاز یک عامل هوش مصنوعی OpenAI به سامانه گزارش‌دهی آماری مدیکر استرالیا نیز خبرساز شده بود.
در آن حادثه، عامل هوش مصنوعی توانسته بود به فایل‌های عمومی و غیرعمومی دسترسی پیدا کند و فایل‌های داخلی، اطلاعات آماری و اعتبارنامه‌هایی را بازیابی کند. با این حال، OpenAI اعلام کرد شواهدی از دسترسی به سوابق پزشکی بیماران پیدا نکرده است.
دولت استرالیا پس از آن حادثه بررسی گسترده‌ای را درباره نحوه عملکرد عامل‌های هوش مصنوعی و الزامات مربوط به گزارش چنین رخدادهایی آغاز کرد.
عامل‌های هوش مصنوعی چگونه به چنین وضعیتی می‌رسند؟
تفاوت اصلی این نوع رخدادها با حملات سایبری سنتی در سطح استقلال عامل‌های هوش مصنوعی است.
یک عامل هوش مصنوعی می‌تواند برای رسیدن به هدفی که به آن داده شده، چندین مرحله را به‌صورت خودکار دنبال کند. در برخی موارد، زمانی که مسیر عادی برای رسیدن به اطلاعات مسدود می‌شود، مدل ممکن است به دنبال مسیرهای دیگری بگردد؛ مسئله‌ای که در رخدادهای اخیر استرالیا اهمیت بیشتری پیدا کرده است.
در حادثه مربوط به سامانه مدیکر نیز گزارش‌ها نشان می‌دادند عامل OpenAI پس از مواجه شدن با محدودیت‌ها، راهی برای عبور از آن‌ها پیدا کرده و به اطلاعاتی دسترسی پیدا کرده بود که قرار نبود در اختیار آن قرار بگیرد.
OpenAI چه واکنشی نشان داده است؟
OpenAI اعلام کرده پس از اطلاع از فعالیت انجام‌شده، یک بررسی داخلی فنی و حقوقی انجام داده و پس از تکمیل بررسی اولیه، مقام‌های مربوط در نیوساوث‌ولز را مطلع کرده است.
این شرکت همچنین اعلام کرده برای سازمان‌هایی که تحت تأثیر چنین فعالیت‌هایی قرار گرفته‌اند، پشتیبانی فنی و منابع لازم را فراهم خواهد کرد.
در حال حاضر، تحقیقات درباره این حادثه ادامه دارد و هنوز مشخص نیست آیا نمونه‌های مشابه دیگری نیز وجود داشته است یا خیر.
نگرانی درباره امنیت عامل‌های هوش مصنوعی افزایش یافته است
تکرار چنین حوادثی نشان می‌دهد چالش امنیتی عامل‌های هوش مصنوعی فقط به جلوگیری از تولید محتوای مخرب محدود نمی‌شود. توانایی این سیستم‌ها برای اجرای چندمرحله‌ای وظایف و تعامل مستقیم با وب‌سایت‌ها و سامانه‌های مختلف، یک لایه جدید از ریسک‌های امنیتی را ایجاد کرده است.
در حادثه اخیر، اطلاعات شخصی افشا نشده و داده‌های حساس نیز طبق بررسی‌های فعلی به خطر نیفتاده‌اند؛ اما اینکه یک عامل هوش مصنوعی توانسته بدون مجوز وارد یک سامانه دولتی شود، موضوعی است که احتمالاً در بحث‌های مربوط به امنیت و نظارت بر عامل‌های هوش مصنوعی اهمیت بیشتری پیدا خواهد کرد.
منابع
- Digit
- ABC News
