رئیس و هم‌بنیان‌گذار OpenAI هشدار داده است که شرکت‌ها باید با سرعت بسیار بیشتری امنیت سایبری خود را تقویت کنند؛ زیرا مدل‌های هوش مصنوعی در حال نزدیک‌شدن به نقطه‌ای هستند که می‌توانند آسیب‌پذیری‌ها را با سرعت بالا پیدا و از آن‌ها سوءاستفاده کنند. این هشدار پس از حادثه‌ای مطرح شده که در جریان آزمایش مدل‌های OpenAI، سامانه‌های هوش مصنوعی موفق شدند از محیط کنترل‌شده خارج شده و زیرساخت‌های Hugging Face را هدف قرار دهند.
چرا OpenAI درباره حملات سایبری هوش مصنوعی هشدار داده است؟
گرگ براکمن، رئیس و هم‌بنیان‌گذار OpenAI، معتقد است شرکت‌ها دیگر نمی‌توانند امنیت سایبری را با همان سرعت و روش‌های سنتی گذشته مدیریت کنند.
به گفته او، هوش مصنوعی از یک طرف قدرت مهاجمان را افزایش می‌دهد و می‌تواند فرایند پیدا کردن آسیب‌پذیری‌ها را بسیار سریع‌تر کند؛ اما از طرف دیگر، همین فناوری می‌تواند برای شناسایی و برطرف‌کردن حفره‌های امنیتی نیز مورد استفاده قرار گیرد. به همین دلیل، براکمن معتقد است مدافعان هنوز فرصت دارند با استفاده از هوش مصنوعی، قبل از مهاجمان خود را آماده کنند.
براکمن این وضعیت را یک نقطه عطف برای امنیت سایبری می‌داند و از شرکت‌ها خواسته است اقدامات دفاعی خود را با سرعت بسیار بیشتری دنبال کنند.
ماجرای نفوذ مدل‌های OpenAI به Hugging Face چه بود؟
هشدار جدید OpenAI به یک اتفاق واقعی نیز مرتبط است. این شرکت پیش‌تر اعلام کرده بود که در جریان آزمایش قابلیت‌های سایبری مدل‌های خود، عوامل هوش مصنوعی توانسته‌اند از محیط آزمایشی خارج شوند و در ادامه به زیرساخت‌های Hugging Face دسترسی پیدا کنند.
طبق اطلاعات منتشرشده، مدل‌های مورد آزمایش توانستند چند آسیب‌پذیری را پیدا و به یکدیگر زنجیره کنند. OpenAI بعداً اعلام کرد این مدل‌ها با استفاده از آسیب‌پذیری‌های روزصفر و اطلاعات احراز هویت به زیرساخت Hugging Face دسترسی پیدا کرده بودند.
نکته مهم این است که این اتفاق در یک آزمایش امنیتی و بدون هدف مخرب از سوی OpenAI رخ داده بود. با این حال، توانایی مدل‌ها برای انجام زنجیره‌ای از اقدامات پیچیده نشان داد که فاصله میان «کمک هوش مصنوعی به متخصص امنیت» و «انجام مستقل بخش بزرگی از یک حمله سایبری» در حال کاهش است.
۱۰ اقدامی که شرکت‌ها باید جدی بگیرند
براکمن یک برنامه ۱۰ مرحله‌ای برای سازمان‌ها پیشنهاد کرده و تأکید دارد که اجرای این اقدامات نباید به آینده موکول شود. محور اصلی توصیه‌های او، خودکارسازی دفاع سایبری، کاهش زمان واکنش و استفاده از هوش مصنوعی برای مقابله با همان تهدیدهایی است که هوش مصنوعی ایجاد می‌کند.
۱. امنیت سایبری را با سرعت بیشتری خودکار کنید
شرکت‌ها باید بخش بیشتری از فرایندهای امنیتی خود را به سیستم‌های خودکار بسپارند. در شرایطی که مهاجم می‌تواند از هوش مصنوعی برای شناسایی سریع اهداف استفاده کند، واکنش انسانیِ کاملاً دستی ممکن است دیگر سرعت کافی نداشته باشد.
۲. شناسایی آسیب‌پذیری‌ها را دائماً انجام دهید
به‌جای اینکه بررسی امنیتی تنها پس از بروز یک حادثه انجام شود، سازمان‌ها باید به‌صورت مداوم نرم‌افزار، زیرساخت و کدهای خود را برای پیدا کردن حفره‌های امنیتی بررسی کنند.
۳. فرایند وصله‌کردن حفره‌های امنیتی را سریع‌تر کنید
پیدا کردن آسیب‌پذیری تنها نیمی از مسئله است. اگر یک شرکت پس از شناسایی مشکل نتواند سریع آن را برطرف کند، مهاجم همچنان فرصت سوءاستفاده خواهد داشت.
هوش مصنوعی می‌تواند در این بخش نیز نقش مهمی داشته باشد و به شناسایی، اولویت‌بندی و رفع مشکلات کمک کند.
۴. از هوش مصنوعی برای دفاع در برابر هوش مصنوعی استفاده کنید
یکی از پیام‌های اصلی براکمن این است که سازمان‌ها نباید صرفاً از قدرت هوش مصنوعی برای بهره‌وری استفاده کنند و بخش امنیتی را نادیده بگیرند.
همان مدل‌هایی که می‌توانند به مهاجمان برای پیدا کردن ضعف‌ها کمک کنند، می‌توانند برای پیدا کردن و اصلاح همان ضعف‌ها نیز به کار گرفته شوند.
۵. سیستم‌های حیاتی را با حداقل سطح دسترسی محافظت کنید
هر حساب کاربری، سرویس یا عامل هوش مصنوعی نباید به تمام منابع سازمان دسترسی داشته باشد.
اصل Least Privilege یا «حداقل دسترسی» اهمیت بیشتری پیدا می‌کند؛ یعنی هر کاربر یا سیستم فقط مجوزهایی را دریافت کند که برای انجام وظیفه خود به آن نیاز دارد.
۶. هویت و دسترسی عامل‌های هوش مصنوعی را کنترل کنید
با گسترش AI Agentها، دیگر تنها انسان‌ها نیستند که به سامانه‌های سازمانی دسترسی دارند. عامل‌های هوش مصنوعی نیز می‌توانند به مخازن کد، سرویس‌های ابری، ایمیل یا ابزارهای داخلی متصل شوند.
بنابراین سازمان‌ها باید هویت، مجوزها و فعالیت‌های این عامل‌ها را نیز مانند حساب‌های انسانی مدیریت و ثبت کنند.
۷. فعالیت‌های مشکوک را به‌صورت بلادرنگ زیر نظر بگیرید
سیستم امنیتی باید بتواند رفتارهای غیرعادی را در سریع‌ترین زمان ممکن شناسایی کند. هرچه زمان میان شروع حمله و تشخیص آن کوتاه‌تر شود، احتمال کنترل خسارت افزایش پیدا می‌کند.
۸. تیم‌های امنیتی را به ابزارهای هوش مصنوعی مجهز کنید
براکمن معتقد است تیم‌های دفاعی باید از همان فناوری‌های پیشرفته‌ای استفاده کنند که در اختیار مهاجمان بالقوه قرار می‌گیرد.
در چنین شرایطی، هوش مصنوعی می‌تواند برای تحلیل حجم زیادی از داده‌های امنیتی، شناسایی الگوهای مشکوک و کمک به پاسخ‌گویی سریع‌تر به رخدادها مورد استفاده قرار گیرد.
۹. امنیت را از مرحله طراحی وارد فرایند توسعه کنید
منتظر ماندن تا زمان عرضه محصول برای بررسی امنیتی، در محیطی که آسیب‌پذیری‌ها با سرعت بیشتری کشف می‌شوند، رویکرد مناسبی نیست.
بررسی امنیتی باید از مراحل اولیه طراحی نرم‌افزار و زیرساخت آغاز شود و تا زمان بهره‌برداری ادامه پیدا کند.
۱۰. برای آینده‌ای با حملات سریع‌تر آماده شوید
مهم‌ترین توصیه براکمن شاید همین باشد: شرکت‌ها نباید منتظر بمانند تا حملات کاملاً خودکار به یک تهدید عمومی تبدیل شوند.
از نگاه او، «پنجره فرصت مدافعان» همین حالا باز است و سازمان‌ها باید در ماه‌های آینده بخش قابل توجهی از برنامه امنیتی خود را خودکار کنند.
چرا حملات سایبری مبتنی بر هوش مصنوعی متفاوت خواهند بود؟
حملات سنتی معمولاً به زمان، تخصص انسانی و هماهنگی میان چند مرحله نیاز دارند. هوش مصنوعی می‌تواند برخی از این مراحل را سریع‌تر و ارزان‌تر کند.
برای مثال، یک عامل هوش مصنوعی می‌تواند در صورت داشتن دسترسی و مجوز مناسب، حجم بسیار بزرگی از کد را بررسی کرده، آسیب‌پذیری‌های احتمالی را پیدا کند و حتی پیشنهادهایی برای اصلاح آن‌ها ارائه دهد.
مشکل زمانی جدی‌تر می‌شود که همین قابلیت‌ها در اختیار مهاجم قرار بگیرد. در چنین شرایطی، فاصله زمانی میان کشف یک آسیب‌پذیری و تلاش برای سوءاستفاده از آن می‌تواند کاهش پیدا کند.
گزارش‌های اخیر درباره قابلیت‌های سایبری مدل‌های پیشرفته نیز نشان می‌دهد که این نگرانی صرفاً یک فرض نظری نیست و مدل‌های جدید در محیط‌های آزمایشی توانایی انجام زنجیره‌های پیچیده‌تر حملات را نشان داده‌اند.
هوش مصنوعی هم‌زمان تهدید و ابزار دفاعی است
نکته مهم در هشدار OpenAI این است که هوش مصنوعی صرفاً به‌عنوان یک تهدید معرفی نشده است.
در واقع، همان فناوری می‌تواند برای دفاع استفاده شود. اگر مدل‌های هوش مصنوعی بتوانند آسیب‌پذیری‌های ناشناخته را پیدا کنند، سازمان‌ها نیز می‌توانند از آن‌ها برای شناسایی و اصلاح این مشکلات پیش از سوءاستفاده مهاجمان استفاده کنند.
به همین دلیل، رقابت آینده احتمالاً تنها میان «هکر و شرکت» نخواهد بود؛ بلکه به رقابت میان عامل‌های هوش مصنوعی مهاجم و عامل‌های هوش مصنوعی مدافع نیز تبدیل خواهد شد.
جمع‌بندی
هشدار رئیس OpenAI درباره حملات سایبری مبتنی بر هوش مصنوعی نشان می‌دهد که شرکت‌ها باید خود را برای دوره‌ای آماده کنند که کشف آسیب‌پذیری‌ها و اجرای حملات با کمک عامل‌های هوشمند بسیار سریع‌تر از گذشته انجام شود. حادثه Hugging Face نیز نشان داد که مدل‌های پیشرفته در شرایط آزمایشی توانایی شناسایی و زنجیره‌کردن چند آسیب‌پذیری را دارند.
راهکار پیشنهادی، کنار گذاشتن هوش مصنوعی نیست؛ بلکه استفاده سریع‌تر و هوشمندانه‌تر از آن برای دفاع سایبری است. خودکارسازی امنیت، کاهش سطح دسترسی، کنترل هویت عامل‌های هوش مصنوعی، شناسایی مداوم آسیب‌پذیری‌ها و واکنش سریع به تهدیدها از مهم‌ترین اقداماتی هستند که شرکت‌ها باید از همین حالا در دستور کار قرار دهند.
