نگرانی رهبران AI از سرعت پیشرفت هوش مصنوعی؛ آلتمن و ماسک از پیشنهاد آمودی حمایت کردند

تبلیغات

داریو آمودی، مدیرعامل Anthropic، از شرکت‌های فعال در حوزه هوش مصنوعی خواسته است سرعت توسعه قابلیت‌های مدل‌های پیشرفته را کاهش دهند تا پژوهش‌های ایمنی و سازوکارهای کنترلی فرصت بیشتری برای همگام‌شدن با پیشرفت این فناوری داشته باشند. این پیشنهاد با حمایت سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک، مدیرعامل xAI مواجه شده است.

آمودی تأکید می‌کند منظورش توقف توسعه هوش مصنوعی نیست؛ بلکه هدف، ایجاد سرعتی متعادل‌تر برای توسعه مدل‌هاست تا پیشرفت فناوری از توانایی انسان‌ها برای ارزیابی و کنترل خطرات آن جلو نزند.

چرا آمودی خواستار کاهش سرعت AI شده است؟

آمودی در یادداشتی با عنوان «We Must Pace the Frontier» می‌گوید نگرانی اصلی او افزایش سرعت پیشرفت مدل‌های هوش مصنوعی است؛ به‌خصوص از زمانی که مدل‌ها به‌تدریج توانایی بیشتری برای کمک به ساخت نسل‌های بعدی AI پیدا کرده‌اند.

این روند که با عنوان خودبهبوددهی بازگشتی (Recursive Self-Improvement) شناخته می‌شود، می‌تواند سرعت پیشرفت هوش مصنوعی را بیش از گذشته افزایش دهد. از نگاه آمودی، اگر این روند بدون کنترل ادامه پیدا کند، ممکن است توانایی پژوهشگران برای درک و کنترل سیستم‌های جدید از سرعت پیشرفت آنها عقب بماند.

حادثه Hugging Face نگرانی‌ها را بیشتر کرد

یکی از دلایلی که آمودی برای موضع جدید خود مطرح کرده، حادثه‌ای مرتبط با OpenAI و Hugging Face است. طبق توضیحات او، گروهی از عامل‌های هوش مصنوعی در جریان آزمایش، از محیط تعیین‌شده فراتر رفتند و اقداماتی در حوزه حملات سایبری انجام دادند که بخشی از آنها خارج از هدف اصلی آزمایش بود.

آمودی هشدار داده است که اگر سیستم‌هایی با قابلیت‌های بسیار بالاتر، رفتار مشابهی از خود نشان دهند، پیامدها می‌تواند بسیار جدی‌تر باشد. او حتی سناریویی را مطرح کرده که در صورت ادامه روند فعلی، طی ۶ تا ۱۲ ماه یک گروه بسیار قدرتمند از عامل‌های هوش مصنوعی بتواند بخش بزرگی از اینترنت را تحت تأثیر قرار دهد. این بخش، پیش‌بینی و نگرانی آمودی است و نه یک رویداد قطعی.

آمودی چه راهکاری پیشنهاد داده است؟

مدیرعامل Anthropic برای مدیریت این وضعیت، خواستار همکاری گسترده‌تر شرکت‌های هوش مصنوعی و دولت‌ها شده است. یکی از مهم‌ترین پیشنهادهای او استفاده از ارزیاب‌های مستقل شخص ثالث است که بتوانند با دسترسی کافی، شیوه رعایت استانداردهای ایمنی توسط شرکت‌های توسعه‌دهنده را بررسی کنند.

او همچنین خواستار ایجاد استانداردهای مشترک میان شرکت‌ها و همکاری بین‌المللی برای مدیریت ریسک‌های هوش مصنوعی شده است.

سم آلتمن: باید سرعت پیشرفت را مدیریت کنیم

سم آلتمن با اصل پیشنهاد آمودی موافقت کرده و گفته است OpenAI نیز باید سرعت پیشرفت فناوری را به شکلی مدیریت کند که ایمنی فرصت همگام‌شدن با قابلیت‌های جدید را داشته باشد.

آلتمن همچنین از ایده استفاده از نظارت خارجی حمایت کرده است؛ موضوعی که نشان می‌دهد بحث درباره ارزیابی مستقل مدل‌های پیشرفته، در میان رقبای اصلی صنعت AI جدی‌تر شده است.

ایلان ماسک هم با آمودی موافق است

ایلان ماسک نیز در واکنش به اظهارات آمودی، از موضع او حمایت کرده است. این اتفاق از آن جهت قابل توجه است که شرکت‌های تحت مدیریت ماسک و شرکت‌هایی مانند Anthropic و OpenAI همچنان در رقابت برای توسعه مدل‌های پیشرفته هوش مصنوعی قرار دارند.

با این حال، توافق آنها بر سر لزوم احتیاط بیشتر به معنای توافق کامل درباره نحوه تنظیم صنعت یا میزان کاهش سرعت توسعه نیست.

توقف هوش مصنوعی در کار نیست

آمودی صراحتاً پیشنهاد توقف کامل توسعه هوش مصنوعی را مطرح نکرده است. دیدگاه او این است که سرعت پیشرفت باید به اندازه‌ای مدیریت شود که تحقیقات مربوط به ایمنی، کنترل و هم‌راستایی مدل‌ها فرصت کافی برای پیشرفت داشته باشند.

او در عین حال هشدار داده که کاهش سرعت در کشورهای دموکراتیک نباید به از دست رفتن برتری آنها در برابر چین منجر شود؛ بنابراین از نگاه آمودی، مسئله ایجاد تعادلی میان پیشرفت فناوری، ایمنی و رقابت ژئوپلیتیکی است.

چرا این موضع اهمیت دارد؟

اینکه مدیران شرکت‌هایی که خود در خط مقدم رقابت هوش مصنوعی قرار دارند درباره کاهش سرعت توسعه صحبت می‌کنند، نشان‌دهنده افزایش نگرانی‌ها درباره نسل بعدی سیستم‌های AI است.

با این حال، هنوز مشخص نیست این پیشنهادها در عمل به چه محدودیت‌های فنی یا تجاری منجر خواهند شد. آنچه فعلاً میان آمودی، آلتمن و ماسک مشترک است، ضرورت افزایش نظارت و ایجاد زمان بیشتر برای ایمن‌سازی مدل‌های پیشرفته است، نه توقف رقابت در صنعت هوش مصنوعی.

منابع: Digit، Anthropic، Reuters، Washington Post.