یک پژوهشگر سابق شرکت‌های Anthropic و OpenAI پس از سه سال فعالیت در حوزه تحقیقات پیش‌آموزش مدل‌های هوش مصنوعی از Anthropic استعفا داده و درباره سرعت توسعه سیستم‌های پیشرفته هوش مصنوعی هشدار داده است. جیکوب کاکسون معتقد است رقابت شرکت‌های بزرگ برای ساخت سیستم‌های قدرتمندتر، بدون وجود سازوکارهای ایمنی کافی، می‌تواند خطرات جدی برای بشریت ایجاد کند.
کاکسون می‌گوید برخی افرادی که در صنعت هوش مصنوعی فعالیت می‌کنند، به‌صورت جدی نگرانند که سیستم‌های آینده به مرحله‌ای برسند که کنترل آن‌ها برای انسان دشوار یا حتی غیرممکن شود.
چرا پژوهشگر Anthropic استعفا داد؟
جیکوب کاکسون در مجموعه‌ای از پست‌ها در شبکه اجتماعی X اعلام کرد که از Anthropic استعفا داده است. او پیش از این در OpenAI نیز فعالیت کرده و مجموعاً سه سال از دوران کاری خود را صرف تحقیقات مربوط به پیش‌آموزش مدل‌های هوش مصنوعی کرده است.
او مدعی شده است که نه Anthropic و نه OpenAI رویکرد مسئولانه‌ای نسبت به سرعت فعلی توسعه هوش مصنوعی ندارند. از نگاه کاکسون، این شرکت‌ها در حال حرکت سریع به سمت ساخت ابرهوش خودبهبوددهنده هستند؛ سیستمی که بتواند توانایی‌های خود را بدون وابستگی کامل به انسان ارتقا دهد.
کاکسون این روند را نوعی قمار با آینده انسان‌ها توصیف کرده و معتقد است رقابت میان شرکت‌های هوش مصنوعی باعث شده ملاحظات ایمنی با سرعت پیشرفت فناوری همگام نباشد.
هشدار درباره هوش مصنوعی فوق‌قدرتمند
این پژوهشگر در اظهارات خود نسبت به آینده سیستم‌های هوش مصنوعی بسیار قدرتمند هشدار داده است. به گفته او، چنین سیستم‌هایی ممکن است در آینده توانایی‌هایی فراتر از انسان در حوزه‌هایی مانند هک‌کردن، پژوهش علمی و کسب منابع داشته باشند.
کاکسون معتقد است روند پیشرفت در این حوزه همچنان ادامه دارد و نشانه‌ای از توقف آن دیده نمی‌شود. نگرانی اصلی او این است که توانایی سیستم‌های هوش مصنوعی سریع‌تر از سازوکارهایی که برای کنترل و ایمن‌سازی آن‌ها طراحی شده‌اند، رشد کند.
این نگرانی البته به معنای آن نیست که هوش مصنوعی فعلی به مرحله‌ای رسیده که تهدیدی برای بقای انسان محسوب می‌شود. بحث اصلی کاکسون درباره مسیر توسعه سیستم‌های آینده و احتمال ایجاد سیستم‌هایی با قابلیت‌های بسیار فراتر از مدل‌های امروزی است.
آیا فعالان صنعت هوش مصنوعی از نابودی انسان می‌ترسند؟
کاکسون ادعا کرده است که نگرانی درباره پیامدهای نهایی هوش مصنوعی در میان برخی افراد فعال در این صنعت جدی‌تر از چیزی است که در فضای عمومی دیده می‌شود.
او گفته است افرادی که به‌صورت جدی در حال ساخت سیستم‌های پیشرفته هوش مصنوعی هستند، احتمال می‌دهند این فناوری در صورت خارج شدن از کنترل بتواند در نهایت تهدیدی برای بقای انسان ایجاد کند.
یکی از هشدارهای مطرح‌شده از سوی او این است که برخی فعالان این حوزه حتی احتمال می‌دهند هوش مصنوعی در صورت ادامه روند فعلی، تا پایان دهه جاری میلادی بتواند به سطحی برسد که پیامدهای بسیار خطرناکی برای انسان داشته باشد.
با این حال، این موضوع یک پیش‌بینی و ارزیابی شخصی است و نباید آن را به‌عنوان یک نتیجه علمی قطعی درباره آینده هوش مصنوعی در نظر گرفت.
چرا Anthropic با وجود نگرانی‌ها به توسعه AI ادامه می‌دهد؟
کاکسون درباره دلیل ادامه توسعه هوش مصنوعی در Anthropic نیز توضیح داده است. به گفته او، بخشی از کارکنان OpenAI ممکن است هنوز ابعاد کامل خطرات احتمالی را درک نکرده باشند، اما وضعیت در Anthropic متفاوت است و این شرکت خطرات مربوط به توسعه هوش مصنوعی پیشرفته را بهتر می‌شناسد.
با این حال، از دیدگاه کاکسون، Anthropic همچنان خود را مجبور می‌بیند که به توسعه فناوری ادامه دهد؛ زیرا این نگرانی وجود دارد که اگر این شرکت عقب‌نشینی کند، رقبای دیگر سیستم‌های قدرتمندتری را بدون رعایت استانداردهای ایمنی کافی توسعه دهند.
به بیان ساده، این وضعیت می‌تواند به یک مسابقه تسلیحاتی فناوری شبیه شود که در آن هر شرکت برای عقب نماندن از رقبا مجبور به افزایش توانایی مدل‌های خود است.
پیشنهاد کاکسون برای کاهش خطرات هوش مصنوعی چیست؟
کاکسون معتقد است شرکت‌های بزرگ فعال در حوزه هوش مصنوعی باید همکاری بیشتری با یکدیگر داشته باشند. از نظر او، ادامه رقابت بدون هماهنگی درباره استانداردهای ایمنی می‌تواند ریسک توسعه سیستم‌هایی را افزایش دهد که کنترل آن‌ها دشوار است.
او همچنین مطرح کرده است که اگر شرکت‌ها نتوانند به شکل مؤثری با یکدیگر هماهنگ شوند، ممکن است به اقدامات جدی‌تری نیاز باشد.
یکی از گزینه‌هایی که این پژوهشگر مطرح کرده، توقف موقت افزایش قابلیت‌های مدل‌های هوش مصنوعی است؛ اقدامی که می‌تواند فرصت بیشتری برای توسعه سازوکارهای ایمنی، ارزیابی خطرات و ایجاد چارچوب‌های نظارتی فراهم کند.
اختلاف نظر درباره آینده هوش مصنوعی ادامه دارد
نگرانی درباره خطرات هوش مصنوعی موضوع جدیدی نیست و سال‌هاست میان پژوهشگران، مدیران شرکت‌های فناوری و سیاست‌گذاران درباره آن بحث می‌شود.
یک گروه معتقد است توسعه سریع مدل‌های هوش مصنوعی می‌تواند خطرات قابل‌توجهی ایجاد کند و باید پیش از رسیدن سیستم‌ها به قابلیت‌های بسیار پیشرفته، سازوکارهای کنترلی مناسبی ایجاد شود.
در مقابل، گروه دیگری بر این باور است که بسیاری از سناریوهای فاجعه‌بار درباره هوش مصنوعی هنوز فرضی هستند و نباید هشدارهای شدید درباره آینده را با خطرات اثبات‌شده فناوری‌های فعلی یکسان دانست.
با این حال، افزایش توانایی مدل‌ها در انجام وظایف پیچیده باعث شده موضوع ایمنی هوش مصنوعی بیش از گذشته مورد توجه قرار بگیرد.
منابع
- Digit
- Wall Street Journal
- Business Insider
