گروهی از کارمندان فعلی و سابق OpenAI نامه ای سرگشاده منتشر کردند که در آن نگرانی خود را در مورد پیشرفت سریع صنعت هوش مصنوعی ابراز کردند و بر فقدان نظارت و عدم حمایت از افشاگران برای کسانی که می خواهند مسائل را مطرح کنند، تاکید کردند.
بیایید نگاهی به جزئیات بیاندازیم.
کارمندان در نامه سرگشاده نوشتند: «شرکت‌های هوش مصنوعی انگیزه‌های مالی قوی برای اجتناب از نظارت مؤثر دارند و ما معتقد نیستیم که ساختارهای سفارشی حاکمیت شرکتی برای تغییر این امر کافی است».
CNBC گزارش می دهد که OpenAI، گوگل، مایکروسافت، متا و سایر شرکت ها در رقابت تسلیحاتی مولد هوش مصنوعی پیشروی می کنند و پیش بینی می شود که درآمد این بازار طی یک دهه از یک تریلیون دلار فراتر رود. این افزایش توسط کسب و کارهایی در صنایع مختلف ایجاد می شود که به سرعت از چت ربات ها و عوامل مبتنی بر هوش مصنوعی استفاده می کنند تا رقابتی باقی بمانند و از عقب ماندن از رقبای خود جلوگیری کنند.
کارمندان فعلی و سابق تاکید کردند که شرکت‌های هوش مصنوعی اطلاعات غیر عمومی قابل توجهی در مورد قابلیت‌های فناوری خود، میزان اقدامات ایمنی اجرا شده و سطوح مختلف خطر مرتبط با آسیب‌های احتمالی ناشی از فناوری دارند.
آنها نوشتند: “ما همچنین خطرات جدی ناشی از این فناوری ها را درک می کنیم.” آنها همچنین اشاره کردند که شرکت‌ها «در حال حاضر تنها تعهدات ضعیفی برای به اشتراک گذاشتن برخی از این اطلاعات با دولت‌ها دارند و هیچ کدام با جامعه مدنی. ما فکر نمی‌کنیم که بتوان به همه آنها برای به اشتراک گذاشتن داوطلبانه آن اعتماد کرد.»
این نامه همچنین نگرانی های کارمندان فعلی و سابق را در مورد حمایت ناکافی از افشاگران در صنعت هوش مصنوعی بیان می کند. آنها تأکید کردند که بدون نظارت قوی دولت، کارمندان خود را در موقعیت نسبتاً منحصر به فردی می‌بینند تا شرکت‌ها را پاسخگو نگه دارند.
امضاکنندگان نوشتند: «توافق‌نامه‌های محرمانگی گسترده ما را از ابراز نگرانی‌هایمان باز می‌دارند، به جز برای شرکت‌هایی که ممکن است در رسیدگی به این مسائل شکست بخورند».
حمایت‌های معمولی از افشاگران کافی نیست زیرا بر فعالیت‌های غیرقانونی تمرکز می‌کنند، در حالی که بسیاری از خطرات مورد نگرانی ما هنوز تنظیم نشده است.
این نامه توسط چهار کارمند ناشناس OpenAI و هفت کارمند سابق، از جمله دانیل کوکوتاجلو، جیکوب هیلتون، ویلیام ساندرز، کارول وین رایت و دانیل زیگلر امضا شده است.
امضاکنندگان برجسته همچنین شامل رامانا کومار، که قبلا در Google DeepMind کار می کرد، و Neel Nanda، که در حال حاضر در Google DeepMind و قبلا در Anthropic کار می کرد، بودند. علاوه بر این، سه دانشمند مشهور کامپیوتر که به دلیل مشارکت در پیشرفت هوش مصنوعی شهرت دارند، جفری هینتون، یوشوا بنجیو و استوارت راسل این نامه را تایید کردند.
