شرکت‌های OpenAI، گوگل و Anthropic در حال بررسی تشکیل یک نهاد مستقل برای تدوین و ارزیابی استانداردهای ایمنی هوش مصنوعی هستند. این طرح هنوز نهایی نشده، اما طبق گزارش‌های منتشرشده، سه شرکت امیدوارند این سازمان را تا پایان سال ۲۰۲۶ یا اوایل ۲۰۲۷ راه‌اندازی کنند.
این همکاری در شرایطی شکل می‌گیرد که شرکت‌های توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی بیش از گذشته روی ارزیابی خطرات، آزمایش مدل‌ها و ایجاد استانداردهای مشترک تمرکز کرده‌اند.
نام احتمالی نهاد جدید چیست؟
بر اساس گزارش منتشرشده، نام موقت این سازمان Standards Authority for Frontier AI یا SAFA در نظر گرفته شده است.
قرار نیست این نهاد زیرمجموعه دولت باشد. برنامه فعلی این است که SAFA به‌صورت مستقل از دولت فعالیت کند و شرکت‌های فعال در حوزه هوش مصنوعی را در زمینه ارزیابی مدل‌های پیشرفته و تعیین معیارهای ایمنی پشتیبانی کند.
با این حال، ساختار نهایی، نام رسمی و اعضای سازمان هنوز قطعی نشده‌اند.
وظیفه SAFA چه خواهد بود؟
هدف اصلی این نهاد، ایجاد مجموعه‌ای از استانداردهای عملی برای ارزیابی مدل‌های هوش مصنوعی پیشرفته عنوان شده است.
بر اساس اطلاعات منتشرشده، این سازمان می‌تواند روی مواردی مانند موارد زیر تمرکز کند:
- تعیین معیارهای فنی برای ارزیابی مدل‌های پیشرفته
- آزمایش قابلیت‌ها و خطرات مدل‌های هوش مصنوعی
- ارزیابی اقدامات ایمنی پیش از عرضه مدل‌ها
- ایجاد معیارهای مشترک برای سنجش ریسک
- کمک به توسعه‌دهندگان برای ارزیابی مدل‌های جدید
- ایجاد چارچوب‌های مشترک برای آزمایش و ممیزی سیستم‌های هوش مصنوعی
این رویکرد با پیشنهادهای اخیر درباره همکاری شرکت‌های هوش مصنوعی در زمینه تست و ممیزی مدل‌ها هم‌راستا است.
همکاری سه شرکت از چند هفته قبل آغاز شده است
این ایده کاملاً جدید نیست. طبق گزارش The Information، نمایندگانی از OpenAI، Anthropic و گوگل از ماه‌های اخیر درباره ایجاد یک نهاد استانداردگذاری مشترک مذاکره کرده‌اند.
یک گروه کاری در سطح مدیران و نمایندگان ارشد این سه شرکت نیز به‌صورت منظم درباره این طرح جلساتی برگزار کرده است. طبق همین گزارش، یکی از جلسات این گروه در هفته گذشته برگزار شده است.
OpenAI نیز پیش‌تر اعلام کرده بود که در حال همکاری با Anthropic و Google DeepMind برای بررسی اقدامات مشترک در حوزه ایمنی هوش مصنوعی است.
چرا شرکت‌های هوش مصنوعی به استاندارد مشترک نیاز دارند؟
مدل‌های هوش مصنوعی پیشرفته با سرعت زیادی توسعه پیدا می‌کنند و روش‌های ارزیابی آن‌ها در شرکت‌های مختلف یکسان نیست. همین مسئله می‌تواند مقایسه عملکرد، قابلیت‌ها و سطح ریسک مدل‌های مختلف را دشوار کند.
OpenAI نیز اخیراً از ایجاد استانداردهای جهانی برای ارزیابی ایمنی مدل‌های پیشرفته حمایت کرده و پیشنهاد داده است کشورها و مؤسسات ایمنی هوش مصنوعی برای ایجاد معیارهای فنی مشترک همکاری کنند.
در چنین چارچوبی، وجود یک سازمان تخصصی می‌تواند به ایجاد معیارهای مشترک برای آزمایش مدل‌ها کمک کند؛ هرچند نحوه استفاده شرکت‌ها و دولت‌ها از این استانداردها همچنان به تصمیمات آینده بستگی دارد.
چه کسانی ممکن است مدیریت این نهاد را بر عهده بگیرند؟
بر اساس گزارش‌ها، شرکت‌های حاضر در این گروه درباره انتخاب مدیرعامل احتمالی سازمان نیز گفت‌وگو کرده‌اند.
نام Sriram Krishnan، مشاور سابق سیاست‌گذاری هوش مصنوعی در کاخ سفید، از جمله گزینه‌هایی است که مطرح شده است. نام Arati Prabhakar، مدیر سابق دفتر سیاست علم و فناوری کاخ سفید، نیز در گزارش‌ها به‌عنوان گزینه احتمالی مطرح شده است.
با این حال، هیچ‌کدام از این گزینه‌ها برای مدیریت سازمان به‌صورت رسمی تأیید نشده‌اند.
راه‌اندازی نهاد مشترک چه زمانی انجام می‌شود؟
برنامه فعلی سه شرکت، راه‌اندازی این سازمان تا پایان سال ۲۰۲۶ یا اوایل ۲۰۲۷ است. با این حال، این زمان‌بندی قطعی نیست و ایجاد ساختار سازمانی، انتخاب مدیران و توافق بر سر استانداردها همچنان در حال بررسی است.
از سوی دیگر، مشخص نیست این نهاد در نهایت چه شرکت‌های دیگری را به عضویت خواهد پذیرفت یا استانداردهای آن تا چه اندازه در صنعت هوش مصنوعی مورد استفاده قرار خواهند گرفت.
استانداردگذاری به معنای توقف توسعه هوش مصنوعی نیست
هدف اعلام‌شده این طرح، ایجاد چارچوبی برای آزمایش، ارزیابی و سنجش ایمنی مدل‌ها است و نه متوقف کردن توسعه هوش مصنوعی.
در هفته‌های اخیر نیز بحث همکاری میان شرکت‌های بزرگ هوش مصنوعی درباره ایمنی مدل‌های پیشرفته بیشتر شده است. در کنار همکاری‌های پیشنهادی، برخی مدیران فناوری درباره لزوم یا شیوه اجرای چنین همکاری‌هایی دیدگاه‌های متفاوتی مطرح کرده‌اند.
در صورت راه‌اندازی SAFA، این سازمان می‌تواند به یکی از سازوکارهای صنعتی برای ایجاد معیارهای مشترک در ارزیابی مدل‌های پیشرفته تبدیل شود؛ البته میزان تأثیرگذاری آن به ساختار نهایی، مشارکت سایر شرکت‌ها و پذیرش استانداردهای پیشنهادی بستگی خواهد داشت.
منابع:
Gizmodo
Bloomberg
Digit
