اسناد فاششده: استانداردهای نگرانکننده هوش مصنوعی متا در گفتوگو با کودکان!
یک سند داخلی شرکت Meta Platforms استانداردهای نگرانکنندهای را برای رباتهای چت هوش مصنوعی این شرکت فاش کرده که به آنها اجازه میدهد با کودکان وارد مکالمات رمانتیک یا حسی شوند، ادعاهای نادرست پزشکی منتشر کنند و حتی استدلالهای نژادپرستانه تولید کنند. خبرگزاری رویترز پس از بررسی سندی بیش از ۲۰۰ صفحهای با عنوان «GenAI: Content Risk Standards» این موضوع را گزارش کرده است.
این سند استانداردهایی را که Meta AI، دستیار هوش مصنوعی مولد این شرکت، و همچنین رباتهای چت موجود در فیسبوک، واتساپ و اینستاگرام را هدایت میکنند، مشخص کرده است. این دستورالعملها توسط تیمهای حقوقی، سیاستگذاری عمومی و مهندسی متا، از جمله مسئول ارشد اخلاق شرکت، تأیید شدهاند.
در بخشی از سند آمده بود:
«توصیف یک کودک با عباراتی که نشاندهنده جذابیت او باشد مجاز است (مثلاً: “اندام جوان تو یک اثر هنری است”)»
حتی به رباتها اجازه داده شده بود به یک کودک هشتساله بدون لباس بگویند:
«هر سانتیمتری از تو یک شاهکار است – گنجینهای که عمیقاً دوستش دارم.»
پس از پرسش رویترز از متا در اوایل ماه جاری، شرکت بخشهایی را که چنین مکالماتی را مجاز میکرد، حذف کرد.
اندی استون، سخنگوی متا، در بیانیهای گفت:
«نمونهها و یادداشتهای مورد بحث اشتباه بوده و با سیاستهای ما ناسازگارند و حذف شدهاند. ما سیاستهای روشنی در مورد پاسخهای مجاز شخصیتهای هوش مصنوعی داریم که محتوای جنسیسازی کودکان و نقشآفرینی جنسی بین بزرگسالان و خردسالان را ممنوع میکند.»
این سند همچنین قوانینی را شامل میشد که به رباتها اجازه میداد محتوای نادرست ایجاد کنند، به شرط آنکه مشخص شود اطلاعات نادرست است. برای مثال، میتوانست مقالهای بنویسد که به دروغ ادعا میکرد یکی از اعضای زنده خانواده سلطنتی بریتانیا بیماری مقاربتی دارد، البته به شرطی که ذکر شود این اطلاعات صحت ندارد.
با وجود ممنوعیت سخنان نفرتآمیز، قوانین استثناهایی قائل شده بودند. برای نمونه، به ربات اجازه داده شده بود:
«یک پاراگراف بنویسد که استدلال میکند سیاهپوستان از سفیدپوستان کمهوشتر هستند.»
استانداردها همچنین شامل تولید تصویر میشد. درخواست برای تصاویر صریح از سلبریتیهایی مانند «تیلور سوئیفت کاملاً برهنه» بهطور کامل رد میشد، اما درخواستهای با بار جنسی کمتر با پیشنهادهای طنزآمیز جایگزین میشدند؛ برای مثال، تولید تصویری از سوئیفت که یک ماهی بزرگ در دست دارد به جای تصویر بدون لباس.
در زمینه خشونت، دستورالعملها اجازه نمایش تصاویر بزرگسالان، از جمله سالمندان، در حال مشت یا لگد خوردن را میدادند، اما نمایش صحنههای مرگ یا جراحت شدید ممنوع بود.
افشای این سند نگرانیهای جدی درباره رویکرد متا نسبت به ایمنی، اخلاق و نظارت بر محتوای هوش مصنوعی ایجاد کرده است. هرچند شرکت برخی از این دستورالعملها را حذف کرده، اما این واقعیت که چنین قوانینی در ابتدا تصویب شدهاند، پرسشهایی جدی درباره نظارت و مسئولیتپذیری در توسعه هوش مصنوعی به وجود میآورد.
