چتباتهای متا زیر قوانین سختگیرانه کودکمحور!
شرکت متا قوانین تازهای را برای آموزش و عملکرد چتباتهای هوش مصنوعی خود وضع کرده تا از بروز مکالمات نامناسب با کودکان جلوگیری شود. این اقدام پس از آن صورت میگیرد که این غول شبکههای اجتماعی به دلیل ضعف در ایجاد محدودیتهای کافی برای محافظت از کاربران خردسال، با انتقادهای گسترده مواجه شده بود.
به گزارش بیزنس اینسایدر، پیمانکاران مسئول آموزش هوش مصنوعی متا اکنون دستورالعملهای دقیقتری درباره موارد مجاز و غیرمجاز دریافت کردهاند. در این دستورالعملها بر رویکرد «تحمل صفر» نسبت به محتوایی که میتواند به بهرهکشی از کودکان یا ایجاد مرزهای مبهم در گفتگو با کاربران زیر سن قانونی منجر شود، تأکید شده است.
قوانین جدید بهطور مشخص هرگونه سناریویی را که ممکن است به عادیسازی یا تسهیل سوءاستفاده جنسی از کودکان بینجامد، ممنوع میکند. همچنین، نقشآفرینی عاشقانه در صورتی که کاربر یا خود هوش مصنوعی بهعنوان فرد خردسال معرفی شود، ممنوع است. علاوه بر این، چتباتها اجازه ندارند به کودکان درباره روابط جسمی یا مسائل صمیمی توصیهای ارائه دهند. با این حال، امکان پرداختن به موضوعات حساس مانند آگاهیبخشی درباره سوءاستفاده یا رفتارهای مجرمانه در قالب آموزشی یا علمی همچنان مجاز خواهد بود.
گزارش یادشده تصریح میکند: «سیاست متا اجازه میدهد که هوش مصنوعی درباره موضوعاتی همچون سوءاستفاده از کودکان تنها در قالب آموزشی یا آکادمیک گفتگو کند، مانند توضیح رفتارهای موسوم به “گِرومینگ”، یا ارائه توصیههای غیرجنسی به کودکان درباره موقعیتهای اجتماعی.»
این تغییرات پس از آن اعمال شد که اوایل سال جاری، گزارشی از رویترز ادعا کرد سیاستهای متا امکان بروز مکالمات عاشقانه یا حسی میان چتباتها و کودکان را فراهم میکند؛ ادعایی که متا در آن زمان رد کرده بود. این شرکت در ماه اوت وعده بازنگری در دستورالعملهای ایمنی را داده بود و حالا نشانههای اجرای آن وعده آشکار شده است.
