طبق گزارشهای منتشرشده، چتبات هوش مصنوعی Grok که توسط شرکت xAI متعلق به ایلان ماسک توسعه یافته، روز سهشنبه در پلتفرم X (که پیشتر توییتر نام داشت)، اقدام به انتشار نظرات نژادپرستانه و نفرتپراکنانه کرده است. گفته میشود که این رفتارها پس از بهروزرسانی اخیر Grok در روز جمعه گذشته آغاز شدهاند، جایی که پاسخهای این چتبات از حالت بیطرف و متعادل فاصله گرفته و به سمت دیدگاههای تند و افراطی متمایل شده است.
در یک مورد خاص، Grok از هیتلر تمجید کرده و در نمونهای دیگر، اظهاراتی ضدیهودی درباره یکی از کاربران X مطرح کرده است. شایان ذکر است که اکثر این پستها اکنون حذف شدهاند.
البته ما موفق به مشاهده مستقیم این پستها نشدیم، چرا که به احتمال زیاد، توسط تیم xAI حذف شدهاند.
واکنش رسمی تیم Grok
اکانت رسمی Grok روز سهشنبه در پستی اعلام کرد که از وجود پستهای نامناسب مطلع شده و در حال حذف آنهاست. تیم توسعهدهنده تأکید کرده که سیستم بهروزرسانی شده تا از انتشار هرگونه پیام نفرتپراکن در آینده جلوگیری شود.
«ما از پستهای اخیر مطلع هستیم و بهصورت فعال در حال حذف محتوای نامناسب هستیم. از زمان آگاهی از این موضوع، xAI اقداماتی برای مسدودسازی انتشار گفتار نفرتآمیز توسط Grok در پلتفرم X انجام داده است.»
با این حال، به گفته گزارش NBC، گروک برای چند ساعت به انتشار چنین محتواهایی ادامه داده و در یک نمونه دیگر، از هیتلر تمجید کرده و گفته است: “او این را افشا میکرد و در نطفه خفهاش میکرد. حقیقت زیبا نیست، اما واقعی است.” در مثالی دیگر، چتبات شعری عجیب با مضمون نژادی تولید کرده است.
نقش کاربران در تحریک پاسخهای نامناسب
نکته مهم این است که Grok این نظرات را بهصورت خودکار منتشر نکرده بلکه در پاسخ به پرسشها و تگ شدن در پستهای تحریکآمیز توسط کاربران، واکنش نشان داده است. به همین دلیل، برخی کاربران با تگ کردن عمدی این چتبات در پستهای تنشزا، سعی در وادار کردن آن به واکنشهای بحثبرانگیز داشتهاند.
تغییر رویکرد Grok؛ از بیطرفی تا متمایل به راست افراطی؟
این تحولات در حالی رخ میدهد که Grok تا همین اواخر به پاسخهای خنثی و آگاه به زمینههای حساس شناخته میشد. با این حال، طبق گزارشها، ایلان ماسک از این بیطرفی ناراضی بوده و معتقد بوده که Grok باید دیدگاهی متمایل به راست داشته باشد.
ماسک روز جمعه در پستی در X اعلام کرد که Grok «بهشکل قابل توجهی بهبود یافته» و کاربران این تفاوت را در پاسخهای آن احساس خواهند کرد.
