یک پژوهش جدید از دانشگاه واشنگتن نشان می‌دهد مدل‌های زبانی بزرگ هنگام تولید داستان درباره حیوانات سخنگو، در بسیاری از موارد به سمت شخصیت‌های مذکر متمایل می‌شوند. نکته نگران‌کننده‌تر این است که شخصیت‌های مؤنث در این داستان‌ها تقریباً غایب هستند و تنها در ۲.۲ درصد از داستان‌های بررسی‌شده ظاهر شده‌اند؛ درحالی‌که شخصیت‌های مذکر در ۴۰.۶ درصد داستان‌ها حضور داشته‌اند.
هوش مصنوعی چگونه شخصیت‌های زن را در داستان‌ها کم‌رنگ می‌کند؟
پژوهشگران دانشگاه واشنگتن به سراغ یکی از موقعیت‌های جالب برای بررسی سوگیری هوش مصنوعی رفته‌اند: داستان‌هایی درباره حیوانات سخنگو که جنسیت شخصیت‌ها در دستور اولیه مشخص نشده بود.
این انتخاب اهمیت زیادی دارد؛ زیرا وقتی کاربر از مدل هوش مصنوعی می‌خواهد درباره یک حیوان داستان بنویسد، برخلاف داستانی درباره «یک دختر» یا «یک پسر»، اطلاعات صریحی درباره جنسیت شخصیت در اختیار مدل قرار نمی‌گیرد.
پژوهشگران شش مدل زبانی بزرگ را با شخصیت‌های حیوانی مختلف و در چهار فضای داستانی متفاوت آزمایش کردند. در مجموع، مجموعه‌ای شامل حدود ۲۳ هزار و ۸۰۰ داستان برای بررسی الگوهای جنسیتی مورد استفاده قرار گرفت.
نتیجه نشان داد مدل‌ها در مواجهه با چنین شخصیت‌هایی اغلب یا جنسیت را مشخص نمی‌کنند یا وقتی جنسیتی تعیین می‌کنند، به شکل قابل‌توجهی به سمت جنسیت مذکر می‌روند.
شخصیت‌های مؤنث تنها در ۲.۲ درصد داستان‌ها ظاهر شدند
شاید مهم‌ترین عدد این پژوهش همین باشد.
از میان داستان‌هایی که مدل‌های مورد بررسی برای آن‌ها جنسیت شخصیت را مشخص کردند، شخصیت‌های مؤنث تنها در ۲.۲ درصد داستان‌ها حضور داشتند. در مقابل، شخصیت‌های مذکر در ۴۰.۶ درصد داستان‌ها ظاهر شدند.
البته بخش قابل‌توجهی از داستان‌ها نیز اساساً شخصیت‌ها را با جنسیت مشخص معرفی نکردند. مدل‌ها در حدود ۱۹ درصد موارد از جنسیت‌گذاری شخصیت خودداری کردند و در حدود ۳۸.۲ درصد موارد از زبان خنثی مانند «it» یا «its» استفاده کردند.
بنابراین مسئله فقط این نیست که هوش مصنوعی در داستان‌ها شخصیت مرد بیشتری تولید می‌کند؛ بلکه پژوهش نشان می‌دهد تلاش برای خنثی نگه داشتن جنسیت شخصیت‌ها نیز لزوماً به نمایندگی متعادل منجر نمی‌شود.
نتایج کلیدی پژوهش
| شاخص | نتیجه |
|---|---|
| تعداد داستان‌های بررسی‌شده | حدود ۲۳٬۸۰۰ |
| مدل‌های زبانی بررسی‌شده | ۶ مدل |
| حضور شخصیت مؤنث | ۲.۲٪ |
| حضور شخصیت مذکر | ۴۰.۶٪ |
| خودداری از تعیین جنسیت | ۱۹٪ |
| استفاده از زبان خنثی | ۳۸.۲٪ |
چرا داستان‌های کودکانه اهمیت ویژه‌ای دارند؟
داستان برای کودکان فقط وسیله‌ای برای سرگرمی نیست. کتاب‌ها و روایت‌هایی که کودکان با آن‌ها مواجه می‌شوند می‌توانند در شکل‌گیری برداشت آن‌ها از جامعه، نقش‌های اجتماعی و تصویری که از خود و دیگران دارند مؤثر باشند.
پژوهش‌های مستقل پیشین نیز نشان داده‌اند که عدم توازن جنسیتی در ادبیات کودک موضوع جدیدی نیست. برای نمونه، بررسی ۳۲۸۰ کتاب کودک منتشرشده بین سال‌های ۱۹۶۰ تا ۲۰۲۰ نشان داد شخصیت‌های مذکر همچنان بیش از شخصیت‌های مؤنث به‌عنوان قهرمان اصلی داستان‌ها ظاهر می‌شوند.
به همین دلیل، اگر مدل‌های مولد هوش مصنوعی برای ساخت داستان‌های کودکانه از الگوهای موجود در داده‌های آموزشی خود استفاده کنند، این احتمال وجود دارد که برخی نابرابری‌های قدیمی را نه‌تنها بازتاب دهند، بلکه در شرایط خاص تقویت کنند.
مشکل از کجا می‌آید؟
مدل‌های زبانی به‌طور مستقیم درباره جهان تصمیم‌گیری نمی‌کنند؛ آن‌ها بر اساس الگوهایی که از حجم عظیمی از داده‌های متنی یاد گرفته‌اند، محتمل‌ترین ادامه یک درخواست را تولید می‌کنند.
اگر در داستان‌ها و متون موجود، شخصیت‌های مرد در نقش‌های مشخصی بیشتر دیده شده باشند، این الگو می‌تواند هنگام تولید داستان جدید نیز خود را نشان دهد.
پژوهش‌های قبلی درباره داستان‌های تولیدشده با هوش مصنوعی نیز نشانه‌هایی از این مسئله پیدا کرده‌اند. برای مثال، پژوهشی با عنوان Biased Tales نشان داد وقتی از مدل‌ها خواسته می‌شود داستانی درباره یک کودک دختر یا پسر بنویسند، در داستان‌های مربوط به دختران ویژگی‌های مرتبط با ظاهر حدود ۵۵.۲۶ درصد بیشتر ظاهر می‌شود.
این یافته‌ها نشان می‌دهند سوگیری در محتوای مولد هوش مصنوعی می‌تواند شکل‌های مختلفی داشته باشد؛ از تعداد شخصیت‌های زن و مرد گرفته تا نوع صفاتی که برای آن‌ها استفاده می‌شود.
آیا حذف جنسیت مشکل را حل می‌کند؟
یکی از نکات جالب پژوهش جدید دقیقاً همین سؤال است.
ممکن است تصور کنیم اگر مدل‌های هوش مصنوعی به جای تعیین جنسیت شخصیت‌ها از عباراتی خنثی استفاده کنند، مشکل سوگیری حل شده است. اما نتایج این پژوهش تصویر پیچیده‌تری ارائه می‌دهد.
مدل‌ها در بخش قابل‌توجهی از داستان‌ها از تعیین جنسیت خودداری کردند، اما هرگاه جنسیتی را به شخصیت نسبت دادند، احتمال مذکر بودن آن بسیار بیشتر بود. پژوهشگران از این مسئله با عنوانی نزدیک به مفهوم «خنثی‌سازی که نتیجه معکوس دارد» یاد می‌کنند.
به بیان ساده، «خنثی بودن» همیشه به معنای «نمایندگی برابر» نیست.
جمع‌بندی
پژوهش جدید دانشگاه واشنگتن نشان می‌دهد سوگیری جنسیتی در داستان‌های تولیدشده با هوش مصنوعی می‌تواند حتی در روایت‌هایی که جنسیت شخصیت‌ها از ابتدا مشخص نشده است، ظاهر شود. در این آزمایش، شخصیت‌های مؤنث تنها در ۲.۲ درصد داستان‌ها دیده شدند، درحالی‌که شخصیت‌های مذکر در ۴۰.۶ درصد داستان‌ها حضور داشتند. این یافته به‌ویژه برای محتوای تولیدشده برای کودکان اهمیت دارد و نشان می‌دهد استفاده از هوش مصنوعی برای داستان‌گویی بدون بررسی خروجی و توجه به تنوع شخصیت‌ها، ممکن است برخی الگوهای نابرابر موجود در داده‌های انسانی را بازتولید یا حتی تشدید کند.
منابع
- ScienceAlert
- University of Washington
- arXiv
- ACL Anthology
