هوش مصنوعی مولد، با توانایی پاسخگویی به طیف گسترده‌ای از پرسش‌ها از مسائل ریاضی گرفته تا پرسش‌های پزشکی، تحولی شگرف در عرصه فناوری اطلاعات ایجاد کرده است. در پشت صحنه این سیستم‌های پیشرفته، شرکت‌هایی نظیر گوگل تیم‌هایی از متخصصان را گرد هم آورده‌اند تا با ارزیابی دقیق پاسخ‌های چت‌بات‌ها، کیفیت و دقت آن‌ها را بهبود بخشند.
سیستم هوش مصنوعی جیمینی گوگل نیز از این قاعده مستثنی نیست. این سیستم برای ارزیابی پاسخ‌های خود به پیمانکاران شرکت‌های خارجی متکی است. تا پیش از این، پیمانکاران مجاز بودند از ارزیابی پرسش‌هایی که خارج از حوزه تخصصی آن‌ها بود، خودداری کنند. اما با اعمال تغییراتی در دستورالعمل‌های داخلی گوگل، این انعطاف‌پذیری از بین رفته است.
بر اساس این تغییرات، پیمانکاران موظف شده‌اند به تمام پرسش‌ها، حتی آن‌هایی که نیازمند دانش تخصصی در حوزه‌های خاص هستند، پاسخ دهند. این در حالی است که پیش از این امکان صرف نظر کردن از ارزیابی پرسش‌های پیچیده یا تخصصی برای پیمانکاران فراهم بود.
این تصمیم شرکت گوگل نگرانی‌هایی را در خصوص کاهش دقت پاسخ‌های جیمینی، به ویژه در حوزه‌های حساس مانند پزشکی و فناوری، برانگیخته است. کارشناسان معتقدند که الزام پیمانکاران به ارزیابی پرسش‌هایی خارج از حیطه تخصص آن‌ها، می‌تواند منجر به افزایش خطا در پاسخ‌ها و در نهایت کاهش اعتماد کاربران به این سیستم شود.
دلایل نگرانی:
- افزایش احتمال خطا: پیمانکارانی که فاقد دانش تخصصی در حوزه‌های خاص هستند، ممکن است در ارزیابی پاسخ‌های مربوط به آن حوزه‌ها دچار اشتباه شوند.
- کاهش کیفیت پاسخ‌ها: اجبار پیمانکاران به ارزیابی تمام پرسش‌ها می‌تواند منجر به کاهش کیفیت کلی پاسخ‌های جیمینی شود.
- تضعیف اعتماد کاربران: کاهش دقت پاسخ‌ها می‌تواند اعتماد کاربران به این سیستم هوشمند را تضعیف کرده و منجر به کاهش استفاده از آن شود.
پیامدهای احتمالی:
- ترویج اطلاعات نادرست: در صورتی که پاسخ‌های جیمینی حاوی اطلاعات نادرست باشد، می‌تواند به انتشار اطلاعات غلط در جامعه منجر شود.
- ایجاد تصمیم‌گیری‌های نادرست: استفاده از اطلاعات نادرست تولید شده توسط جیمینی در تصمیم‌گیری‌های مهم می‌تواند عواقب جبران‌ناپذیری به دنبال داشته باشد.
به گفته منبع، تغییرات اعمال شده در دستورالعمل‌های ارزیابی پاسخ‌های جیمینی، نگرانی‌های جدی در خصوص دقت و قابلیت اطمینان این سیستم ایجاد کرده است. برای حفظ اعتبار و اعتماد کاربران، شرکت گوگل باید به دنبال راهکارهایی برای بهبود فرآیند ارزیابی پاسخ‌ها و تضمین دقت و کیفیت آن‌ها باشد.
