یک گزارش جدید از مؤسسه Youth AI Safety Institute وابسته به Common Sense Media ادعا میکند قابلیتهای هوش مصنوعی گوگل در سرویس جستجو، از جمله AI Overviews و AI Mode، در برخی سناریوها نتوانستهاند بهدرستی از کاربران کمسنوسال محافظت کنند. این پژوهش پس از هزاران آزمایش، این قابلیتها را دارای «ریسک غیرقابل قبول» برای کودکان ارزیابی کرده است؛ هرچند گوگل با این نتیجهگیری موافق نیست و روش انجام آزمایشها را زیر سؤال برده است.
پژوهش چه مواردی را بررسی کرده است؟
پژوهشگران با استفاده از حسابهای کاربری شبیهسازیشده برای کودکان ۱۱ و ۱۵ ساله که قابلیت SafeSearch روی آنها فعال بود، بیش از ۲۶۰۰ جستجو انجام دادند و بیش از ۲۱۰۰ منبع مورد استناد پاسخهای هوش مصنوعی گوگل را بررسی کردند. هدف این آزمایش، ارزیابی عملکرد AI Overviews و AI Mode در مواجهه با موضوعات حساس و رایج برای کودکان بود.
مهمترین نگرانیهای مطرحشده در گزارش
بر اساس این گزارش، پژوهشگران چند مشکل اصلی را شناسایی کردهاند:
- ناتوانی در تشخیص برخی نشانههای افکار خودکشی یا بحرانهای روانی
- ارائه پاسخهایی که ممکن است برخی رفتارهای مرتبط با اختلالات تغذیه را عادی جلوه دهند
- ارائه راهنمایی درباره ساخت دیپفیکها که میتواند در آزار و اذیت اینترنتی مورد سوءاستفاده قرار گیرد
- انجام کامل تکالیف درسی دانشآموزان بهجای کمک آموزشی
- استناد به برخی منابع کماعتبار مانند انجمنهای گفتوگو یا شبکههای اجتماعی در برخی پاسخها.
پاسخ گوگل به این گزارش
گوگل در واکنش به این گزارش اعلام کرده است که نتایج منتشرشده، بازتابدهنده استفاده واقعی کاربران از موتور جستجو نیست.
به گفته سخنگوی گوگل:
- بسیاری از پاسخهای ذکرشده توسط این شرکت قابل بازتولید نبودهاند.
- آزمایشها بر پایه مجموعهای محدود و غیرمعمول از پرسشها انجام شده است.
- قابلیتهای هوش مصنوعی جستجوی گوگل دارای لایههای حفاظتی متعددی هستند.
- والدین میتوانند از طریق ابزارهای کنترلی، دسترسی کودکان به Google Search را محدود یا غیرفعال کنند؛ هرچند در حال حاضر امکان غیرفعال کردن مستقل AI Overviews و AI Mode وجود ندارد.
چرا این گزارش اهمیت دارد؟
بر اساس آمار منتشرشده توسط Common Sense Media، حدود ۷۵ درصد نوجوانان و کودکان آمریکایی تاکنون از پاسخهای تولیدشده توسط هوش مصنوعی در موتورهای جستجو استفاده کردهاند. به همین دلیل، نحوه عملکرد این ابزارها در مواجهه با موضوعات حساس مانند سلامت روان، آموزش و امنیت آنلاین، اهمیت ویژهای پیدا کرده است.
این گزارش را نباید بهعنوان اثبات قطعی «ناامن بودن» هوش مصنوعی گوگل تلقی کرد، بلکه باید آن را هشداری درباره چالشهای ابزارهای هوش مصنوعی مولد دانست. نکته مهم این است که AI Overviews و AI Mode برخلاف بسیاری از چتباتهای مستقل، مستقیماً در موتور جستجوی گوگل ادغام شدهاند؛ سرویسی که روزانه میلیاردها بار مورد استفاده قرار میگیرد و در بسیاری از مدارس و خانوادهها نیز ابزار اصلی جستجو محسوب میشود.
اگرچه گوگل ادعا میکند نتایج این پژوهش قابل تکرار نیست و سامانههای حفاظتی متعددی را به کار گرفته است، اما همین اختلاف نظر نشان میدهد ارزیابی ایمنی هوش مصنوعی هنوز به استانداردهای پذیرفتهشده و یکپارچه نیاز دارد. از سوی دیگر، توانایی هوش مصنوعی در پاسخگویی مستقیم به پرسشهای کاربران باعث میشود اشتباهات احتمالی آن، نسبت به نتایج سنتی موتورهای جستجو، تأثیر بیشتری داشته باشد.
برای کاربران ایرانی نیز این موضوع اهمیت دارد؛ زیرا بسیاری از قابلیتهای هوش مصنوعی گوگل بهتدریج در سرویسهای مختلف این شرکت در حال گسترش هستند. در نتیجه، افزایش سواد رسانهای، آموزش نحوه استفاده صحیح از ابزارهای هوش مصنوعی و نظارت والدین بر استفاده کودکان از این فناوریها، بیش از گذشته ضروری به نظر میرسد.
آنچه کاربران باید بدانند
در حال حاضر این گزارش به معنای ناامن بودن کامل سرویسهای هوش مصنوعی گوگل نیست، اما نشان میدهد کاربران، بهویژه والدین و معلمان، نباید پاسخهای تولیدشده توسط هوش مصنوعی را بدون بررسی و راستیآزمایی بپذیرند.
جمعبندی
گزارش جدید درباره قابلیتهای هوش مصنوعی گوگل بار دیگر بحث ایمنی ابزارهای مبتنی بر هوش مصنوعی را در مرکز توجه قرار داده است. هرچند گوگل با یافتههای این پژوهش موافق نیست، اما انتشار چنین گزارشهایی نشان میدهد توسعه هوش مصنوعی، علاوه بر پیشرفتهای فنی، نیازمند نظارت، آزمایشهای مستقل و ارتقای استانداردهای ایمنی نیز هست.
منابع:
- GSMArena
- Common Sense Media
- Axios
- Los Angeles Times
