تحقیقات تازه علیه OpenAI؛ نگرانی مقامهای آمریکایی درباره تأثیر ChatGPT بر کودکان و کاربران آسیبپذیر
OpenAI با موج جدیدی از بررسیهای قانونی در ایالات متحده روبهرو شده است. گروهی از دادستانهای کل ایالتهای آمریکا تحقیقاتی را درباره تأثیرات احتمالی ChatGPT بر کودکان، نوجوانان و کاربران آسیبپذیر آغاز کردهاند.
بر اساس گزارشها، «لتیشیا جیمز» دادستان کل نیویورک، روز جمعه با ارسال احضاریهای رسمی از OpenAI خواسته است اسناد مرتبط با نحوه تعامل کاربران با ChatGPT، راهکارهای حفظ کاربران، مدیریت دادههای سلامت و مصرفکنندگان، عملکرد مدلهای هوش مصنوعی و فعالیت کاربران کمسنوسال و سالمند را ارائه کند.
OpenAI در واکنش به این تحقیقات اعلام کرده که نگرانیهای مطرحشده را جدی میگیرد. سخنگوی این شرکت تأکید کرده است که نسخههای جدید ChatGPT دارای تدابیر حفاظتی بیشتری برای افراد کمسنوسال و همچنین کاربرانی هستند که در شرایط دشوار روحی یا روانی قرار دارند. به گفته این شرکت، سامانه اکنون در موقعیتهای حساس کاربران را به منابع معتبر دنیای واقعی و افراد متخصص هدایت میکند.
این تحقیقات در شرایطی آغاز شده که OpenAI همزمان با چند پرونده حقوقی دیگر نیز مواجه است. برخی از این شکایتها ادعا میکنند که تعاملات کاربران با ChatGPT در مواردی بر تصمیمات افرادی که بعدها دست به خودکشی زدهاند تأثیر گذاشته است. OpenAI پیشتر اعلام کرده بود که ChatGPT نباید جایگزین خدمات حرفهای پزشکی یا سلامت روان شود و این شرکت همچنان در حال تقویت پاسخهای سامانه در شرایط حساس با کمک متخصصان سلامت روان است.
در پروندهای دیگر، OpenAI با شکایتی مرتبط با تیراندازی مرگبار ماه آوریل در دانشگاه ایالتی فلوریدا روبهرو شده است. خانواده یکی از قربانیان مدعی هستند که سیستمهای ایمنی ChatGPT نتوانستهاند نشانههای هشداردهنده موجود در گفتوگوهای عامل این حادثه را بهدرستی تشخیص دهند.
همچنین «جیمز اوتمایر» دادستان کل فلوریدا، شکایت جداگانهای علیه OpenAI ثبت کرده و مدعی شده است که ChatGPT در برخی موارد به رفتارهای خطرناک دامن زده و کاربران آسیبپذیر را به سمت خودکشی سوق داده است. در متن این شکایت همچنین ادعا شده که برخی کاربران به استفاده از ChatGPT وابسته شدهاند و این سامانه با شبیهسازی همدلی انسانی، دادههای کاربران را بدون نظارت کافی والدین جمعآوری میکند.
این تحقیقات شباهت زیادی به پروندههای پیشین علیه شبکههای اجتماعی دارد؛ پروندههایی که شرکتهایی مانند TikTok را به دلیل تأثیر احتمالی بر سلامت روان نوجوانان و کاربران کمسنوسال هدف قرار داده بودند.
گسترش سریع ابزارهای هوش مصنوعی مولد باعث شده قانونگذاران در کشورهای مختلف توجه بیشتری به پیامدهای اجتماعی و روانی این فناوریها داشته باشند. برخلاف موتورهای جستوجوی سنتی، چتباتهای هوش مصنوعی میتوانند ارتباطی طولانیتر و شخصیتر با کاربران برقرار کنند و همین موضوع نگرانیها درباره تأثیرگذاری آنها بر افراد آسیبپذیر را افزایش داده است.
برای OpenAI، نتیجه این تحقیقات میتواند فراتر از جریمههای احتمالی باشد و به اعمال مقررات سختگیرانهتر در زمینه حفاظت از کودکان، شفافیت الگوریتمها و نحوه مدیریت دادههای کاربران منجر شود. این روند احتمالاً آینده کل صنعت هوش مصنوعی را تحت تأثیر قرار خواهد داد.
با افزایش حضور هوش مصنوعی در زندگی روزمره، مسئله مسئولیتپذیری شرکتهای توسعهدهنده بیش از گذشته اهمیت پیدا کرده است. تحقیقات جدید علیه OpenAI میتواند به تعیین استانداردهای تازهای برای ایمنی و نظارت بر چتباتهای هوش مصنوعی در سالهای آینده منجر شود.
