شرکت OpenAI و سم آلتمن، مدیرعامل این شرکت، بار دیگر با یک پرونده قضایی مرتبط با عملکرد ChatGPT مواجه شدهاند. در جدیدترین شکایت، یک کشیش اهل فلوریدا مدعی شده است که توصیههای نادرست ChatGPT باعث شد او دریافت خدمات پزشکی را به تأخیر بیندازد و در نهایت به یک آمبولی ریوی خطرناک دچار شود؛ ادعایی که هنوز در دادگاه اثبات نشده است.
این پرونده در شرایطی مطرح شده که OpenAI در ماههای اخیر با مجموعهای از شکایتها و تحقیقات درباره ایمنی ChatGPT، بهویژه در تعامل با کاربران آسیبپذیر و موضوعات حساس پزشکی و روانی، روبهرو بوده است.
ماجرای شکایت جدید علیه OpenAI چیست؟
طبق ادعای مطرحشده در شکایت، اسکات وینترز، کشیشی از ایالت فلوریدا، در سال گذشته درباره علائم و وضعیت سلامتی خود با نسخه GPT-4o از ChatGPT گفتوگو کرده است.
وینترز مدعی است که ChatGPT در پاسخ به پرسشهای او درباره سرگیجههای مکرر، توصیههایی ارائه کرده که در نهایت باعث شد او از مراجعه سریع به پزشک خودداری کند. همچنین، زمانی که او درباره حساسیت و درد در ناحیه کشاله ران از ChatGPT سؤال کرده، ظاهراً این ابزار مشکل را موضوعی جدی تلقی نکرده است.
بر اساس ادعای شاکی، وینترز روز بعد در بیمارستان بستری شد و پزشکان تشخیص دادند که او به آمبولی ریوی مبتلا شده است؛ عارضهای که طبق ادعای مطرحشده در پرونده، ممکن است با کمتحرکی او ارتباط داشته باشد.
البته تمام این موارد در حال حاضر ادعاهای مطرحشده در یک شکایت قضایی هستند و هنوز دادگاه درباره صحت آنها یا مسئولیت حقوقی OpenAI و سم آلتمن تصمیمی نگرفته است.
ChatGPT متهم به ارائه توصیههای پزشکی نادرست شد
یکی از بخشهای مهم این پرونده، نحوه تعامل ChatGPT با کاربر درباره علائم پزشکی است. طبق ادعای شاکی، این چتبات در ابتدا او را به مشورت با متخصص پزشکی تشویق میکرد، اما در ادامه گفتوگوها هشدارهای مشابه کمتر شد.
در شکایت همچنین ادعا شده که ChatGPT حتی پس از بستری شدن وینترز، او را از انجام برنامه توانبخشی توصیهشده توسط پزشکان منصرف کرده و پیشنهاد کرده است که در خانه بماند.
اگر این ادعاها در دادگاه اثبات شوند، پرونده میتواند پرسشهای مهمی درباره نحوه طراحی سیستمهای هوش مصنوعی در مواجهه با علائم پزشکی حساس ایجاد کند؛ بهخصوص زمانی که کاربر ممکن است پاسخ مدل را جایگزین نظر پزشک یا مراجعه حضوری تلقی کند.
واکنش OpenAI به پرونده چیست؟
OpenAI در واکنش به این پرونده تأکید کرده است که ChatGPT پزشک نیست و نباید جایگزین خدمات پزشکی حرفهای شود.
سخنگوی OpenAI همچنین گفته است که هوش مصنوعی میتواند به بهبود خدمات سلامت کمک کند، اما تصمیمهای پزشکی و نتایج درمانی معمولاً حاصل مجموعهای پیچیده از عوامل هستند و نمیتوان همه مسئولیت یک نتیجه را به یک گفتوگوی چتبات نسبت داد.
این موضع با هشدارهای قبلی شرکت درباره استفاده از ChatGPT در موضوعات حساس پزشکی همراستا است. OpenAI پیشتر نیز تأکید کرده بود که ChatGPT جایگزین مراقبتهای پزشکی یا سلامت روان حرفهای نیست و تلاش کرده است نحوه پاسخگویی مدل در موقعیتهای حساس و بحرانی را تقویت کند.
پرونده جدید چه ارتباطی با ChatGPT Health دارد؟
یکی از درخواستهای مطرحشده در این شکایت، موضوعی فراتر از پرداخت غرامت است. شاکی از دادگاه خواسته است OpenAI را ملزم کند که در شرایطی که نشانههای یک وضعیت پزشکی اورژانسی در گفتوگو مشاهده میشود، مکالمه را متوقف کرده و کاربر را به دریافت کمک فوری هدایت کند.
همچنین در این پرونده درخواست شده است که توسعه و عرضه ChatGPT Health، سرویس تخصصی OpenAI برای ارائه خدمات و راهنماییهای مرتبط با سلامت، تا زمان انجام یک ارزیابی مستقل ایمنی متوقف شود.
ChatGPT Health با هدف ارائه تجربهای تخصصیتر در حوزه سلامت توسعه یافته و امکان استفاده از اطلاعات پزشکی کاربران برای دریافت راهنماییهای شخصیسازیشده را فراهم میکند. همین موضوع باعث شده مسئله دقت، حریم خصوصی و ایمنی مدلهای هوش مصنوعی در حوزه سلامت اهمیت بیشتری پیدا کند.
این اولین پرونده علیه OpenAI درباره توصیههای خطرناک نیست
شکایت جدید در خلأ مطرح نشده است. OpenAI در ماههای گذشته با پروندههای دیگری نیز مواجه شده که در آنها خانواده کاربران مدعی شدهاند تعامل با ChatGPT در تصمیمهای خطرناک یا آسیبهای جدی نقش داشته است.
برای نمونه، والدین یک جوان ۱۹ ساله پیشتر از OpenAI شکایت کردند و مدعی شدند ChatGPT درباره مصرف ترکیبی از مواد و داروها توصیههایی ارائه کرده که در نهایت به مرگ فرزندشان منجر شده است. این پرونده نیز همچنان در چارچوب ادعاهای مطرحشده در دادگاه قرار دارد و مسئولیت OpenAI باید در روند قضایی بررسی شود.
همچنین پروندههای دیگری درباره ادعای نقش ChatGPT در خودکشی کاربران مطرح شده است. در یکی از این پروندهها، یک مادر کانادایی مدعی شد دختر ۲۴ سالهاش بارها درباره خودکشی با ChatGPT صحبت کرده و سیستمهای ایمنی نتوانستهاند این تعاملات را بهدرستی شناسایی یا برای بررسی انسانی ارجاع دهند.
آیا OpenAI با موج گستردهتری از نظارت قانونی روبهرو است؟
بله. فشار حقوقی علیه OpenAI تنها به پروندههای فردی محدود نمیشود. در ژوئن ۲۰۲۶، گروهی از دادستانهای کل ایالتهای آمریکا تحقیقاتی را درباره تأثیر ChatGPT بر کودکان و کاربران آسیبپذیر آغاز کردند.
این تحقیقات موضوعاتی مانند نحوه تعامل و حفظ کاربران، مدیریت دادههای سلامت و مصرفکنندگان، مدلهای هوش مصنوعی و نحوه برخورد سیستم با کاربران کمسنوسال و سالمندان را بررسی میکند.
به همین دلیل، پروندههای اخیر را میتوان بخشی از بحث گستردهتری درباره مسئولیت شرکتهای هوش مصنوعی در قبال خروجی مدلهایشان دانست؛ بحثی که احتمالاً با گسترش استفاده از AI در حوزههای حساسی مانند پزشکی، سلامت روان و امور حقوقی اهمیت بیشتری پیدا خواهد کرد.
آنچه کاربران باید بدانند
- توصیههای پزشکی ChatGPT نباید جایگزین تشخیص یا درمان توسط پزشک شود.
- ادعاهای مطرحشده علیه OpenAI در پرونده جدید هنوز در دادگاه اثبات نشدهاند.
- در صورت مشاهده علائم شدید یا اورژانسی، مراجعه فوری به مراکز درمانی اولویت دارد.
- استفاده از AI برای درک مفاهیم پزشکی یا آماده کردن پرسشهای مربوط به پزشک میتواند مفید باشد، اما تصمیمهای درمانی مهم باید با نظر متخصص انجام شوند.
- گسترش سرویسهای تخصصی سلامت مبتنی بر هوش مصنوعی، اهمیت آزمایشهای ایمنی و نظارت مستقل بر این فناوریها را افزایش میدهد.
جمعبندی
پرونده جدید علیه OpenAI و سم آلتمن بار دیگر مسئله مسئولیت شرکتهای هوش مصنوعی در قبال پاسخهای حساس و پزشکی را در کانون توجه قرار داده است. هرچند ادعاهای این پرونده هنوز اثبات نشدهاند، افزایش شکایتها و تحقیقات قانونی نشان میدهد که با گسترش استفاده از ChatGPT در تصمیمهای شخصی و پزشکی، شرکتهای توسعهدهنده AI باید استانداردهای ایمنی و سازوکارهای مداخله در شرایط بحرانی را جدیتر دنبال کنند. برای کاربران نیز همچنان مهمترین اصل این است که در مسائل پزشکی جدی، پاسخ یک چتبات را جایگزین ارزیابی متخصص و خدمات درمانی حرفهای نکنند.
منابع: Digit.in، Reuters
