هوش مصنوعی مولد می‌تواند در طراحی پروتئین، تحلیل داده‌های زیستی و کشف دارو به پژوهشگران کمک کند، اما همین فناوری یک خطر جدی نیز دارد: ایجاد الگوهای زیستی باورپذیری که در دنیای واقعی وجود ندارند. یک پژوهش جدید هشدار می‌دهد اگر خروجی ساختگی هوش مصنوعی به‌جای فرضیه، مستقیماً به‌عنوان شواهد علمی استفاده شود، ممکن است یک اثر زیستی غیرواقعی به‌عنوان «کشف» پذیرفته شود.
مشکل از کجا شروع می‌شود؟
هوش مصنوعی مولد در سال‌های اخیر از تولید متن و تصویر فراتر رفته و وارد حوزه‌های پیچیده زیست‌شناسی شده است. پژوهشگران از این فناوری برای طراحی پروتئین‌ها، شبیه‌سازی سلول‌ها، تکمیل داده‌های آزمایشگاهی و تولید داده‌های زیستی مصنوعی استفاده می‌کنند.
اما مدل‌های مولد می‌توانند دچار توهم یا Hallucination شوند؛ یعنی الگویی را تولید کنند که از نظر آماری و ظاهری کاملاً منطقی به نظر می‌رسد، اما هیچ مبنای واقعی در زیست‌شناسی ندارد.
در یک چت‌بات، چنین خطایی ممکن است به یک پاسخ اشتباه محدود شود. اما در تحقیقات زیستی، یک خطای مشابه می‌تواند مسیر یک پروژه تحقیقاتی، توسعه دارو یا حتی برداشت دانشمندان از سازوکار یک بیماری را تغییر دهد.
هوش مصنوعی چگونه می‌تواند یک کشف غیرواقعی بسازد؟
موضوع فقط این نیست که مدل هوش مصنوعی یک پاسخ اشتباه ارائه دهد. خطر مهم‌تر زمانی ایجاد می‌شود که خروجی تولیدشده وارد زنجیره شواهد علمی شود.
برای مثال، تصور کنید یک مدل هوش مصنوعی هنگام پردازش داده‌های مربوط به ژن‌ها، پروتئین‌ها یا مولکول‌ها، الگویی را به داده اضافه کند که در واقعیت وجود نداشته است. اگر پژوهشگران متوجه این تغییر نشوند، ممکن است تصور کنند یک ارتباط یا سازوکار زیستی جدید را کشف کرده‌اند.
این مسئله می‌تواند پیامدهای مختلفی داشته باشد:
- یک داروی ناکارآمد به‌عنوان گزینه امیدوارکننده انتخاب شود.
- یک داروی مؤثر به دلیل تحریف داده‌ها کنار گذاشته شود.
- یک سازوکار بیماری که وجود خارجی ندارد، واقعی تصور شود.
- پژوهش‌های بعدی بر پایه یک نتیجه نادرست شکل بگیرند.
- زمان و هزینه زیادی صرف بررسی یک فرضیه جعلی شود.
تفاوت مهم بین «فرضیه» و «شواهد»
یکی از نکات کلیدی مطرح‌شده در این بحث، تفاوت میان استفاده از هوش مصنوعی برای ایده‌پردازی و استفاده از آن برای تولید شواهد است.
اگر هوش مصنوعی یک مولکول یا پروتئین جدید پیشنهاد دهد، پژوهشگر می‌تواند آن را در آزمایشگاه بررسی کند. در این حالت، خروجی هوش مصنوعی صرفاً یک فرضیه است و شکست مدل الزاماً به یک خطای علمی جدی منجر نمی‌شود.
اما شرایط زمانی خطرناک‌تر می‌شود که داده تولیدشده توسط هوش مصنوعی جایگزین اندازه‌گیری واقعی شود. در چنین شرایطی، ممکن است یک ویژگی جعلی وارد مجموعه داده شود و بعد همان داده به‌عنوان مدرک برای یک ادعای علمی مورد استفاده قرار گیرد.
حتی داده‌های واقعی هم می‌توانند در فرایند پردازش تحریف شوند
خطر فقط تولید داده کاملاً مصنوعی نیست. بر اساس توضیحات توماس برگر، زیست‌شناس محاسباتی از دانشگاه گرونوبل آلپ، ممکن است داده واقعی در طول یک فرایند پیچیده محاسباتی که از هوش مصنوعی مولد استفاده می‌کند، به‌تدریج دچار تغییر شود.
در چنین حالتی، مشکل لزوماً یک «یافته جعلی» واضح نیست. ممکن است یک سیگنال واقعی کمی تقویت، تضعیف یا تغییر کند و همین تغییر کوچک در نهایت باعث شود پژوهشگر به نتیجه متفاوتی برسد.
این نوع خطا از توهم آشکار دشوارتر قابل شناسایی است؛ زیرا داده اولیه واقعی بوده و تغییر ایجادشده ممکن است در یکی از مراحل میانی پردازش رخ داده باشد.
AlphaFold 3 نمونه‌ای از این چالش است
یکی از نمونه‌های واقعی که در این زمینه مطرح شده، AlphaFold 3 است. این مدل که برای پیش‌بینی ساختارهای مولکولی توسعه یافته، در برخی نواحی بی‌نظم پروتئین‌ها می‌تواند ساختارهایی را تولید کند که در واقعیت وجود ندارند. در مقاله منتشرشده در Nature، این مشکل به‌عنوان نوعی «ساختار توهم‌شده» مورد توجه قرار گرفته و امتیازهای اطمینان مدل می‌توانند به شناسایی برخی از این موارد کمک کنند.
این مثال نشان می‌دهد حتی مدل‌های بسیار پیشرفته زیستی نیز نباید به‌عنوان جایگزین آزمایش واقعی در نظر گرفته شوند.
آیا توهم هوش مصنوعی همیشه بد است؟
نکته جالب اینجاست که پاسخ لزوماً مثبت نیست.
اگر هوش مصنوعی ایده‌ای ارائه دهد که دانشمندان آن را آزمایش کنند و در نهایت مشخص شود آن ایده درست بوده، ممکن است یک توهم اولیه به شکل غیرمستقیم به یک کشف واقعی منجر شود. برگر نیز این احتمال را مطرح کرده است.
در تاریخ علم، بسیاری از کشف‌ها به شکل غیرمنتظره و حتی از طریق خطاهای آزمایشگاهی شکل گرفته‌اند. بنابراین منشأ یک ایده به‌تنهایی تعیین نمی‌کند که نتیجه نهایی معتبر است یا خیر.
آنچه اهمیت دارد این است که یافته در نهایت با آزمایش مستقل و قابل تکرار تأیید شود.
هوش مصنوعی قرار نیست جای آزمایشگاه را بگیرد
پیشرفت مدل‌های هوش مصنوعی زیستی باعث شده این فناوری به ابزاری قدرتمند برای جست‌وجوی الگوها و طراحی آزمایش‌ها تبدیل شود. اما پژوهش‌های جدید نیز تأکید می‌کنند که قدرت پیش‌بینی هوش مصنوعی باید با استدلال علّی و اعتبارسنجی تجربی همراه باشد.
در واقع، بهترین سناریو این است که هوش مصنوعی فضای بسیار بزرگی از فرضیه‌های احتمالی را بررسی کند و پژوهشگر، گزینه‌های ارزشمند را برای آزمایش واقعی انتخاب کند.
به این ترتیب، مدل می‌تواند سرعت تحقیق را افزایش دهد، بدون اینکه نتیجه تولیدشده به‌صورت خودکار به حقیقت علمی تبدیل شود.
جدول مقایسه ریسک استفاده از هوش مصنوعی
| نوع استفاده از هوش مصنوعی | سطح ریسک | دلیل |
|---|---|---|
| پیشنهاد مولکول یا پروتئین جدید | نسبتاً پایین | نتیجه باید در آزمایشگاه بررسی شود |
| انتخاب نامزدهای دارویی | متوسط | آزمایش واقعی می‌تواند خطا را مشخص کند |
| تحلیل داده‌های زیستی | متوسط تا بالا | احتمال تغییر یا تفسیر اشتباه سیگنال‌ها وجود دارد |
| تولید داده مصنوعی به‌جای داده آزمایشگاهی | بالا | داده جعلی ممکن است به‌عنوان شواهد پذیرفته شود |
| پذیرش خروجی AI بدون اعتبارسنجی | بسیار بالا | امکان شکل‌گیری نتیجه علمی کاملاً نادرست وجود دارد |
چرا این موضوع برای کشف دارو مهم است؟
کشف دارو فرایندی طولانی و پرهزینه است و پژوهشگران باید حجم عظیمی از داده‌های زیستی را تحلیل کنند. هوش مصنوعی می‌تواند تعداد زیادی ترکیب یا پروتئین را در مدت کوتاهی بررسی کند و گزینه‌های امیدوارکننده را برای آزمایش‌های بعدی پیشنهاد دهد.
اما اگر یک مدل اثر زیستی ساختگی را واقعی فرض کند، نتیجه می‌تواند بر تصمیم‌های بعدی پژوهشگران اثر بگذارد. در چنین شرایطی، یک خطای محاسباتی ساده ممکن است به هفته‌ها یا ماه‌ها کار اضافی منجر شود.
بنابراین هرچه نقش هوش مصنوعی در زنجیره کشف دارو بیشتر شود، اهمیت اعتبارسنجی مستقل نیز افزایش پیدا می‌کند.
جمع‌بندی
هوش مصنوعی مولد می‌تواند آینده تحقیقات زیستی را متحول کند، اما همین فناوری قادر است الگوهای زیستی باورپذیری تولید کند که در واقعیت وجود ندارند. خطر زمانی جدی می‌شود که این خروجی‌ها به‌جای فرضیه، به‌عنوان داده و شواهد علمی مورد استفاده قرار گیرند.
به همین دلیل، حتی پیشرفته‌ترین مدل‌های هوش مصنوعی نیز باید در تحقیقات زیستی نقش ابزار پژوهشی و تولیدکننده فرضیه را داشته باشند، نه مرجع نهایی حقیقت. در نهایت، یک کشف زمانی ارزش علمی پیدا می‌کند که بتوان آن را با آزمایش واقعی و مستقل تأیید کرد.
منابع
- ScienceAlert
- Patterns
- Nature
- Molecular Cell
