سه کوهنورد تازه‌کار در کالیفرنیا پس از استفاده گسترده از Google Gemini برای برنامه‌ریزی صعود به Mount Shasta گرفتار شدند و در نهایت به کمک نیروهای امدادی نجات پیدا کردند. آنها بر اساس اطلاعات دریافت‌شده از هوش مصنوعی تصور می‌کردند مسیر حدود ۸ ساعت طول می‌کشد، اما رسیدن به قله تقریباً ۱۶ ساعت زمان برد و ادامه مسیر در تاریکی، کمبود آب و غذا، مشکل تجهیزات و مصدومیت یکی از اعضای گروه، شرایط را به یک وضعیت اضطراری تبدیل کرد.
این اتفاق بار دیگر یک محدودیت مهم مدل‌های هوش مصنوعی را نشان می‌دهد: حتی پاسخ بسیار مطمئن و دقیق‌به‌نظررسیده یک chatbot نباید در موقعیت‌هایی که جان انسان به تصمیم درست وابسته است، جایگزین منابع تخصصی و بررسی میدانی شود.
ماجرای صعود Mount Shasta از کجا شروع شد؟
سه کوهنورد تازه‌کار از شهر Roseville کالیفرنیا برای صعود به Mount Shasta آماده شدند. آنها برای تحقیق درباره مسیر، زمان موردنیاز، مواد غذایی و میزان آب مورد نیاز خود از ابزارهایی مانند Gemini، YouTube و AllTrails استفاده کردند.
طبق اطلاعات منتشرشده از سوی مقام‌های محلی، گروه در ارتفاع حدود ۸۴۰۰ فوت، معادل تقریباً ۲۵۶۰ متر، کمپ زد و صبح روز بعد حدود ساعت ۳ بامداد حرکت خود را آغاز کرد.
مشکل اصلی این بود که آنها صعود را با این فرض برنامه‌ریزی کرده بودند که کل مسیر در حدود هشت ساعت قابل انجام است.
این برآورد در عمل فاصله زیادی با واقعیت داشت.
Gemini چه اطلاعاتی در اختیار آنها قرار داده بود؟
کوهنوردان از Gemini برای بررسی مسیر و برنامه‌ریزی تجهیزات استفاده کرده بودند. یکی از مهم‌ترین اطلاعاتی که بر اساس گزارش‌های منتشرشده به آنها نسبت داده شده، برآورد هشت‌ساعته برای صعود است.
آنها همچنین درباره میزان غذا و آب موردنیاز از هوش مصنوعی سؤال کرده بودند. در نتیجه، گروه با تجهیزات و ذخایری آماده شد که برای یک برنامه کوتاه مناسب بود، نه الزاماً برای سناریویی که ممکن بود به یک شب ماندن در کوهستان منجر شود.
در توصیه‌های غذایی نیز Gemini ظاهراً مصرف کربوهیدرات‌های ساده را به‌جای چربی‌ها پیشنهاد کرده بود و دلیل آن را هضم طولانی‌تر چربی عنوان کرده بود.
اما مشکل اصلی فقط انتخاب نوع ماده غذایی نبود؛ برآورد نادرست زمان و پیامدهای آن روی میزان آب، غذا، پوشاک و تجهیزات اضطراری اهمیت بسیار بیشتری داشت.
صعود ۸ ساعته به یک مسیر ۱۶ ساعته تبدیل شد
گروه حرکت خود را آغاز کرد، اما شرایط واقعی مسیر با برنامه‌ای که در ذهن داشتند فاصله زیادی داشت.
در نهایت، کوهنوردان حدود ساعت ۷ عصر به قله رسیدند؛ یعنی بسیار دیرتر از زمان توصیه‌شده برای بازگشت.
مقام‌های محلی تأکید کرده‌اند که در چنین مسیرهایی، اگر کوهنورد تا ظهر به قله نرسیده باشد، بهتر است بازگردد تا بخش اصلی مسیر برگشت در روشنایی انجام شود.
اما آنها بعد از رسیدن به قله، در تاریکی مسیر بازگشت را آغاز کردند.
همین تصمیم، ریسک شرایط را به شکل قابل توجهی افزایش داد.
گم شدن در مسیر بازگشت
حدود یک ساعت پس از شروع فرود، گروه برای دریافت راهنمایی با نیروهای امدادی تماس گرفت.
با این حال، مسیر خود را از دست دادند و وارد منطقه Mud Creek Canyon شدند؛ منطقه‌ای که حرکت در آن می‌تواند بسیار خطرناک‌تر از مسیر اصلی باشد.
در ادامه، یکی از کوهنوردان بر اثر سقوط از ناحیه زانو آسیب دید.
گروه دیگر نمی‌توانستند به‌راحتی به مسیر اصلی برگردند و مجبور شدند شب را در ارتفاعات سپری کنند.
گوشی خاموش شد و تجهیزات پشتیبان هم کافی نبود
یکی دیگر از مشکلات این ماجرا، وابستگی شدید گروه به تجهیزات دیجیتال برای مسیریابی بود.
گوشی مورد استفاده برای مسیریابی در جریان این اتفاق خاموش شد و باتری پشتیبان نیز نتوانست مشکل را برطرف کند. بنابراین در شرایطی که گروه به کمک بیشتری برای پیدا کردن مسیر نیاز داشت، یکی از ابزارهای اصلی مسیریابی را از دست داد.
این بخش از حادثه اهمیت زیادی دارد؛ زیرا استفاده از فناوری برای مسیریابی به‌خودی‌خود مشکل نیست. مشکل زمانی ایجاد می‌شود که یک ابزار دیجیتال به تنها راه پیدا کردن مسیر تبدیل شود.
در محیط کوهستان، باتری تمام‌شده، نبود آنتن، خرابی دستگاه یا شرایط آب‌وهوایی می‌تواند هر سیستم دیجیتالی را از کار بیندازد.
عملیات نجات چگونه انجام شد؟
صبح روز بعد، نیروهای کوهنوردی سازمان جنگل‌های ایالات متحده گروه را پیدا کردند و به آنها کمک پزشکی ارائه دادند.
به دلیل وزش باد شدید، تلاش‌های اولیه برای استفاده از هلیکوپتر با مشکل مواجه شد و در نهایت تیم‌های امدادی به‌صورت زمینی همراه کوهنوردان شدند. گروه در ادامه به محل امن بازگردانده شد.
هر سه نفر زنده و سالم به نقطه شروع مسیر بازگشتند، اما این حادثه می‌توانست پیامد بسیار جدی‌تری داشته باشد.
آیا Gemini به‌تنهایی مقصر این حادثه است؟
نه، و این نکته بسیار مهم است.
این اتفاق را نمی‌توان صرفاً با جمله «هوش مصنوعی اشتباه کرد» توضیح داد.
بر اساس گزارش‌های منتشرشده، کوهنوردان از Gemini برای برنامه‌ریزی استفاده کردند، اما هم‌زمان منابع دیگری مانند YouTube و AllTrails نیز در فرایند آماده‌سازی آنها حضور داشتند. در ادامه نیز چند تصمیم انسانی، از جمله ادامه صعود تا ساعت ۷ عصر و فرود در تاریکی، نقش مهمی در تشدید وضعیت داشت.
مشکل اصلی در واقع اعتماد بیش‌ازحد به یک منبع غیرتخصصی در یک موقعیت پرریسک بود.
هوش مصنوعی می‌تواند اطلاعات مختلف را جمع‌آوری و پاسخ منسجم تولید کند، اما این موضوع به معنای آن نیست که پاسخ تولیدشده حتماً با شرایط لحظه‌ای یک مسیر کوهستانی مطابقت دارد.
چرا پاسخ AI می‌تواند خطرناک به نظر برسد؟
مدل‌های زبانی معمولاً پاسخ‌هایی روان، منظم و با اعتمادبه‌نفس تولید می‌کنند.
همین ویژگی در کاربردهای روزمره یک مزیت است، اما در موقعیت‌های حساس می‌تواند باعث ایجاد اعتماد کاذب شود.
فرض کنید یک مدل درباره مدت زمان یک مسیر می‌گوید «حدود هشت ساعت».
این جمله ممکن است برای کاربر شبیه یک داده دقیق به نظر برسد، در حالی که مدت زمان واقعی یک صعود می‌تواند به عوامل زیادی وابسته باشد:
- آمادگی جسمانی افراد
- ارتفاع و تأثیر آن بر بدن
- وضعیت آب‌وهوا
- شرایط مسیر
- سرعت حرکت گروه
- توقف‌های بین مسیر
- تجهیزات همراه
- وضعیت برف یا یخ
- اشتباهات مسیریابی
- زمان لازم برای بازگشت
اگر حتی یکی از این عوامل تغییر کند، برنامه زمانی اولیه می‌تواند کاملاً بی‌اعتبار شود.
تفاوت «اطلاعات» با «تصمیم ایمن»
این حادثه یک مرز مهم میان استفاده مفید از AI و استفاده خطرناک از آن را مشخص می‌کند.
هوش مصنوعی می‌تواند برای جمع‌آوری اولیه اطلاعات مفید باشد؛ مثلاً می‌توان از آن خواست درباره مسیرهای مختلف، اصطلاحات کوهنوردی یا فهرست تجهیزات موردنیاز توضیح دهد.
اما تصمیم نهایی درباره یک فعالیت پرخطر باید بر اساس منابع تخصصی و اطلاعات به‌روز گرفته شود.
برای نمونه، مقام‌های محلی توصیه کرده‌اند کوهنوردان پیش از حرکت با ایستگاه Ranger مربوط به Mount Shasta تماس بگیرند و اطلاعات به‌روز مسیر را دریافت کنند. همچنین استفاده از چند روش مسیریابی و همراه داشتن تجهیزات اضطراری توصیه شده است.
بزرگ‌ترین درس این حادثه برای کاربران هوش مصنوعی چیست؟
مهم‌ترین درس این نیست که «از AI استفاده نکنید».
درس واقعی این است که سطح اعتماد به پاسخ AI باید با میزان ریسک تصمیم متناسب باشد.
اگر از هوش مصنوعی درباره بهترین فیلم برای تماشا سؤال کنید، اشتباه آن هزینه چندانی ندارد.
اگر درباره انتخاب یک لپ‌تاپ سؤال کنید، نهایتاً ممکن است انتخاب مناسبی نداشته باشید.
اما اگر از آن درباره مسیر کوهستانی، مقدار دارو، شرایط اضطراری یا هر تصمیمی که مستقیماً با سلامت و جان انسان ارتباط دارد سؤال کنید، یک پاسخ نادرست می‌تواند پیامد بسیار متفاوتی داشته باشد.
در چنین شرایطی، AI باید یک ابزار کمکی باشد، نه مرجع نهایی تصمیم‌گیری.
