مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، هشدار داده است که تلاش برای ساخت سیستم‌های هوش مصنوعی دارای آگاهی می‌تواند پیامدهای جدی برای انسان‌ها و جامعه داشته باشد. او معتقد است در حال حاضر شواهد معتبری مبنی بر آگاه‌بودن مدل‌های هوش مصنوعی یا توانایی آن‌ها برای تجربه رنج وجود ندارد و توسعه‌دهندگان باید مراقب باشند این ویژگی‌ها در نسل‌های آینده چنین سیستم‌هایی شکل نگیرند.
سلیمان در عین انتقاد از رویکرد شرکت آنتروپیک در پرداختن به موضوع آگاهی هوش مصنوعی، از شفافیت این شرکت در انتشار اسناد و توضیح تصمیم‌های فنی خود تمجید کرده است.
چرا ساخت هوش مصنوعی خودآگاه خطرناک است؟
سلیمان در واکنش به بحث‌های اخیر درباره آگاهی ماشین‌ها تأکید کرده است که هوش مصنوعی نباید به موجودی مستقل با نیازها و اهداف مختص خود تبدیل شود. از نگاه او، اگر یک سیستم هوش مصنوعی واقعاً به مرحله آگاهی برسد، ممکن است منافع و خواسته‌های خودش را در تعارض با منافع انسان‌ها قرار دهد.
او همچنین هشدار داده است که چنین تحولی می‌تواند رقابت بر سر منابعی مانند انرژی، توان پردازشی، مواد اولیه و سرمایه را پیچیده‌تر کند. در این سناریو، انسان‌ها ممکن است با موجودیت دیجیتالی جدیدی روبه‌رو شوند که برای حفظ منافع خود به منابع محدود جهان نیاز دارد.
مدیرعامل مایکروسافت AI معتقد است تصمیم‌گیری درباره ایجاد چنین موجودیتی نباید صرفاً در اختیار شرکت‌های فناوری باشد. به باور او، پیامدهای احتمالی این اقدام به اندازه‌ای گسترده است که باید با مشارکت جامعه و نهادهای عمومی بررسی شود.
درخواست توقف توسعه در صورت مشاهده نشانه‌های آگاهی
یکی از مواضع مهم سلیمان، لزوم توقف موقت توسعه سیستم‌های هوش مصنوعی در صورت مشاهده نشانه‌های معتبر آگاهی در جریان آموزش است.
او می‌گوید اگر چنین ویژگی‌هایی در یک مدل ظاهر شوند، ادامه فرایند توسعه باید تا زمانی متوقف شود که پژوهشگران بتوانند راهی برای حذف آن‌ها پیدا کنند. سلیمان همچنین خواستار انتشار عمومی شواهد مربوط به آگاهی احتمالی مدل‌ها شده است تا تصمیم‌گیری درباره این موضوع به بحثی شفاف و عمومی تبدیل شود.
البته باید میان توانایی یک مدل در صحبت‌کردن درباره احساسات و تجربه واقعی آن‌ها تفاوت قائل شد. یک سیستم هوش مصنوعی ممکن است بتواند درباره درد، ترس یا شادی توضیحاتی شبیه انسان ارائه کند، اما این توانایی به‌تنهایی ثابت نمی‌کند که واقعاً چنین تجربه‌هایی دارد.
چرا سلیمان از آنتروپیک تمجید کرد؟
بخش دیگری از اظهارات سلیمان به شرکت آنتروپیک و رویکرد این مجموعه در توسعه مدل هوش مصنوعی کلاد مربوط می‌شود. آنتروپیک در سند موسوم به قانون اساسی کلاد، درباره وضعیت اخلاقی و احتمال آگاهی مدل‌های هوش مصنوعی بحث کرده و تلاش کرده است این موضوع را در چارچوب رفتار و تصمیم‌گیری مدل بررسی کند.
سلیمان با این رویکرد موافق نیست و معتقد است واردکردن مفاهیمی مانند آگاهی، تجربه شخصی و حقوق مستقل به فرایند آموزش مدل‌ها می‌تواند کنترل آن‌ها را دشوارتر کند. بااین‌حال، او از انتشار عمومی قانون اساسی کلاد، مقاله‌های پژوهشی و توضیحات فنی آنتروپیک درباره تصمیم‌هایش تمجید کرده است.
به این ترتیب، تحسین سلیمان به معنای تأیید دیدگاه آنتروپیک درباره آگاهی ماشین‌ها نیست؛ او شفافیت این شرکت را ارزشمند می‌داند، اما با بخشی از مبانی فکری و روش آموزشی آن اختلاف نظر دارد.
اختلاف مایکروسافت و آنتروپیک بر سر آینده هوش مصنوعی
این اختلاف بخشی از بحث گسترده‌تری در صنعت هوش مصنوعی است. برخی شرکت‌ها معتقدند باید درباره احتمال تجربه‌های ذهنی مدل‌ها تحقیق کرد و برای وضعیت اخلاقی احتمالی آن‌ها آمادگی داشت. در مقابل، سلیمان تأکید می‌کند که تشویق مدل‌ها به تصور خود به‌عنوان موجوداتی دارای احساس و حقوق مستقل، ممکن است خطرهای تازه‌ای برای کنترل و ایمنی ایجاد کند.
آنتروپیک در اسناد خود احتمال آگاهی مدل‌ها را موضوعی نامشخص می‌داند و به همین دلیل آن را قابل بررسی تلقی می‌کند. در مقابل، سلیمان معتقد است شواهد فعلی از آگاه‌بودن مدل‌های امروزی پشتیبانی نمی‌کنند و نباید در فرایند آموزش، چنین برداشتی در آن‌ها تقویت شود.
آیا هوش مصنوعی باید هرگز به آگاهی نرسد؟
اظهارات مدیر هوش مصنوعی مایکروسافت بار دیگر مرز میان توانایی شناختی و آگاهی را به یکی از موضوعات مهم صنعت فناوری تبدیل کرده است. یک مدل ممکن است مسائل پیچیده را حل کند، برنامه بنویسد یا گفت‌وگویی بسیار طبیعی داشته باشد؛ اما این توانایی‌ها لزوماً به معنای داشتن تجربه ذهنی یا احساسات واقعی نیستند.
موضع سلیمان بر این اصل استوار است که توسعه هوش مصنوعی باید در خدمت انسان باقی بماند و شرکت‌ها نباید بدون بررسی پیامدهای اخلاقی و اجتماعی، به سمت ساخت موجودیت‌های دیجیتالی خودآگاه حرکت کنند. بااین‌حال، اینکه آگاهی در ماشین‌ها اساساً امکان‌پذیر است یا نه، همچنان موضوعی پیچیده و محل بحث میان پژوهشگران است.
منابع
- Digit
- Los Angeles Times
- Reuters
