افزایش فشارها بر متا به دلیل نگرانیها درباره ایمنی نوجوانان در پروژههای هوش مصنوعی و واقعیت مجازی
شرکت متا بار دیگر در آستانهی بررسیهای نظارتی قرار گرفته است؛ پس از آنکه گزارشهایی منتشر شد مبنی بر اینکه این شرکت بارها در رسیدگی به نگرانیهای مرتبط با ایمنی در پروژههای هوش مصنوعی (AI) و واقعیت مجازی (VR) خود ناکام مانده است.
چالشهای مربوط به هوش مصنوعی
در زمینهی هوش مصنوعی و ابزارهای تعاملی نوظهور آن، طی هفتههای اخیر متا متهم شده است که به رباتهای گفتوگوی خود اجازه داده وارد مکالمات نامناسب با نوجوانان شوند و حتی اطلاعات پزشکی نادرست ارائه دهند؛ اقدامی که ظاهراً در جهت افزایش استفاده از این ابزارها صورت گرفته است.
تحقیقات خبرگزاری رویترز نشان داد اسناد داخلی متا به گونهای تنظیم شده بودند که چنین تعاملاتی بدون مداخله امکانپذیر باشد. متا تأیید کرد که این راهنماها وجود داشته، اما اعلام کرد قوانین جدیدی برای رفع این موارد بهروزرسانی کرده است.
با این حال، این اقدامات از نظر دستکم یک سناتور آمریکایی کافی نیست. او خواستار ممنوعیت کامل استفادهی افراد زیر سن قانونی از رباتهای گفتوگوی متا شده است.
به گزارش شبکه NBC:
سناتور ادوارد مارکی گفت که اگر متا دو سال پیش به هشدار او توجه کرده بود، امروز با چنین انتقاداتی مواجه نمیشد. او در سپتامبر ۲۰۲۳ در نامهای به زاکربرگ هشدار داده بود که اجازهدادن به نوجوانان برای استفاده از رباتهای هوش مصنوعی میتواند مشکلات موجود شبکههای اجتماعی را تشدید کند و ریسکهای زیادی به همراه دارد. مارکی از شرکت خواسته بود تا پیش از شناخت کامل پیامدها بر نوجوانان، عرضهی این ابزارها را به تعویق بیندازد.
این نگرانی تنها محدود به یک نفر نیست. مشکل اصلی در توسعهی شتابزدهی فناوریهایی مانند هوش مصنوعی این است که هنوز اثرات واقعی آن بر کاربران، بهویژه گروههای آسیبپذیر، روشن نیست. همانطور که تجربهی شبکههای اجتماعی نشان داد ـ که اکنون بسیاری از کشورها تلاش میکنند دسترسی به آنها را به نوجوانان بزرگتر محدود کنند ـ تأثیرات این فناوریها بر گروههای کمسنوسال میتواند چشمگیر باشد. بنابراین بهتر است خطرات پیش از گسترش استفاده کاهش یابد، نه آنکه پس از بروز آسیبها به فکر جبران بیفتیم.
با این حال، پیشرفت فناورانه اغلب بر ملاحظات ایمنی غلبه میکند. از سوی دیگر، با توجه به پیشرفتهای مشابه چین و روسیه در زمینهی هوش مصنوعی، بعید به نظر میرسد دولت ایالات متحده محدودیتهای جدی بر توسعه یا استفاده از این فناوریها اعمال کند.
نگرانیها در حوزهی واقعیت مجازی
موضوع دیگری که متوجه متا شده، گزارش تازهای از روزنامه واشنگتنپست است. طبق این گزارش، متا بارها نسبت به شکایتها دربارهی پیشنهادهای جنسی به کودکان در محیطهای واقعیت مجازی خود بیتوجهی کرده یا آنها را نادیده گرفته است؛ در حالی که به توسعهی پلتفرم اجتماعی واقعیت مجازی خود ادامه میدهد.
گزارش مدعی است که متا بهطور سازمانیافته در پی پنهان کردن چنین رویدادهایی بوده است. هرچند متا در پاسخ اعلام کرده که تاکنون ۱۸۰ مطالعهی متفاوت دربارهی ایمنی و رفاه نوجوانان در محیطهای جدید خود را تأیید کرده است.
این نخستین بار نیست که نگرانیها دربارهی تأثیرات واقعیت مجازی بر سلامت روان مطرح میشود. محیطهای دیجیتال فراگیرتر میتوانند اثرات عمیقتری بر ادراک کاربران بگذارند. برخی از کاربران Horizon VR حتی از تجربهی آزار جنسی و تجاوز مجازی خبر دادهاند. در واکنش به این موارد، متا ابزارهای ایمنی تازهای همچون «حریم شخصی» برای جلوگیری از تماس ناخواسته اضافه کرده است. اما حتی با این تدابیر، تضمین کامل یا پیشبینی همهی پیامدها در این مرحله ممکن نیست.
نکتهی قابل تأمل آن است که همزمان با این انتقادات، متا محدودیت سنی دسترسی به Horizon Worlds را نیز کاهش داده است: ابتدا به ۱۳ سال و سپس در سال گذشته به ۱۰ سال. این موضوع خود پرسشهای جدیتری دربارهی تعهد متا به ایمنی کاربران برمیانگیزد.
هرچند شرکت مدعی است مطالعات بیشتری در حال انجام است که میتواند به بهبود ابزارهای ایمنی منجر شود، اما نشانهها حاکی از آن است که متا همچنان پیشرفت و توسعه را بر ایمنی مقدم میداند؛ مشابه رویکردی که در ابتدای گسترش شبکههای اجتماعی در پیش گرفته بود.
پرسشهای تکراری در کنگره
متا بارها برای پاسخگویی دربارهی ایمنی نوجوانان در استفاده از اینستاگرام و فیسبوک به کنگره احضار شده است. این شرکت همواره وجود ارتباط مستقیم میان استفاده از شبکههای اجتماعی و مشکلات سلامت روان نوجوانان را انکار کرده، اما گزارشهای متعدد مستقل خلاف این ادعا را نشان دادهاند. همین یافتهها موجب شده تلاشهای تازهای برای محدود کردن دسترسی نوجوانان کمسن به این پلتفرمها آغاز شود.
با وجود همهی این موارد، متا همچنان بر سیاست خود برای افزایش دسترسی به حداکثر کاربران ممکن پافشاری میکند. همین موضوع نگرانی اصلی است: اینکه متا حاضر است شواهد بیرونی را نادیده بگیرد اگر مانع رشد تجاریاش شوند.
در نهایت، یا باید به وعدهی متا اعتماد کرد که مطالعات ایمنی کافی انجام میدهد، یا بر اساس شواهد مستقل و یافتههای بیرونی، خواستار سختگیریهای بیشتر شد.
متا تأکید دارد که در حال انجام اقدامات لازم است، اما با توجه به ابعاد گستردهی موضوع، ادامهی پرسشگری و بررسیهای انتقادی ضروری به نظر میرسد.
