هوش مصنوعی Muse متا به پیامهای خصوصی و اطلاعات مالی دسترسی پیدا کرد

دستیار هوش مصنوعی Muse متعلق به متا با اتهاماتی جدی درباره نقض حریم خصوصی روبهرو شده است. طبق گزارشی از رویترز، برخی کارکنان متا دریافت پیامهای ناخواسته، اطلاعات مالی و محتوای گفتوگوهای خصوصی را به این دستیار نسبت دادهاند. آزمایشهای مستقل نیز نشان دادهاند Muse در شرایطی توانسته پیامهای رمزگذاریشده Signal را از طریق مجوزهای دستگاه بخواند؛ موضوعی که نگرانیها درباره امنیت عاملهای هوش مصنوعی را افزایش داده است.
گزارش کارکنان متا از رفتارهای غیرمنتظره Muse
بر اساس بررسی رویترز از بیش از ۲۰ گزارش داخلی، برخی کارکنان متا با رفتارهایی از Muse مواجه شدهاند که انتظارش را نداشتند. این دستیار گاهی اطلاعاتی درباره درخواستهای نگهداری از کودک، توصیههای شغلی و خریدهایی ارسال کرده که کاربران هرگز مطرح نکرده بودند.
در یکی از موارد، Muse اطلاعاتی درباره موجودی حسابهای بانکی متعلق به Capital One و Charles Schwab ارائه کرده بود. کارمندی که این پیام را دریافت کرد، اعلام کرد هرگز اطلاعات حسابهای بانکی خود را در اختیار این دستیار قرار نداده است.
گزارشهای دیگری نیز از رزرو اقامتگاه در Airbnb بدون تأیید کاربر و ارسال پیامهایی خبر میدهند که ظاهراً به گفتوگوهای افراد دیگری تعلق داشتهاند.
البته رویترز نتوانسته مشخص کند اطلاعات مالی نمایشدادهشده واقعاً متعلق به کاربران دیگر بوده یا محصول توهم هوش مصنوعی بوده است.
Muse چگونه به پیامهای خصوصی Signal دسترسی پیدا کرد؟
یکی از بخشهای نگرانکننده گزارش، دسترسی Muse به پیامهای پلتفرم Signal است؛ پیامرسانی که از رمزگذاری سرتاسری برای محافظت از مکالمات کاربران استفاده میکند.
رویترز برای بررسی این موضوع با کارکنان Signal و مؤسسه AI Now همکاری کرد. آزمایشها نشان دادند Muse در برخی شرایط میتواند بدون استفاده از ابزار اختصاصی اتصال برنامهها یا همان Connector، از مجوزهای عمومی دستگاه برای مشاهده محتوای پیامها استفاده کند.
روش دسترسی در سیستمعاملهای مختلف متفاوت بود:
-
اندروید: Muse از مجوز دسترسی به اعلانها برای مشاهده متن پیامهای دریافتی استفاده میکرد.
-
macOS: این دستیار از قابلیتهای دسترسپذیری و گرفتن اسکرینشات برای مشاهده محتوای برنامهها کمک میگرفت.
-
آیفون: تلاشهای مشابه در آزمایشها موفق نبودند.
این موضوع لزوماً به معنای شکستن رمزگذاری Signal نیست. در این روش، محتوای پیام از طریق اعلانها یا قابلیتهای دسترسی سیستمعامل مشاهده میشود؛ یعنی اطلاعاتی که دستگاه برای نمایش به کاربر در اختیار دارد، ممکن است در دسترس عامل هوش مصنوعی نیز قرار بگیرد.
واکنش متا به نگرانیهای امنیتی چه بود؟
سخنگوی متا، دنیل رابرتس، موارد گزارششده را اتفاقاتی محدود توصیف کرد. او گفت Muse برای دسترسی به برنامههای دیگر به مجوزهای کاربران نیاز دارد و این شرکت بهطور مستمر محصولات خود را آزمایش و بهروزرسانی میکند.
متا همچنین اعلام کرده بخشی از پیامهایی که بهعنوان نشت اطلاعات یا اشتباه میان حسابهای کاربران گزارش شدهاند، در واقع نتیجه توهم هوش مصنوعی بودهاند. به گفته این شرکت، برخی از این مشکلات شناسایی و برطرف شدهاند.
بااینحال، رویترز نتوانسته درباره میزان واقعی افشای اطلاعات یا تعداد کاربرانی که احتمالاً تحت تأثیر این مشکلات قرار گرفتهاند، پاسخ روشنی دریافت کند.
اپل و گوگل به دنبال محدودکردن دسترسی عاملهای هوش مصنوعی هستند
انتشار نتایج این بررسی باعث شد اپل و گوگل نیز درباره کنترل دسترسی عاملهای هوش مصنوعی به اطلاعات کاربران واکنش نشان دهند.
گوگل تأکید کرده است که برنامهها برای مشاهده اعلانهای اندروید باید مجوز مشخصی از کاربر دریافت کنند. اپل نیز هشدار داده است که قابلیتهای دسترسپذیری macOS برای کمک به افراد دارای معلولیت طراحی شدهاند و استفاده از آنها برای اهداف دیگر میتواند اطلاعات شخصی را در معرض خطر قرار دهد.
اپل همچنین اعلام کرده بهروزرسانی نرمافزاری اخیر مک، مسیر دسترسی شناساییشده در آزمایشها را مسدود کرده است.
چرا ماجرای Muse برای آینده هوش مصنوعی اهمیت دارد؟
Muse از زمان عرضه در سپتامبر ۲۰۲۶ بیش از ۱۰ میلیون بار دانلود شده و یکی از محصولات مهم متا در حوزه عاملهای هوش مصنوعی محسوب میشود. این ابزار برای انجام وظایف چندمرحلهای طراحی شده و میتواند با برنامهها و وبسایتهای مختلف تعامل داشته باشد.
اما همین قابلیت، مسئله دسترسی به اطلاعات حساس را جدیتر میکند. یک عامل هوشمند برای انجام کارهایی مانند مدیریت امور مالی، خرید یا ارسال پیام ممکن است به مجوزهای گستردهای نیاز داشته باشد.
ماجرای Muse نشان میدهد صرف دریافت مجوز از کاربر کافی نیست؛ نحوه استفاده از آن مجوزها نیز باید شفاف و قابلکنترل باشد. کاربران باید بدانند دستیار هوشمند دقیقاً به چه اطلاعاتی دسترسی دارد و چه زمانی از آنها استفاده میکند.
منابع:
- Digit
- Reuters
- Ars Technica