شرکت متا تنها چند روز پس از معرفی قابلیت هوش مصنوعی Muse Image، تصمیم به توقف آن گرفت. این ابزار که امکان تولید تصاویر مبتنی بر عکسها و محتوای حسابهای عمومی اینستاگرام را فراهم میکرد، با موجی از انتقادها درباره حریم خصوصی و استفاده از تصاویر کاربران بدون رضایت صریح مواجه شد. متا در بیانیهای اعلام کرد که این قابلیت «انتظارات کاربران را برآورده نکرده است» و به همین دلیل از دسترس خارج شده است.
Muse Image چه قابلیتی ارائه میداد؟
متا هفته گذشته از مدل تولید تصویر Muse Image بهعنوان یکی از محصولات جدید بخش Meta Superintelligence Labs رونمایی کرد. این ابزار به کاربران اجازه میداد با استفاده از دستورات متنی، تصاویری جدید خلق کنند یا تصاویر موجود را ویرایش کنند.
اما ویژگی بحثبرانگیز آن، امکان استفاده از تصاویر و محتوای حسابهای عمومی اینستاگرام برای ساخت تصاویر جدید بود؛ قابلیتی که بهصورت پیشفرض برای بسیاری از کاربران فعال شده بود و نگرانیهای گستردهای درباره سوءاستفاده از چهره افراد ایجاد کرد.
دلیل توقف قابلیت چه بود؟
پس از انتشار این قابلیت، فعالان حوزه حریم خصوصی، هنرمندان و اتحادیه بازیگران SAG-AFTRA نسبت به نحوه عملکرد آن اعتراض کردند.
مهمترین انتقادها عبارت بودند از:
- فعال بودن قابلیت بهصورت پیشفرض (Opt-out بهجای Opt-in)
- استفاده از تصاویر کاربران بدون دریافت رضایت صریح
- احتمال سوءاستفاده برای تولید دیپفیک (Deepfake)
- خطر جعل هویت و تولید تصاویر گمراهکننده
- نبود شفافیت کافی درباره نحوه استفاده از دادههای کاربران
در نهایت متا اعلام کرد که بازخوردها نشان داده این ویژگی «از نظر طراحی و انتظارات کاربران، به هدف خود نرسیده است» و به همین دلیل آن را متوقف کرده است.
واکنش متا به انتقادها
متا در بیانیه رسمی خود تأکید کرد هدف از توسعه Muse Image ارائه ابزاری خلاقانه همراه با امکان کنترل بیشتر برای کاربران بوده است، اما اذعان کرد که در نحوه پیادهسازی این قابلیت اشتباه کرده است.
این شرکت اعلام کرد:
- قابلیت Muse Image دیگر در دسترس نیست.
- بازخورد کاربران در توسعه قابلیتهای آینده لحاظ خواهد شد.
- حفاظت از حریم خصوصی کاربران همچنان یکی از اولویتهای متا خواهد بود.
این اتفاق چه پیامی برای صنعت هوش مصنوعی دارد؟
توقف سریع Muse Image نشان میدهد شرکتهای فناوری دیگر نمیتوانند قابلیتهای مبتنی بر هوش مصنوعی را بدون در نظر گرفتن نگرانیهای مربوط به حریم خصوصی و رضایت کاربران عرضه کنند.
در ماههای اخیر، استفاده از تصاویر افراد برای آموزش مدلهای هوش مصنوعی و تولید محتوای جدید، به یکی از مهمترین موضوعات مورد بحث میان شرکتهای فناوری، قانونگذاران و کاربران تبدیل شده است. کارشناسان معتقدند ابزارهای آینده باید بیش از گذشته بر اصل رضایت آگاهانه کاربران (Opt-in) تکیه کنند.
تصمیم متا برای کنار گذاشتن Muse Image تنها چند روز پس از معرفی، نشان میدهد حساسیت کاربران نسبت به استفاده از دادههای شخصی در عصر هوش مصنوعی به شکل قابلتوجهی افزایش یافته است. اگرچه شرکتهای فناوری تلاش میکنند ابزارهای خلاقانهتری ارائه دهند، اما مرز میان نوآوری و نقض حریم خصوصی روزبهروز باریکتر میشود.
آنچه بیش از همه واکنشها را برانگیخت، نحوه فعالسازی این قابلیت بود. بسیاری از منتقدان معتقد بودند که استفاده از تصاویر کاربران باید تنها با رضایت صریح (Opt-in) امکانپذیر باشد، نه اینکه کاربران مجبور شوند برای جلوگیری از استفاده از تصاویرشان بهصورت دستی تنظیمات را تغییر دهند. همین مسئله باعث شد اتحادیههای هنری، فعالان حقوق دیجیتال و کارشناسان امنیت سایبری نسبت به خطرات احتمالی، از جمله جعل هویت و تولید دیپفیک، هشدار دهند.
از منظر صنعت، این اتفاق میتواند مسیر توسعه محصولات هوش مصنوعی را تغییر دهد. احتمالاً شرکتهای بزرگ از این پس پیش از عرضه قابلیتهای مشابه، توجه بیشتری به شفافیت، کنترل کاربران بر دادههای خود و دریافت رضایت آگاهانه خواهند داشت. در غیر این صورت، علاوه بر واکنش کاربران، ممکن است با فشارهای قانونی و نظارتی بیشتری نیز روبهرو شوند.
آنچه کاربران باید بدانند
اگر پیشتر نگران استفاده از تصاویر عمومی حساب اینستاگرام خود توسط قابلیت Muse Image بودید، متا اعلام کرده این ویژگی بهطور کامل غیرفعال شده است. با این حال، این رویداد اهمیت بررسی تنظیمات حریم خصوصی حسابهای کاربری در شبکههای اجتماعی را بیش از گذشته نشان میدهد.
سوالات متداول
Muse Image چه بود؟
Muse Image یک ابزار تولید و ویرایش تصویر مبتنی بر هوش مصنوعی بود که توسط متا توسعه یافته بود.
چرا متا این قابلیت را متوقف کرد؟
به دلیل اعتراض گسترده درباره حریم خصوصی، استفاده از تصاویر کاربران بدون رضایت صریح و نگرانی از سوءاستفادههای احتمالی.
آیا این قابلیت دوباره بازخواهد گشت؟
متا تاکنون برنامهای برای بازگرداندن Muse Image اعلام نکرده و تنها گفته است که بازخورد کاربران را در توسعه قابلیتهای آینده مدنظر قرار خواهد داد.
جمعبندی
توقف سریع Muse Image نشان داد که موفقیت ابزارهای هوش مصنوعی تنها به قابلیتهای فنی آنها وابسته نیست و اعتماد کاربران و رعایت حریم خصوصی نیز نقشی تعیینکننده دارد. عقبنشینی متا میتواند به الگویی برای سایر شرکتهای فناوری تبدیل شود تا در توسعه محصولات مبتنی بر هوش مصنوعی، رضایت کاربران و شفافیت را در اولویت قرار دهند.
منابع:
Digit
Reuters
The Verge
Axios
