متا ابزاری جدید را معرفی کرده است که می‌تواند واترمارک نامرئی را به ویدیوهای تولید شده با هوش مصنوعی اضافه کند.
این ابزار جدید با نام Video Seal، به ابزارهای واترمارک موجود شرکت، Audio Seal و Watermark Anything، اضافه می‌شود. این شرکت اعلام کرده است که این ابزار متن‌باز خواهد بود، اما هنوز کد آن منتشر نشده است. جالب توجه است که این شرکت ادعا می‌کند که تکنیک واترمارک گذاری بر کیفیت ویدیو تأثیری نخواهد گذاشت، اما در برابر روش‌های رایج حذف واترمارک از ویدیوها مقاوم خواهد بود.
ابزار Video Seal متا می‌تواند در مبارزه با دیپ‌فیک‌ها کمک کند
دیپ‌فیک‌ها از زمان ظهور هوش مصنوعی مولد، اینترنت را پر کرده‌اند. دیپ‌فیک‌ها محتوای مصنوعی هستند که معمولاً با استفاده از هوش مصنوعی تولید می‌شوند و اشیاء، افراد یا سناریوهای دروغین و گمراه‌کننده را نشان می‌دهند. این نوع محتوا اغلب برای انتشار اطلاعات نادرست در مورد یک شخصیت عمومی، ایجاد محتوای جنسی جعلی یا انجام کلاهبرداری و تقلب استفاده می‌شود.
با بهتر شدن سیستم‌های هوش مصنوعی، محتوای دیپ‌فیک تشخیص دادن آن سخت‌تر می‌شود و تمایز آن از محتوای واقعی دشوارتر می‌شود. طبق یک نظرسنجی McAfee، 70 درصد از افراد احساس می‌کنند که نمی‌توانند بین صدای واقعی و صدای تولید شده توسط هوش مصنوعی تفاوت قائل شوند. طبق داده‌های داخلی Sumsub، کلاهبرداری‌های دیپ‌فیک در سال 2022 در آمریکای شمالی 1740 درصد و در منطقه آسیا-اقیانوسیه 1530 درصد افزایش یافت. این تعداد بین سال‌های 2022 و 2023 ده برابر افزایش یافته است.
با افزایش نگرانی‌ها در مورد دیپ‌فیک‌ها، بسیاری از شرکت‌هایی که مدل‌های هوش مصنوعی را توسعه می‌دهند، شروع به انتشار ابزارهای واترمارک‌گذاری کرده‌اند که می‌توانند محتوای مصنوعی را از محتوای واقعی تشخیص دهند.
گوگل در اوایل سال جاری SynthID را برای واترمارک‌گذاری متن و ویدیوهای تولید شده توسط هوش مصنوعی منتشر کرد. مایکروسافت نیز ابزارهای مشابهی را منتشر کرده است. علاوه بر این، ائتلاف حفظ اصالت محتوا (C2PA) نیز در حال کار بر روی استانداردهای جدید برای شناسایی محتوای تولید شده توسط هوش مصنوعی است.
اکنون، متا ابزار Video Seal خود را برای واترمارک‌گذاری ویدیوهای هوش مصنوعی منتشر کرده است. محققان برجسته می‌کنند که این ابزار می‌تواند هر فریم از یک ویدیو را با یک برچسب نامرئی واترمارک کند که نمی‌توان آن را دستکاری کرد.
گفته می‌شود که این ابزار در برابر تکنیک‌هایی مانند تاری، برش و نرم‌افزارهای فشرده‌سازی مقاوم است. با این حال، با وجود اضافه کردن واترمارک، محققان ادعا می‌کنند که کیفیت ویدیو به خطر نمی‌افتد.
