یوتیوب برای مقابله با دیپفیکهای سلبریتیها اقدام خواهد کرد
هوش مصنوعی در تمام طول سال موضوع داغ بوده است، اما با موفقیتهای هوش مصنوعی، جنبه تاریک آن نیز آشکار شده است. کلاهبرداریهای مرتبط با هوش مصنوعی، به ویژه دیپفیکها، نیز در حال افزایش هستند. ویدیوهای دیپفیک سلبریتیها به طور خطرناکی رایج شدهاند.
مشکل اینجاست که دیپفیکها و تقلیدها واقعگرایانهتر شدهاند و تشخیص آنها از محتوای اصلی دشوارتر شده است.
برای مقابله با این مشکل، یوتیوب تلاشهای خود را برای محافظت از سازندگان و سلبریتیها در برابر سوءاستفاده از هویت آنها افزایش میدهد. برای این منظور، با آژانس هنرمندان خلاق (CAA) همکاری کرده است. آنها در حال برنامهریزی برای معرفی ابزارهای پیشرفته برای تشخیص محتوای تولید شده توسط هوش مصنوعی هستند.
این ابزارها به سازندگان اجازه میدهند ویدیوهایی را که از چهره، صدا یا سایر جنبههای هویت آنها با استفاده از هوش مصنوعی تقلید میکنند، شناسایی کنند. این امر درخواست حذف چنین محتوایی را آسانتر خواهد کرد. یوتیوب قصد دارد این برنامه را سال آینده راهاندازی کند. هدف اولیه این برنامه، سلبریتیها و ورزشکاران خواهد بود. پس از آن، این ویژگی برای سازندگان برتر، اینفلوئنسرها و سایر متخصصان این پلتفرم نیز ارائه خواهد شد.
یوتیوب با این ابتکار، قصد دارد به نگرانیهای فزاینده در مورد تقلید هویت و استفاده غیرمجاز از تصاویر تولید شده توسط هوش مصنوعی رسیدگی کند. یوتیوب برای اولین بار در ماه سپتامبر، قصد خود را برای توسعه ابزارهایی برای مدیریت تصاویر تولید شده توسط هوش مصنوعی از سازندگان اعلام کرد.
یوتیوب با CAA که نماینده بسیاری از ستارههای جهانی است، همکاری کرده است. این آژانس قبلاً سیستمی به نام CAAVault توسعه داده است. این فناوری سوابق دیجیتالی دقیقی از چهرهها، صداها و شباهتهای مشتریان خود را ذخیره میکند و پایگاه دادهای ایجاد میکند که میتواند برای تشخیص استفاده غیرمجاز مورد استفاده قرار گیرد.
علاوه بر این، برای سوءاستفاده از هوش مصنوعی در موسیقی، یوتیوب روی یک “فناوری جدید شناسایی آواز مصنوعی” کار میکند. هدف از این ویژگی، شناسایی و حذف محتوای تولید شده توسط هوش مصنوعی است که صدای خوانندگی هنرمندان را تکرار میکند، که نگرانی فزایندهای برای شرکتهای موسیقی است.
در نهایت، یوتیوب اکنون از سازندگان میخواهد که محتوای تولید شده توسط هوش مصنوعی را در توضیحات ویدیو یا متادیتا مشخص کنند.
