ما با موفقیت در فضای هوش مصنوعی رشد می کنیم، هر روز چیز جدیدی به گوش می رسد. اما یک تلنگر برای این نیز وجود دارد. محتوای تولید شده توسط هوش مصنوعی، همه گیری بزرگ بعدی است که باید با آن مقابله کنیم.
به راحتی می توان از آن برای انتشار اطلاعات نادرست و اخبار جعلی برای تحریک مردم استفاده کرد. با در نظر گرفتن این تفکر، OpenAI، یکی از نامهای پیشرو در فضای هوش مصنوعی، ابزارهایی را معرفی کرده است که محتوای تولید شده توسط تولیدکننده تصویر DALL-E AI خود را شناسایی میکند.
به منظور گسترش آگاهی در مورد سوء استفاده از محتوای تولید شده با هوش مصنوعی، OpenAI نه تنها ابزارهایی را توسعه داده است که محتوای تولید شده توسط DALL-E را شناسایی می کند، بلکه روش های واترمارک پیشرفته تری را نیز برای پرچم گذاری محتوای تولید شده توسط هوش مصنوعی اضافه کرده است. این روش واترمارکینگ مقاوم در برابر دستکاری است.
این شرکت ادعا می کند که این ابزار عملکرد، دقت و قابلیت اطمینان بالایی را ارائه می دهد. همچنین میتواند به شناسایی تصاویر در هنگام برش، فشردهسازی، تغییر در اشباع و غیره کمک کند. سطح دقت 98 درصدی دارد.
یکی از نکات منفی این ابزار این است که فقط می تواند محتوای تولید شده توسط DALL-E را شناسایی کند. چیزهایی که توسط پلتفرمهای دیگر تولید میشوند، مانند Midjourney، خیلی خوب کار نمیکنند. فقط می تواند حدود 5-10٪ از این موارد را علامت گذاری کند.
OpenAI در کنار غول های فناوری مانند مایکروسافت و ادوبی به عضویت ائتلاف منبع و اعتبار محتوا (C2PA) درآمده است. از این رو، برای نشان دادن تعهد خود به آرمان، دست به چنین اقداماتی زده است.
این همش نیست. OpenAI حتی واترمارکینگ را به Voice Engine نیز اضافه کرده است. این پلتفرم تبدیل متن به گفتار آن در حال حاضر در پیش نمایش محدود است. با این حال، هر دو ابزار در حال حاضر در حال پیشرفت و اصلاح هستند.
