بسیاری از مردم برای تولید متن، از نوشتن خلاقانه تا مستندات فنی، به ChatGPT متکی هستند. همانطور که محتوای تولید شده توسط هوش مصنوعی رایج تر می شود، درک منشاء این محتوا اهمیت فزاینده ای دارد. برای رفع این مشکل، OpenAI روی روش‌های جدیدی کار می‌کند تا از صحت متن تولید شده توسط هوش مصنوعی اطمینان حاصل کند.
یکی از آخرین پیشرفت ها آزمایش واترمارک متن برای ChatGPT است. در حالی که این شرکت نشان نداده است که چگونه فناوری واترمارک روی متن کار می کند، من فکر می کنم ممکن است شامل جاسازی یک شناسه پنهان در متن تولید شده توسط مدل باشد. ایده این است که ردیابی و تأیید اینکه آیا یک قطعه محتوا توسط هوش مصنوعی تولید شده است یا خیر.
طبق گفته OpenAI، روش واترمارکینگ دقت بالایی را نشان داده است، به ویژه در تشخیص تغییرات موضعی مانند ترجمه. با این حال، با روش‌های دستکاری پیچیده‌تر، مانند استفاده از ابزارهای ترجمه یا سایر مدل‌های تولیدی برای تغییر متن، با چالش‌هایی مواجه است.
OpenAI همچنین در حال بررسی روش‌های دیگری مانند متادیتا و طبقه‌بندی‌کننده‌های تشخیص است. ابرداده، که به صورت رمزنگاری امضا شده است، می تواند راه مطمئن تری برای ردیابی منشاء متن ارائه دهد. طبقه‌بندی‌کننده‌های تشخیص ابزارهایی هستند که از هوش مصنوعی برای شناسایی اینکه آیا محتوا توسط مدل‌های OpenAI تولید شده است استفاده می‌کنند.
این پیشرفت‌ها بخشی از تلاش گسترده‌تر OpenAI برای افزایش اعتبار و شفافیت محتوا است. هدف OpenAI با مشارکت در استانداردهایی مانند C2PA و توسعه ابزارهای جدید، ایجاد اعتماد در محتوای تولید شده توسط هوش مصنوعی است.
به نظر من، معرفی واترمارک متن می تواند یک شمشیر دولبه باشد. از یک طرف، این نشان دهنده گامی مهم در جهت اطمینان از قابلیت ردیابی و صحت محتوای تولید شده توسط هوش مصنوعی است. این می تواند به کاربران کمک کند بین متن تولید شده توسط انسان و AI تمایز قائل شوند و اعتماد بیشتری به محتوای دیجیتال ایجاد کند.
از سوی دیگر، چالش‌های مرتبط با واترمارکینگ، به‌ویژه تأثیر بالقوه آن بر انگلیسی‌زبانان غیربومی و آسیب‌پذیری آن در برابر دستکاری پیچیده، نشان می‌دهد که هنوز راه‌حل کاملی نیست.
