Anthropic قابلیت جدیدی را برای Claude معرفی کرده است که در متن‌های تولیدشده توسط مدل‌های جدید این شرکت، یک واترمارک نامرئی و قابل شناسایی توسط ماشین قرار می‌دهد. این نشان دیجیتال با هدف افزایش شفافیت درباره منشأ محتوای هوش مصنوعی طراحی شده و می‌تواند حتی پس از کپی و برخی ویرایش‌های معمول نیز باقی بماند.
واترمارک نامرئی Claude چگونه کار می‌کند؟
Anthropic تصمیم گرفته برای تشخیص محتوای تولیدشده توسط Claude، به‌جای درج برچسب قابل مشاهده در متن، از یک واترمارک نامرئی (Imperceptible Watermark) استفاده کند.
این واترمارک در سطح مدل هنگام تولید محتوا در متن قرار می‌گیرد؛ بنابراین کاربر هنگام خواندن خروجی هیچ علامت، لوگو یا عبارت خاصی مشاهده نمی‌کند و ظاهر و خوانایی متن نیز قرار نیست تغییر کند.
نکته مهم این است که واترمارک به یک رابط کاربری خاص محدود نیست. در نتیجه، طبق توضیحات منتشرشده، محتوای تولیدشده از طریق سرویس‌ها و محیط‌های مختلف Claude می‌تواند این نشان را همراه خود داشته باشد.
واترمارک Claude بعد از کپی و ویرایش هم باقی می‌ماند؟
یکی از ویژگی‌های مهم این فناوری، تلاش برای حفظ نشان دیجیتال در برابر تغییرات معمول روی متن است.
به گفته Anthropic، واترمارک طوری طراحی شده که بتواند پس از کپی و پیست و برخی ویرایش‌های جزئی همچنان قابل شناسایی باقی بماند. با این حال، این موضوع به معنای غیرقابل حذف بودن آن نیست؛ تغییرات سنگین، بازنویسی گسترده، ترجمه یا ترکیب متن با محتوای دیگر می‌تواند شناسایی نشان را دشوارتر کند.
بنابراین نباید واترمارک Claude را با یک برچسب دائمی و غیرقابل تغییر اشتباه گرفت.
چه نسخه‌هایی از Claude شامل واترمارک هستند؟
این قابلیت برای مدل‌های Claude که از ۲ اوت ۲۰۲۶ به بعد عرضه شده‌اند در نظر گرفته شده است. Anthropic همچنین اعلام کرده که مدل‌های قدیمی‌تر نیز در یک دوره انتقالی به این سیستم مجهز خواهند شد.
این موضوع اهمیت زیادی دارد، زیرا واترمارک در سطح مدل اعمال می‌شود و صرفاً به نسخه وب Claude محدود نیست.
چرا Anthropic سراغ واترمارک متنی رفته است؟
گسترش استفاده از مدل‌های زبانی باعث شده تشخیص اینکه یک متن را انسان نوشته یا هوش مصنوعی تولید کرده، دشوارتر شود. این مسئله در حوزه‌هایی مانند آموزش، دانشگاه، روزنامه‌نگاری، تولید محتوا و انتشار آنلاین اهمیت بیشتری پیدا می‌کند.
واترمارک می‌تواند یک لایه اضافی برای بررسی منشأ محتوا ایجاد کند. در این روش، برخلاف ابزارهای تشخیص متنی که صرفاً از روی سبک نگارش احتمال استفاده از AI را تخمین می‌زنند، نشان مورد نظر از زمان تولید محتوا در خود خروجی قرار می‌گیرد. پژوهش‌های دانشگاهی نیز سال‌هاست روی روش‌های مشابه برای قرار دادن سیگنال‌های پنهان در خروجی مدل‌های زبانی کار می‌کنند.
Anthropic همچنین در حال توسعه ابزارهایی برای شناسایی این واترمارک‌ها توسط کاربران و شرکت‌های ثالث است. جزئیات فنی کامل سیستم هنوز منتشر نشده است.
آیا واترمارک Claude همان تشخیص‌دهنده هوش مصنوعی است؟
خیر. این دو فناوری تفاوت مهمی دارند.
AI Detector معمولاً متن را دریافت می‌کند و با بررسی الگوهای آماری، واژگان، ساختار جمله‌ها یا سایر ویژگی‌های نوشتاری، احتمال تولید آن توسط هوش مصنوعی را تخمین می‌زند.
اما واترمارک هنگام تولید محتوا در خروجی قرار می‌گیرد و ابزار تشخیص می‌تواند با جست‌وجوی همان نشان، منشأ محتوا را بررسی کند.
به همین دلیل، رویکرد Anthropic را می‌توان بیشتر یک سیستم اثبات منشأ محتوا (Provenance) دانست تا یک ابزار سنتی تشخیص متن AI.
Claude برای تصاویر هم از سیستم مشابه استفاده می‌کند
تمرکز خبر جدید فقط روی متن نیست. Anthropic برای فایل‌های تصویری تولیدشده توسط Claude نیز به سراغ متادیتای امضاشده و استاندارد C2PA رفته است.
C2PA استانداردی برای ثبت اطلاعات مربوط به منشأ و سابقه محتوای دیجیتال است. در این حالت، اطلاعات مربوط به منشأ فایل در قالب متادیتا ثبت می‌شود؛ هرچند متادیتا برخلاف واترمارک درون متن می‌تواند در برخی فرایندهای انتشار یا ویرایش حذف شود.
این رویکرد با روندی که در صنعت هوش مصنوعی شکل گرفته هم‌راستا است. برای مثال، گوگل نیز از SynthID برای واترمارک‌گذاری محتوای تولیدشده توسط هوش مصنوعی استفاده می‌کند و این فناوری برای متن، تصویر، صدا و ویدئو توسعه یافته است.
آیا این قابلیت به معنای تشخیص قطعی متن AI است؟
نه لزوماً.
مهم‌ترین نکته برای کاربران این است که وجود واترمارک با تشخیص صددرصدی تمام محتوای تولیدشده توسط هوش مصنوعی تفاوت دارد.
اگر متن به‌طور گسترده بازنویسی شود یا با محتوای انسانی ترکیب شود، ممکن است تشخیص نشان دشوارتر شود. از طرف دیگر، متنی که فاقد واترمارک Claude است، الزاماً انسانی نیست؛ زیرا ممکن است توسط مدل دیگری تولید شده باشد یا از نسخه‌ای از Claude آمده باشد که هنوز تحت پوشش سیستم جدید قرار نگرفته است.
در نتیجه، این فناوری بیشتر یک ابزار برای تأیید منشأ در موارد قابل شناسایی است، نه یک دستگاه قطعی برای تفکیک تمام نوشته‌های انسانی و ماشینی.
جمع‌بندی
واترمارک نامرئی Claude یکی از مهم‌ترین گام‌های اخیر برای شفاف‌تر شدن منشأ محتوای تولیدشده توسط هوش مصنوعی است. Anthropic با قرار دادن نشان قابل شناسایی در خروجی مدل‌های جدید، تلاش می‌کند تشخیص محتوای تولیدشده توسط AI را از روش‌های صرفاً احتمالی به سمت سیستم‌های مبتنی بر منشأ محتوا ببرد؛ رویکردی که احتمالاً در آینده در میان دیگر شرکت‌های هوش مصنوعی نیز گسترده‌تر خواهد شد.
منابع
- GSMArena
- Anthropic
- The Verge
- Google DeepMind
