قوانین جدید اتحادیه اروپا برای افزایش شفافیت استفاده از هوش مصنوعی از ۲ اوت ۲۰۲۶ وارد مرحله اجرا شده‌اند. بر اساس ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا، شرکت‌ها باید در موارد مشخص به کاربران اطلاع دهند که با یک سیستم هوش مصنوعی تعامل دارند و محتوای تولیدشده یا دستکاری‌شده با هوش مصنوعی را نیز قابل شناسایی کنند.
این مقررات به‌ویژه برای چت‌بات‌ها، ابزارهای تولید محتوای مصنوعی و دیپ‌فیک‌ها اهمیت دارد و هدف اصلی آن کاهش فریب و دستکاری کاربران و کمک به تشخیص محتوای مصنوعی است.
قوانین جدید هوش مصنوعی اتحادیه اروپا چه می‌گویند؟
مقررات جدید بخشی از EU AI Act هستند و تمرکز آن‌ها بر شفافیت سیستم‌هایی است که ممکن است باعث شوند کاربر نتواند تفاوت میان محتوای واقعی و تولیدشده توسط هوش مصنوعی را تشخیص دهد.
طبق توضیحات رسمی کمیسیون اروپا، ماده ۵۰ کاربران را در شرایط مشخص ملزم می‌کند بدانند چه زمانی با یک سیستم هوش مصنوعی تعامل دارند یا در معرض محتوای تولیدشده توسط هوش مصنوعی قرار گرفته‌اند.
مهم‌ترین الزامات این مقررات عبارت‌اند از:
- اطلاع‌رسانی درباره تعامل کاربر با سیستم هوش مصنوعی
- قابل شناسایی‌کردن محتوای مصنوعی در قالبی ماشینی
- برچسب‌گذاری واضح برخی محتوای دستکاری‌شده مانند دیپ‌فیک‌ها
- شفاف‌سازی درباره برخی محتوای تولیدشده با هوش مصنوعی که برای اطلاع‌رسانی عمومی منتشر می‌شوند
چت‌بات‌های هوش مصنوعی باید خودشان را معرفی کنند
یکی از بخش‌های مهم قانون جدید به سیستم‌های هوش مصنوعی مربوط می‌شود که مستقیماً با انسان‌ها تعامل دارند.
در چنین مواردی، ارائه‌دهندگان باید سیستم را به شکلی طراحی کنند که کاربر بداند با هوش مصنوعی در حال تعامل است؛ مگر اینکه این موضوع از شرایط و زمینه استفاده کاملاً مشخص باشد.
این الزام می‌تواند روی طیف گسترده‌ای از سرویس‌های مبتنی بر چت‌بات و دستیارهای هوش مصنوعی تأثیر بگذارد.
هدف این است که کاربر تصور نکند در حال گفت‌وگو با یک انسان واقعی است، در حالی که پاسخ‌ها توسط یک سیستم خودکار تولید می‌شوند.
محتوای تولیدشده با هوش مصنوعی باید قابل شناسایی باشد
قانون جدید تنها به چت‌بات‌ها محدود نمی‌شود. ارائه‌دهندگان سیستم‌های مولد هوش مصنوعی باید اطمینان حاصل کنند که خروجی‌های مصنوعی در قالبی قابل شناسایی توسط ماشین علامت‌گذاری شده‌اند.
این موضوع می‌تواند حوزه‌هایی مانند موارد زیر را دربر بگیرد:
- تصاویر تولیدشده با هوش مصنوعی
- فایل‌های صوتی مصنوعی
- ویدئوهای تولیدشده یا دستکاری‌شده
- محتوای متنی تولیدشده با هوش مصنوعی
در این بخش، هدف اصلی ایجاد امکان تشخیص منشأ مصنوعی محتواست؛ نه اینکه الزاماً همه خروجی‌های AI با یک برچسب بصری یکسان نمایش داده شوند.
دیپ‌فیک‌ها باید به‌صورت واضح برچسب‌گذاری شوند
یکی از حساس‌ترین بخش‌های قانون جدید به دیپ‌فیک‌ها مربوط می‌شود.
محتوای صوتی، تصویری یا ویدئویی تولیدشده یا دستکاری‌شده با هوش مصنوعی که شباهت زیادی به افراد، رویدادها یا واقعیت دارد، در شرایط مشمول قانون باید به‌گونه‌ای مشخص شود که مخاطب بتواند ماهیت مصنوعی آن را تشخیص دهد.
این الزام اهمیت زیادی برای مقابله با انتشار تصاویر جعلی، ویدئوهای ساختگی و سایر شکل‌های محتوای گمراه‌کننده دارد.
محتوای عمومی و خبری هم مشمول مقررات است
قانون اتحادیه اروپا توجه ویژه‌ای به محتوای تولیدشده با هوش مصنوعی دارد که با هدف اطلاع‌رسانی درباره موضوعات مورد توجه عمومی منتشر می‌شود.
کمیسیون اروپا اعلام کرده است که برخی از این محتواها باید به شکل واضح قابل تشخیص باشند، به‌خصوص زمانی که محتوای تولیدشده توسط هوش مصنوعی می‌تواند مخاطب را درباره منشأ واقعی آن دچار اشتباه کند.
در عین حال، مقررات برای محتوای هنری، طنز و برخی کاربردهای شخصی استثناها و شرایط متفاوتی در نظر می‌گیرد.
آیا همه ابزارهای هوش مصنوعی باید برچسب بخورند؟
خیر. قانون اتحادیه اروپا به شکل یکسان همه کاربردهای هوش مصنوعی را مشمول الزام برچسب‌گذاری نمی‌کند.
قوانین شفافیت ماده ۵۰ عمدتاً روی موقعیت‌هایی تمرکز دارند که امکان فریب یا سردرگمی کاربر درباره تعامل با AI یا منشأ مصنوعی محتوا وجود دارد. بسیاری از سیستم‌های هوش مصنوعی با ریسک حداقلی یا بدون ریسک، مشمول الزامات ویژه این قانون نیستند.
بنابراین نمی‌توان گفت از این پس هر تصویری که با هر نوع ابزار هوش مصنوعی ساخته شود، الزاماً باید با یک برچسب مشخص منتشر شود.
جدول مهم‌ترین الزامات قانون جدید
| حوزه | الزام اصلی |
|---|---|
| چت‌بات‌ها | اطلاع‌رسانی به کاربر درباره تعامل با AI در موارد مشمول |
| محتوای مصنوعی | امکان شناسایی منشأ AI توسط ماشین |
| دیپ‌فیک | برچسب‌گذاری واضح محتوای دستکاری‌شده |
| محتوای عمومی | شفاف‌سازی در موارد مشخص |
| محتوای هنری و طنز | برخورد متفاوت و استثناهای مشخص |
| زمان اجرا | ۲ اوت ۲۰۲۶ |
شرکت‌ها برای اجرای قانون چه کاری باید انجام دهند؟
شرکت‌هایی که محصولات و خدمات آن‌ها مشمول ماده ۵۰ می‌شود، باید فرایند استفاده از هوش مصنوعی و نحوه نمایش یا انتشار خروجی‌های آن را بررسی کنند.
برای مثال، یک سرویس چت‌بات باید مشخص کند در چه شرایطی لازم است کاربر از ماهیت AI سیستم مطلع شود. سرویس تولید تصویر یا ویدئو نیز باید راهکاری برای قابل تشخیص‌بودن محتوای مصنوعی داشته باشد.
برای برخی سیستم‌های موجود نیز دوره تطبیق در نظر گرفته شده است و منابع مختلف از مهلت ۲ دسامبر ۲۰۲۶ برای بعضی الزامات فنی مرتبط با محتوای مصنوعی خبر داده‌اند.
جریمه رعایت‌نکردن قوانین چقدر است؟
عدم رعایت الزامات قانون هوش مصنوعی اتحادیه اروپا می‌تواند برای شرکت‌ها هزینه‌بر باشد. بر اساس گزارش‌های منتشرشده درباره قواعد جدید، جریمه‌های مربوط به برخی تخلفات می‌تواند تا ۱۵ میلیون یورو یا ۳ درصد از گردش مالی سالانه جهانی شرکت برسد؛ البته میزان جریمه به نوع تخلف و مقررات مربوط بستگی دارد.
بنابراین شرکت‌های فعال در حوزه هوش مصنوعی باید موضوع شفافیت را بخشی از فرایند طراحی و عرضه محصول بدانند، نه صرفاً یک برچسب تبلیغاتی پس از تولید محتوا.
آنچه کاربران باید بدانند
اگر در اتحادیه اروپا از یک چت‌بات یا سرویس تولید محتوای هوش مصنوعی استفاده می‌کنید، در موارد مشمول قانون باید اطلاعات کافی درباره ماهیت AI دریافت کنید.
همچنین هنگام مشاهده تصاویر، ویدئوها یا سایر محتوای واقع‌گرایانه، برچسب یا نشانه‌ای که منشأ مصنوعی محتوا را مشخص می‌کند می‌تواند به تشخیص محتوای تولیدشده یا دستکاری‌شده با AI کمک کند.
با این حال، وجود یا نبود برچسب نباید تنها معیار تشخیص اعتبار یک خبر یا تصویر باشد و بررسی منبع همچنان اهمیت دارد.
جمع‌بندی
قواعد جدید شفافیت هوش مصنوعی اتحادیه اروپا از ۲ اوت ۲۰۲۶ اجرایی شده‌اند و شرکت‌ها را در موارد مشخص موظف می‌کنند درباره تعامل کاربران با AI و منشأ محتوای مصنوعی شفاف باشند. این قوانین به‌ویژه چت‌بات‌ها، محتوای مصنوعی و دیپ‌فیک‌ها را هدف قرار می‌دهند و می‌توانند استاندارد تازه‌ای برای نحوه برخورد صنعت فناوری با محتوای تولیدشده توسط هوش مصنوعی ایجاد کنند.
منابع
- GSMArena
- European Commission
- The Verge
