آنتروپیک، واترمارک‌های نامرئی برای متون هوش مصنوعی معرفی کرد

آنتروپیک، شرکت آمریکایی سازنده‌ی چت‌بات «کلود»، اعلام کرده است که متون تولید شده توسط این چت‌بات را با یک واترمارک نامرئی مجهز خواهد کرد. این اقدام به دلیل الزامات جدید اتحادیه اروپا انجام می‌شود که بر اساس آن، محتوای تولید شده توسط هوش مصنوعی باید با نشانه‌گذاری‌های قابل خواندن توسط ماشین‌ها مشخص شود.

این واترمارک برای کاربران قابل مشاهده نخواهد بود و حتی در صورتی که متنی کپی و در جای دیگری چسبانده شود، این نشانه‌گذاری حفظ خواهد شد. آنتروپیک همچنین تأکید کرده است که این واترمارک به معنای آن نیست که چت‌بات کلود به‌طور مستقیم متن را تولید کرده است. بلکه ممکن است که این متن تنها توسط کلود ویرایش یا تصحیح شده باشد. این نشانه‌گذاری از طریق افزودن متاداده به متون یا تصاویر انجام می‌شود.

در نسخه‌های کلود که پس از تاریخ ۲ اوت منتشر شده‌اند، این واترمارک به‌طور پیش‌فرض گنجانده شده است و نسخه‌های قدیمی‌تر نیز در آینده به‌روزرسانی خواهند شد.

این تغییرات به آنتروپیک امکان می‌دهد تا به الزامات اتحادیه اروپا پاسخ دهد. بروکسل خواستار این است که محتوای تولید شده توسط هوش مصنوعی دارای نشانه‌گذاری‌هایی باشد که توسط ماشین‌ها قابل شناسایی باشد. در صورت تخلف از این الزامات، جریمه‌های مالی در نظر گرفته شده است.

در حال حاضر، ۱۹۰ شرکت از جمله گوگل، متا، مایکروسافت، میستال و اوپن‌ای‌آی، کد رفتاری داوطلبانه‌ای را امضا کرده‌اند.

از تاریخ ۲ اوت ۲۰۲۶، الزامات جدید شفافیت اتحادیه اروپا به اجرا درآمده است که به موجب آن، محتوای تولید شده توسط هوش مصنوعی باید شناسایی شود. اما آیا واترمارک‌ها به‌طور مطمئن عمل می‌کنند؟

همچنین، سرویس استریم صوتی اسپاتیفای نیز قصد دارد نشانه‌گذاری هوش مصنوعی را بهبود بخشد. از اواسط سپتامبر، برچسب «AI-Persona» مشخص خواهد کرد که آیا در پس یک پروفایل هنرمند، هنرمندان واقعی وجود دارند یا محتوای تولید شده توسط هوش مصنوعی. کاربران نگرانی‌هایی درباره‌ی پروفایل‌هایی که به‌نظر انسانی می‌آیند اما در واقع شخصیت‌های تولید شده توسط هوش مصنوعی هستند، ابراز کرده‌اند. این نشانه‌گذاری در بنرها، توصیف‌های پروفایل، نتایج جستجو و همچنین در پلی‌لیست‌ها قابل مشاهده خواهد بود.