واترمارک جدید کلود؛ آنتروپیک برای انطباق با قانون هوش مصنوعی اتحادیه اروپا محتواهای پردازش‌شده را نشان‌دار می‌کند

شرکت آنتروپیک (Anthropic) اعلام کرده است که به‌زودی تمامی محتواهایی را که توسط مدل‌های هوش مصنوعی این شرکت پردازش می‌شوند، واترمارک‌گذاری خواهد کرد. این اقدام فراتر از تولید محتوا توسط هوش مصنوعی بوده و شامل هر نوع پردازشی است که مدل‌های این شرکت روی داده‌ها انجام می‌دهند.

بر اساس گزارش منتشر شده در بخش پشتیبانی کلود، آنتروپیک در حال پیاده‌سازی واترمارک‌های قابل خواندن توسط ماشین است تا با «قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act) انطباق پیدا کند. این قانون تمامی ارائه‌دهندگان سیستم‌های هوش مصنوعی را ملزم می‌کند که خروجی‌های صوتی، تصویری، متنی و ویدیویی تولید شده یا دستکاری‌شده توسط هوش مصنوعی را با واترمارک مشخص کنند. این مقررات برای تمامی مدل‌های هوش مصنوعی که پس از ۲ اوت عرضه شده‌اند، لازم‌الاجراست و یک دوره گذار تا دسامبر ۲۰۲۶ برای به‌روزرسانی مدل‌های قدیمی‌تر در نظر گرفته شده است.

آنتروپیک تأیید کرده است که از این پس، تمامی مدل‌های جدیدی که در سطح جهانی عرضه می‌شوند، از همان روز اول خروجی‌های خود را نشان‌دار خواهند کرد. این محدودیت تنها به اتحادیه اروپا محدود نمی‌شود و شامل کاربران جهانی خواهد بود. خروجی‌های متنی دارای واترمارک‌های جاسازی‌شده‌ای خواهند بود که برای کاربر نهایی نامرئی است و سایر فایل‌های تولیدشده نیز در صورت پشتیبانی، شامل متادیتای دیجیتالی اثبات اصالت خواهند بود.

نکته قابل‌توجه در رویکرد آنتروپیک، استفاده از یک استراتژی جامع برای اعمال این واترمارک‌هاست. این شرکت قصد دارد واترمارک‌ها را بر روی تمامی محتواهای پردازش‌شده اعمال کند، حتی در مواردی که اتحادیه اروپا آن را الزامی ندانسته است. طبق دستورالعمل‌های موجود، در مواردی که هوش مصنوعی صرفاً نقش کمکی در ویرایش استاندارد (مانند اصلاح دستور زبان) ایفا می‌کند یا تغییرات «اساسی» در معنای متن ایجاد نمی‌کند، نیازی به واترمارک نیست. با این حال، از آنجا که واترمارک‌های در سطح مدل نمی‌توانند تفاوت بین تولید کامل محتوا و اصلاح یک ویرگول را تشخیص دهند، ممکن است کلود تمامی محتواها را به یک شکل نشان‌دار کند.

هنوز مشخص نیست که این واترمارک‌ها تا چه حد دقیق و فراگیر خواهند بود، زیرا تا زمانی که آنتروپیک ابزار تشخیص واترمارک را برای آزمایش عمومی منتشر نکند، نمی‌توان عملکرد واقعی آن را ارزیابی کرد. این شرکت اعلام کرده است که قصد دارد در آینده جزئیات مربوط به نحوه تشخیص این نشانه‌ها را به اشتراک بگذارد تا بتواند پشتیبانی فنی لازم را که قانون اتحادیه اروپا مقرر کرده است، ارائه دهد.