هکرها راهکارهایی برای دور زدن واترمارکهای نامرئی Claude پیدا کردهاند.
آنتروپیک هفته گذشته اعلام کرد که برای رعایت قوانین جدید اتحادیه اروپا، واترمارکهای نامرئی را در محتوای تولید شده توسط هوش مصنوعی قرار میدهد. این واترمارکها برای شناسایی محتوای تولید شده توسط هوش مصنوعی طراحی شدهاند، اما تنها چند ساعت پس از این اعلام، راهکارهایی برای دور زدن این واترمارکها به صورت آنلاین تبلیغ شد.
بر اساس گزارشها، هکرها با استفاده از روشهای مختلف، از جمله تغییر جزئی در متن یا تصویر، توانستهاند واترمارکهای نامرئی را حذف کنند. این موضوع نشان میدهد که واترمارکهای نامرئی ممکن است به اندازه کافی امن نباشند و نمیتوانند به طور کامل از سوء استفاده از هوش مصنوعی جلوگیری کنند.
این یافتهها نگرانیهایی را در مورد اثربخشی واترمارکهای نامرئی به عنوان ابزاری برای مقابله با اطلاعات نادرست و محتوای مخرب ایجاد کرده است. برخی از کارشناسان معتقدند که واترمارکهای نامرئی تنها یک گام اولیه هستند و برای مقابله با چالشهای ناشی از هوش مصنوعی، به راهکارهای جامعتری نیاز است.
آنتروپیک هنوز به این موضوع واکنش نشان نداده است، اما انتظار میرود که در آینده نزدیک، راهکارهایی برای بهبود امنیت واترمارکهای نامرئی ارائه دهد.