واترمارک نامرئی چت‌جی‌پی‌تی برای تشخیص متن‌های تولیدشده با هوش مصنوعی
اوپن‌ای‌آی از سامانه «تکست‌گرین» برای افزودن نشانه‌های پنهانی به متن‌های چت‌جی‌پی‌تی استفاده می‌کند تا منشأ آن‌ها قابل‌بررسی باشد. این فناوری که هنوز کامل نیست، فعلاً فقط در اتحادیه اروپا فعال شده است.
اوپن‌ای‌آی اعلام کرده متن‌های چت‌جی‌پی‌تی از این پس شامل سیگنال‌های پنهانی خواهند بود که امکان بررسی منشأ متن را فراهم می‌کنند. این شرکت به‌تدریج «نهان‌نگاری متنی» (Watermarking) را راه‌اندازی می‌کند و برای این کار تغییرات ظریفی در نحوه انتخاب و چینش واژه‌ها می‌دهد. این تغییرات برای خوانندگان انسانی دیده نمی‌شود، اما سامانه‌های خودکار می‌توانند آن را تشخیص دهند. (نهان‌نگاری به داده‌ها و نشانه‌های پنهان یا آشکاری گفته می‌شود که برای حفظ حق مؤلف و شناسایی مالکیت به فایل‌های دیجیتال، از جمله متن، عکس، ویدیو و صوت، افزوده می‌شوند.)
این اقدام پس از آن انجام شد که آنتروپیک اعلام کرد فناوری مشابهی را به «کلود» اضافه می‌کند. این خبر اعتراض برخی کاربران را برانگیخت؛ آن‌ها مدعی بودند این فناوری قابل‌اعتماد نیست و دخالتی غیرضروری در کار سامانه است. هر دو شرکت این تغییر را مطابق قانون هوش مصنوعی اتحادیه اروپا اعمال کرده‌اند؛ قانونی که سازندگان محصولات هوش مصنوعی مولد را ملزم می‌کند خروجی‌هایشان را به‌گونه‌ای ارائه کنند که سامانه‌های خودکار بتوانند آن‌ها را شناسایی کنند. برخلاف آنتروپیک، اوپن‌ای‌آی این نهان‌نگاری را فقط در اتحادیه اروپا اضافه می‌کند.
اوپن‌ای‌آی سامانه خود را «تکست‌گرین» (textGrain) می‌نامد. این سامانه چیزی را که «سیگنال آماری نامرئی» می‌خواند، به شیوه انتخاب واژه‌ها در چت‌جی‌پی‌تی اضافه می‌کند. با این حال، شرکت هشدار داده این ابزار هنوز قابل اعتماد نیست و ممکن است متن انسانی را به‌اشتباه ماشینی تشخیص دهد و برعکس؛ به‌ویژه وقتی متن کوتاه یا ویرایش‌شده باشد.
منبع:
ایتنا