منو

صفحه اصلی

اخبار

تقلب معکوس در عصر هوش مصنوعی؛ نویسندگان برای فرار از تشخیص متون تولید شده، اشتباهات عمدی ایجاد می‌کنند

نویسندگان برای جلوگیری از شناسایی متون خود به عنوان تولید شده توسط هوش مصنوعی، عمداً غلط‌های املایی و نگارشی و زبان عامیانه به نوشته‌های خود اضافه می‌کنند.

به گزارش اطلاعات آنلاین به نقل از وال‌استریت ژورنال، سارا سوزوکی هاروارد به عنوان یک نویسنده حرفه‌ای می‌گوید تمایلی به نثر بیش از حد پرشور ندارد. اما این روزها می‌بیند که دارد راه متفاوتی را در پیش می‌گیرد.

هاروارد، کپی‌رایتر ۳۲ ساله اهل بروکلین، درباره پست‌ها و مقالات خود گفت: «من از زبان به شدت عامیانه استفاده می‌کنم، مثل "هی بابا، جدی میگم"، یا کلی علامت تعجب می‌گذارم. انجام این کار خیلی تهوع‌آور به نظر می‌رسد، اما این چیزی است که برای انسانی به نظر رسیدن باید انجام دهید.»

همان‌طور که نوشته‌های تولیدشده توسط هوش مصنوعی اینترنت را فرا می‌گیرند، افراد بیشتری تلاش می‌کنند تا تشخیص دهند کدام خالقان محتوا از چنین ابزارهایی برای تولید متن استفاده می‌کنند. این یعنی نویسندگانی که تمام کارهای خود را شخصاً می‌نویسند -و افرادی که اعتراف می‌کنند برای کمک از چت‌بات‌ها استفاده می‌کنند- در حال تلاش برای تسلط بر چیزی هستند که هرگز نگران آن نبودند: چگونه انسانی به نظر برسیم.

مانند بسیاری از نویسندگان، هاروارد از این می‌ترسد که به استفاده از مطالب ماشینی متهم شود. او دیده‌ است که این اتفاق برای دیگران افتاده و به طور پیشگیرانه تلاش می‌کند تا اصالت انسانی خود را ثابت کند.

هاروارد گفت: «این مثل مک‌کارتیسم جدید است. واقعاً دیوانه‌کننده است. مردم می‌خواهند چیزی را اثبات کنی که قابل اثبات نیست.»

هوش مصنوعی نویسنده قابلی است زیرا بر اساس حجم عظیمی از نوشته‌های انسانی، از شاهکارهای ادبی گرفته تا مقالات نظری معاصر، آموزش دیده است. مدل‌ها همچنین آموزش دیده‌اند که واضح باشند و از پیچیدگی‌های غیرضروری اجتناب کنند؛ اهدافی که به طور مشهوری در کتاب «عناصر سبک» اثر استرانک و وایت تثبیت شده است. اما صیقل بیش از حد می‌تواند نشانه‌دهنده باشد، همان‌طور که استفاده مکرر از آرایه‌ها می‌تواند چنین باشد.

جنجال بر سر استفاده نویسندگان از هوش مصنوعی باعث ایجاد سرتیترهای خبری منظم شده است، از جمله در ماه مارس که ناشر هاشت (Hachette) کتاب «دختر خجالتی» را به دلیل ادعاهایی مبنی بر اینکه تا حدی توسط هوش مصنوعی ساخته شده است، از بازار جمع‌آوری کرد. (نویسنده گفت که شخصاً از هوش مصنوعی استفاده نکرده است.) مدارس و معلمان سال‌هاست که از نرم‌افزارهای تشخیص هوش مصنوعی برای مچ‌گیری دانش‌آموزانی که کارها را از سر باز می‌کنند استفاده می‌کنند، که اغلب با موفقیت‌های متفاوتی همراه بوده است.

صف‌آرایی کارآگاهان آماتور نیز هم‌زمان با استقبال آمریکایی‌ها از هوش مصنوعی برای انواع کارهای نوشتاری، از توصیه‌نامه‌ها گرفته تا نامه‌های لینکدین، رشد کرده است. سوءظن‌ها مکرراً در ساب‌ردیت شلوغ «isthisAI» سر بر می‌آورند.

گرت مارسی معتقد است که می‌تواند سبک اختصاصی هوش مصنوعی را تشخیص دهد. این هماهنگ‌کننده حساب‌های مالی در جکسونویل به دنبال ریتم جملات متمایز، استفاده سنگین از خط تیره بلند (—) یا عباراتی مانند «این ایکس نیست، بلکه وای است» می‌گردد.

یکی دیگر از نشانه‌های لودهنده

افرادی که ناگهان به صورت آنلاین پرحرف می‌شوند. مارسی ۲۸ ساله گفت: «بچه‌هایی را از کالج می‌شناسم که نمی‌توانستند یک مقاله بنویسند، و حالا انگار قرار است تز دکترای خودشان را بنویسند.»

او که درباره کار با هوش مصنوعی تعصب ندارد می‌از هوش مصنوعی برای کمک به ساختن نوشته‌هایش استفاده می‌کند، سپس آن را ویرایش می‌کند تا صدای خودش حفظ شود. مارسی خط تیره بلند را حذف می‌کند و گاهی جملات خودش را جایگزین می‌کند، حتی با وجود اینکه می‌داند به سمت جملات طولانی و به هم پیوسته تمایل دارد. او حتی یک غلط املایی تصادفی را هم باقی می‌گذارد.

مارسی گفت: «من بی‌گناه نیستم، همه ما از این چیزها استفاده می‌کنیم. اگر به شما کمک می‌کند یک ایمیل بنویسید، این ‌دزدی محسوب نمی‌شود.»

شان چو ۵۴ ساله اهل شیکاگو، یکی از بنیان‌گذاران چندین استارتاپ فناوری از جمله یک شرکت هوش مصنوعی در سال گذشته، از هوش مصنوعی برای پیش‌نویس کردن پست‌های لینکدین استفاده می‌کند. اما او گفت که خطوط تیره بلند را با دو خط تیره کوچک‌تر جایگزین می‌کند، به این امید که دست‌سازتر به نظر برسند.

چو گفت: «این مثل هنر دست‌ساز من است.»

او تلاش می‌کند اظهارات بیش از حد شجاعانه را هم مهار کند. او گفت: «مدل‌های زبانی بزرگ محتوای خود را از رونوشت‌های سخنرانی‌های تد (TED) و نظرات ردیت به دست می‌آورند، بنابراین در آنجا یک سوگیری خودگزینشی وجود دارد، و تمایل دارد بسیار مطمئن به نظر برسد.»

اندی اوبراین، که یک گروه آنلاین برای کارآفرینان علاقه‌مند به هوش مصنوعی تاسیس کرده است، گفت او دیده است که افراد بیشتری تلاش می‌کنند نثر تولید شده توسط هوش مصنوعی را با غلط‌های املایی یا جملات طولانی خش‌دار کنند.

اوبراین ۶۲ ساله گفت: «شما در حال خواندن ساب‌استک یا پست وبلاگ کسی هستید، و ناگهان در میان یک پاراگراف عالی، اشتباهی وجود خواهد داشت که مانند یک خار در چشم خودنمایی می‌کند. آدم با خود می‌گوید، بیشتر تلاش کن.»

ایوان جکسون ۲۷ ساله، بنیان‌گذار استارتاپی به نام رایت‌هیومن (Writehuman) گفت که با پیشرفت مدل‌های هوش مصنوعی، فهمیدن اینکه چه چیزی توسط ربات‌ها نوشته شده سخت‌تر شده است. نرم‌افزار شرکت او متن‌های تولید شده توسط هوش مصنوعی را ویرایش می‌کند تا با به‌روزرسانی‌های ماهانه برای ثبت روندها، انسانی‌تر به نظر برسد.

تحلیل‌های آن نشان می‌دهد که نشانه‌های فعلی شامل وابستگی بیش از حد به عباراتی مانند «به جای» (rather than) و «ضروری برای» (essential for) است. در عین حال، جکسون گفت متونی که توسط انسان‌ها بازنویسی شده‌اند، به طور فزاینده‌ای توسط دستگاه‌های تشخیص هوش مصنوعی علامت‌گذاری می‌شوند؛ روندی که او آن را به این نسبت می‌دهد که افراد ناخودآگاه شروع به کپی کردن سبک هوش مصنوعی می‌کنند.

دو سال پیش در گرند رپیدز، میشیگان، رایان جانسون ۳۳ ساله وبلاگی را برای کمک به تبلیغ کسب‌وکار خود در زمینه مشاوره به خانواده‌های جوان پردرآمد راه‌اندازی کرد. چند ماه بعد، او استفاده از هوش مصنوعی را برای پیش‌نویس کردن پست‌های خود آغاز کرد. به عنوان کسی که در رشته روزنامه‌نگاری تحصیل کرده بود، همیشه نوشتن را دوست داشت، اما کارایی بالای چت‌جی‌پی‌تی به سختی قابل چشم‌پوشی بود.

با این حال، او پاییز گذشته استفاده از آن را متوقف کرد، نگران از اینکه خروجی آن چیزی را که زمانی باعث می‌شد وبلاگش متمایز به نظر برسد، از بین می‌برد. او گفت: «این مثل رستورانی است که شروع به آبکی کردن سوپ می‌کند. مردم بلافاصله بیرون نمی‌روند، اما در نهایت می‌گویند، آه، این دیگر آن طعم قبلی را ندارد.»

او دوست دارد متن خود را با ارجاعاتی که هوش مصنوعی پیشنهاد نمی‌کند، از جمله نقل‌قول‌های مبهم از سریال‌های تلویزیونی، پر کند. با این حال، او هنوز پیام‌هایی دریافت می‌کند که می‌پرسند آیا از هوش مصنوعی استفاده می‌کند یا خیر.

جانسون گفت: «چند روز پیش داشتم کتاب مقدس را می‌خواندم، و خطوط تیره بلندی در کتاب یعقوب وجود داشت، و با خود گفتم، هوم، آیا این توسط هوش مصنوعی تولید شده است؟ و این خنده‌دار است، البته که نه، نویسندگان خوب این کار را می‌کنند، پس بیایید آرام باشیم.»

#متن #نوشتن #تقلب #وال استریت ژورنال #هوش مصنوعی
منبع: اطلاعات آنلاین