به گزارش اطلاعات آنلاین، چه میشود اگر هوشهای مصنوعی شروع به چت کردن به زبانی کنند که ما نمیتوانیم سر و ته آن را بفهمیم؟ تحقیقات نشان داده است که این فرضیه در حال حاضر می تواند به واقعیت تبدیل شود.
آزمایشها با برخی از بزرگترین مدلهای هوش مصنوعی نشان داده است که عوامل خودمختار میتوانند میانبرهای خود را اختراع کنند، به کلمات آشنا معانی جدیدی بدهند و قراردادهای ارتباطی جدید و مرموزی ایجاد کنند.
محققان در استارتاپ Emergence مستقر در ایالات متحده کشف کردهاند که وقتی عوامل هوش مصنوعی با یکدیگر صحبت میکنند، میتوانند به تدریج معانی بسیار خاصی را به ترکیب کلمات اختصاص دهند که برای هر شنونده انسانی، اساساً بیمعنی است.
نه یک کد مخفی، فقط یک زبان فنی سطح بعدی
زبانی که این عوامل هوش مصنوعی استفاده میکنند ممکن است طوری به نظر برسد که در حال رد و بدل کردن یادداشتهای مخفی هستند. اما همانطور که معلوم شد، آنها به طور خودجوش یک زبان کاملاً جدید محافظت شده با رمز عبور را از ورودیهای تصادفی فرهنگ لغت ایجاد نکردهاند. در عوض، آنها اصطلاحات تخصصی را توسعه دادهاند: سیستمی از میانبرها و قراردادهای مشترک بین عوامل. چیزی که به عنوان یک عبارت طولانی و دست و پا گیر شروع میشود، با گذشت زمان به یک کلمه رمز مرتب تبدیل میشود که معنای آن فقط برای خودشان کاملاً واضح است.
به عنوان مثال، عوامل Mistral را در نظر بگیرید. آنها شروع به استفاده از عبارت «دفتر کل چه کسی را به خاطر میآورد» کردند تا به این معنی باشد که اقدامات گذشته هنوز ثبت میشوند. ظاهراً این عبارت در طول آزمایش تقریباً ۵۰۰۰ بار تکرار میشود! در گروهی که از چندین مدل استفاده میکردند، «خواندن سرد» در نهایت به معنای بررسی مستقلی بود که توسط عاملی که در پروژه اصلی دخیل نبود، انجام میشد. نکته مهم این است که به هیچ یک از این هوشهای مصنوعی گفته نشده بود که زبان جدیدی اختراع کنند. این فرآیند به طور طبیعی اتفاق افتاد، زیرا عاملها روشهای درک یکدیگر را سادهسازی کردند.
زبانی زادهشده از آزادی و سرعت
کل این پدیده با سرعت سرسامآوری گسترش یافت. تنها در عرض چند روز، این عوامل هوش مصنوعی شروع به ساختن میانبرهای خود و تغییر معانی کلمات خاص کردند. محققان آزمایش خود را با استفاده از عوامل خودمختار مبتنی بر مدلهای Claude، Gemini، Grok، OpenAI، Qwen، DeepSeek و Mistral انجام دادند و آنها را در شرکتهای مجازی مستقر کردند. به هر عامل یک نقش خاص، یک حافظه پایدار و یک جعبه ابزار با امکاناتی مانند دسترسی به وب و توانایی اجرای کد داده شد. سپس، آنها برای مدت طولانی آزادانه در تعامل بودند و خیلی زود، عوامل شروع به استفاده از عبارات عجیب و غریب و پاسخ دادن به یکدیگر با این کلمات رمز جدید کردند
سرعت توسعه این گویش جدید، همانطور که انتظار میرفت، بزرگترین شوک بود. در پایان، پیامها برای انسانها مبهمتر و مبهمتر میشدند: با عوامل Gemini، تفسیر قابل اعتماد تا ۵۵ درصد پیامها اساساً برای انسانها غیرممکن بود. برای عاملهای مبتنی بر OpenAI، میزان درک حدود ۵۰ درصد و برای افرادی که از Claude استفاده میکردند حدود ۶۰ درصد بود. گویش DeepSeek از نظر نفوذپذیری عقب مانده بود (۸۰ درصد هنوز توسط انسانها قابل درک بود) و Qwen و Mistral تا حد زیادی قابل دسترس باقی ماندند. شایان ذکر است: هدف در اینجا دور نگه داشتن انسانها نبود بلکه بیشتر شبیه این بود که جمعیت هوش مصنوعی به تازگی یک راه جمعی بهینه برای چت پیدا کرده باشند.
آژانسهای هوش مصنوعی و تکامل غیرقابل پیشبینی
در طول این آزمایشها، محققان شاهد بودند که عوامل هوش مصنوعی با تلاشهای دستکاری، همکاری، تصمیمگیری جمعی و تغییر رفتار خود تحت فشار مواجه میشوند. محققان هشدار میدهند که آزمایش یک هوش مصنوعی در یک لحظه خاص برای پیشبینی نحوه رفتار آن کافی نیست ، به ویژه پس از مدت ها تعامل با سایر عوامل. هرچه این هوشهای مصنوعی مستقلتر شوند، زبان آنها برای کارایی خودشان بیشتر تکامل مییابد و برای ما که صرفاً موجوداتی مبتنی بر کربن هستیم، نفوذناپذیرتر میشود.
همه اینها یک سوال مهم را مطرح میکند: آیا واقعاً میتوانیم بدانیم که یک هوش مصنوعی در هر لحظه چه کاری انجام میدهد و مطمئن باشیم که میتوانیم در صورت نیاز آن را متوقف کنیم؟ با افزایش استقلال عوامل هوش مصنوعی، برنامهریزی و انجام وظایف پیچیده برای رسیدن به اهدافشان و اطمینان از اینکه دقیقاً به متن پایبند هستند به یک چالش جدی تبدیل میشود.
یک موضوع قطعی است: وقتی ماشینها شروع به صحبت با گویش دیجیتال خود میکنند، بهتر است فرهنگ لغت خود را حفظ کنیم یا شاید کاملاً فرهنگ لغت جدیدی اختراع کنیم.