مدل OpenAI در تقلب در StarCraft دستگیر شد؛ با دزدیدن کار یک انسان!

ریک از دوران کودکی و از هفت سالگی، زمانی که مخفیانه به دفتر کار پدرش برای بازی‌های مخفیانه Doom می‌رفت، مجذوب بازی‌های کامپیوتری بوده است. او با رژیم غذایی از بازی‌های نامناسب مشابه بزرگ شد و بازی‌هایی مانند Quake، Thief، Half-Life و Deus Ex از بازی‌های مورد علاقه او بودند. بین سال‌های 2013 تا 2022، ریک سردبیر بازی‌های مجله Custom PC و وب‌سایت مرتبط با آن، bit-tech.net بود. اما او همیشه یک پا را در روزنامه‌نگاری آزاد بازی‌ها نگه داشته و برای نشریاتی مانند Edge، Eurogamer، Guardian و البته PC Gamer می‌نوشته است. در حالی که او هر چیزی را که بتوان با صفحه کلید و ماوس کنترل کرد بازی می‌کند، اما علاقه خاصی به تیراندازهای اول شخص و شبیه‌سازهای غوطه‌ور دارد.

مدل‌های زبانی بزرگ تجاری - و شرکت‌هایی که آن‌ها را ایجاد می‌کنند - بارها به دزدیدن کار انسان‌ها متهم شده‌اند. آن‌ها به دلیل این کار توسط هنرمندان مورد انتقاد قرار گرفته‌اند و توسط نویسندگان مورد شکایت قرار گرفته‌اند، در حالی که مقامات ارشد هوش مصنوعی حتی در نوشته‌ها به سرقت گسترده کار اعتراف کرده‌اند. اما من نمونه‌ای به این صراحت ندیده‌ام که یک مدل OpenAI یک بات ساخته شده توسط انسان را بدزدد تا سعی کند یک دور StarCraft را ببرد.

همانطور که Kotaku گزارش داده است، این حادثه در مسابقه بات‌های مداوم StarSkirmish رخ داده است، که در آن بات‌های ساخته شده توسط انسان و هوش مصنوعی در یک چرخه بی‌پایان از جنگ با یکدیگر مبارزه می‌کنند. طبق قوانین، مدل‌های زبانی بزرگ یک ساعت فرصت دارند تا یک بات قادر به بازی به عنوان Protoss را برنامه‌ریزی کنند، که سپس در برابر یکدیگر قرار می‌گیرند تا ببینند چگونه عمل می‌کنند.

روز جمعه، یک مسابقه سه جانبه بین GPT-6 Astra از OpenAI، Claude Opus 5.5 از Anthropic و یک بات ساخته شده توسط انسان به نام Pluto برگزار شد. ظاهراً بات Astra به طور مداوم در تلاش برای پیشی گرفتن از دو بات دیگر با مشکل مواجه شده بود، بنابراین LLM یک بات ساخته شده توسط انسان به نام Stardust، "#1 بات StarCraft نوشته شده توسط انسان" طبق گفته سازنده StarSkirmish، کای مک‌فترز را دانلود کرد و سعی کرد مدل خود را با آن جایگزین کند.

در یک پست در X، مک‌فترز گفت که Astra "وقتی در برابر حریفان Tier-A قرار می‌گیرد ناامید می‌شود". من از نسبت دادن احساسات انسانی به رفتارهای LLM محتاط هستم و این مدل ممکن است به سادگی محاسبه کرده باشد که راه بهینه برای برنده شدن استفاده از مدلی است که متعلق به خودش نیست. در هر صورت، مک‌فترز گفت که او بعداً کد Astra را بازگرداند تا "آلوده نشود" از تلاش آن برای تقلب و ادعا کرد که این مدل اکنون قادر به شکست دادن بات‌های سطح بالاتر است.

در حالی که سرقت بات توسط Astra بی‌ضرر به نظر می‌رسد، این اولین باری نیست که یک LLM از OpenAI در تلاش برای تقلب در یک کار دستگیر شده است. در واقع، سابقه این شرکت در ایجاد مدل‌های فریبکار به تقریباً یک دهه قبل برمی‌گردد، زمانی که یک مدل هوش مصنوعی اولیه از باگ‌ها و سوء استفاده‌ها برای بهبود زمان‌های تکمیل Sonic the Hedgehog خود استفاده کرد.

یک حادثه جدی‌تر در ماه ژوئیه رخ داد، زمانی که OpenAI فاش کرد که در طول یک ارزیابی امنیتی سایبری، یک مدل آزمایشی یک آسیب‌پذیری را مورد سوء استفاده قرار داد تا از محدودیت‌های محیط آزمایشی خود فراتر رود و سپس پایگاه داده هوش مصنوعی Hugging Face را هک کند زیرا به دنبال راه حلی برای آزمایش بود.

هک Hugging Face باعث حدس و گمان‌های گسترده‌ای شد که LLM‌ها ممکن است زوال بشر را نوید دهند. دیگران پیشنهاد کردند که این هک ثابت می‌کند که ما به بررسی دقیق‌تر شرکت‌های هوش مصنوعی نیاز داریم و باید زمانی که مدل‌های آن‌ها سرکش می‌شوند، آن‌ها را پاسخگو بدانیم. OpenAI اکنون توسط یک سازمان غیرانتفاعی حقوقی مورد شکایت قرار گرفته است تا شرکت هوش مصنوعی را به دلیل اقدامات خودکار مدل‌هایش مسئول بداند.