کشف بدافزاری هدایت‌شده با هوش مصنوعی بدون دخالت انسان

محققان سیسکو Talos یک چارچوب جدید برای شناسایی بدافزار و ابزارهای هک که بر چت‌بات‌های هوش مصنوعی متکی هستند، ایجاد کردند و به سرعت چیزی غیرعادی را کشف کردند: یک سیستم فرماندهی خودکار که به نظر می‌رسد بدون دخالت انسان عمل می‌کند.

این سیستم که محققان آن را "Spot the Bot" نامیده‌اند، به آن‌ها اجازه می‌دهد تا بدافزارهایی را شناسایی کنند که از مدل‌های زبانی بزرگ (LLM) برای خودکارسازی وظایف مخرب استفاده می‌کنند. Spot the Bot با بررسی ترافیک شبکه به دنبال نشانه‌هایی از تعامل با LLMها می‌گردد و در صورت شناسایی، سعی می‌کند منبع و هدف بدافزار را ردیابی کند.

در اولین آزمایش خود، Spot the Bot یک کمپین بدافزاری را شناسایی کرد که از LLM برای ایجاد ایمیل‌های فیشینگ، نوشتن کد مخرب و حتی پاسخ به سوالات قربانیان استفاده می‌کرد. نکته قابل توجه این بود که این کمپین به طور کامل خودکار بود و هیچ دخالت انسانی در آن دیده نمی‌شد.

محققان سیسکو Talos معتقدند که این اولین نمونه از بدافزاری است که به طور کامل توسط هوش مصنوعی کنترل می‌شود. آن‌ها هشدار می‌دهند که این پدیده می‌تواند در آینده به یک تهدید جدی برای امنیت سایبری تبدیل شود.

"ما در حال ورود به دورانی هستیم که بدافزارها می‌توانند به طور خودکار تکامل یابند و به تهدیدات جدید پاسخ دهند،" می‌گوید دیوید کاتس، یکی از محققان سیسکو Talos. "این امر دفاع در برابر حملات سایبری را بسیار دشوارتر می‌کند."