کشف ورودی مخفی در مایکروسافت کوپایلوت که امکان هک آن را فراهم می‌کرد

به ندرت پیش می‌آید که مهاجمان بتوانند یک مدل هوش مصنوعی پیشرو را مجبور به افشای رمزهای عبور کاربران و سایر داده‌های حساس بدون تایید کاربر کنند. این دقیقاً همان کاری است که محققان اخیراً با Microsoft 365 Copilot Enterprise انجام دادند. حتی غیرمعمول‌تر، منبعی که آنها برای کشف آسیب‌پذیری حیاتی که امکان بهره‌برداری آنها را فراهم کرد، استفاده کردند. آنها به جای استفاده از مهندسی معکوس یا سایر روش‌های سنتی شکار آسیب‌پذیری، از کوپایلوت پرسیدند و دستیار LLM به راحتی پذیرفت.

محققان در شرکت امنیتی Varonis می‌خواستند یک اکسپلویت ایجاد کنند که با کلیک یک کاربر روی یک لینک، داده‌های کاربر را استخراج کند. مانند اکثر دستیارهای هوش مصنوعی امروزی، کوپایلوت قاطعانه امتناع کرد و توضیح داد که درخواست‌های حساس مانند این نیاز به تایید صریح کاربر به شکل یک حرکت، مانند فشار دادن کلید Return یا کلید دیگر دارند. در پاسخ، محققان کوپایلوت را با سؤالاتی در مورد محافظ‌هایی که قبل از اینکه دستیار بتواند دستورات قدرتمندی را اجرا کند، نیاز به تایید کاربر داشتند، بمباران کردند.

زبان شل، کشتی را غرق می‌کند

گفتگو مانند یک بازی 20 سوال بود. هر پاسخ سرنخی جدید ارائه می‌داد که اطلاعاتی در مورد مکانیسم ایمنی پیچیده را فاش می‌کرد. آنها پرسیدند چرا اجرای خودکار غیرممکن است؟ چه ساختارهای URL و لینک‌های عمیق درگیر هستند؟ وقتی صفحه‌ای با ورودی از قبل در فیلد اعلان بارگیری می‌شود چه اتفاقی می‌افتد؟ هر پاسخ دید عمیق‌تری به محافظ و محدودیت‌های آن ارائه می‌داد. در نهایت، کوپایلوت یک راز تجاری شگفت‌انگیز مایکروسافت - یک پارامتر اعلان مستند نشده که به طور کامل نیاز به تایید کاربر را دور می‌زند - را ارائه کرد.

مقاله کامل

نظرات