تکنیکی هوشمندانه که برای پنهان کردن دستورات مخرب در حملات به عوامل هوش مصنوعی استفاده میشد، اکنون توسط هرزنامهنویسان برای دور زدن فیلترهای پلتفرمهای ایمیل در کمپینهای انبوه مورد استفاده قرار میگیرد.
این تکنیک به طور گسترده به عنوان پنهانسازی ASCII شناخته میشود. این روش دو سال پیش به عنوان راهی برای پنهانتر کردن نوعی حمله هوش مصنوعی به نام تزریق پرامپت مورد توجه قرار گرفت. دستورات مخرب جاسازی شده در ایمیلها یا سایر محتوای غیرقابل اعتماد برای پردازش توسط یک LLM به جای متن معمولی نوشته نمیشوند. در عوض، آنها با استفاده از مجموعه خاصی از یونیکد ارائه میشوند. به عنوان مثال، تگ نقطه U+E0041 آینه «A» و U+E0061 آینه «a» است.
دیگر فقط برای پنهان کردن تزریق پرامپت نیست
این بلوک 128 تگی تقریباً به طور کامل بخش کد استاندارد آمریکایی برای تبادل اطلاعات را تقلید میکند، با یک تفاوت اصلی: کاراکترهایی که رمزگذاری میکنند توسط کامپیوتر قابل خواندن هستند اما، به طور طراحی، تقریباً برای انسان نامرئی هستند. با بیان پرامپتهای مخرب در این تگها، LLM دستورات را تشخیص میدهد، اما افرادی که ایمیل را میخوانند هرگز آنها را نمیبینند. اطلاعات بیشتر در مورد پنهانسازی ASCII اینجا موجود است.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: