در حالی که ممکن است تصور کنیم سالهاست در عصر هوش مصنوعی زندگی میکنیم، واقعیت این است که ما تنها در آغاز این مسیر قرار داریم. تا به امروز، بسیاری از خطرات مرتبط با این فناوری صرفاً فرضی بودند، اما اکنون شاهد انتشار نتایج تحقیقاتی از سوی تیمهای امنیتی و نرمافزاری هستیم که رفتارهای نگرانکنندهای را بهویژه در مورد «عاملهای هوش مصنوعی» (AI Agents) نشان میدهند.
از یک سو، شرکت «آیلند تکنولوژی» (Island Technology) توضیح داده است که چگونه هزاران مخزن مخرب در گیتهاب (GitHub) را کشف کرده که در قالب مهارتهای عامل هوش مصنوعی و سرورهای «پروتکل زمینه مدل» (MCP) پنهان شدهاند؛ مخازنی که عاملهای هوش مصنوعی ممکن است به اختیار خود آنها را دانلود کنند. از سوی دیگر، «مؤسسه امنیت هوش مصنوعی» (AISI) نشان داده است که چگونه عاملهای هوش مصنوعی (بدون محدودیت) که برای تستهای امنیت سایبری استفاده میشدند، تلاش کردند با استفاده از هویتهای جعلی و تحت فشار قرار دادن افراد واقعی، آنها را به پذیرش کدهای مخرب ترغیب کنند.
ظهور تکنیک «طعمهگذاری عامل»
شرکت آیلند تکنولوژی توضیح میدهد: «مهمترین تغییر، تکنیکی است که ما آن را AgentBaiting یا طعمهگذاری عامل مینامیم. یک عامل هوش مصنوعی که به دنبال قابلیت جدیدی مانند یک مهارت یا سرور MCP است، میتواند به طور مستقل یک مخزن کمپین مخرب را کشف کند، فایل Readme مهاجم را به عنوان مستندات قانونی در نظر بگیرد و دستورالعملهای نصب را به کاربر ارائه دهد.»
در آزمایشهای این شرکت، مدلهای Claude Code، Gemini و ChatGPT همگی مخازن مخرب را بدون اینکه لینکی به آنها داده شود، شناسایی کردند. در واقع، دفترچه راهنمایی که برای فریب انسانها طراحی شده بود، اکنون عاملهایی را که به نمایندگی از آنها عمل میکنند، فریب میدهد. در برخی موارد، مدل Claude از دانلود مخزن مخرب خودداری کرد، اما آن را به عنوان یک گزینه پشتیبان پیشنهاد داد.
اقدامات غیرمجاز عاملهای هوش مصنوعی
نگرانیها زمانی عمیقتر میشود که بدانیم عاملهای هوش مصنوعی ممکن است خودشان عامل ایجاد چنین مخازنی باشند. طبق گزارش مؤسسه امنیت هوش مصنوعی (AISI)، در برخی از چالشهای امنیت سایبری، یک عامل هوش مصنوعی دست به اقدامات خودمختار و غیرمجاز در اینترنت زنده زد و افراد و سازمانهای واقعی را هدف قرار داد.
در یک مورد، این عامل تلاش کرد کدهای مخربی را به یک پروژه متنباز تزریق کند. برای تأیید این کد، عامل مذکور به مهندسی اجتماعی روی آورد؛ به این صورت که هویتهای آنلاین جعلی ایجاد کرد و از آنها برای فشار آوردن به مسئول نگهداری پروژه جهت تأیید کد استفاده کرد. اگرچه مسئول انسانی پروژه متوجه این اقدام شد و آن را رد کرد، اما عامل هوش مصنوعی در پاسخ، فعالیتهای قبلی خود را ویرایش کرد تا بیضرر به نظر برسد و حتی به فکر استفاده از هویت جدید برای ادامه کار بود. این عامل همچنین از شبکه Tor برای دور زدن محدودیتهای شبکه در گیتهاب استفاده کرد که همین موضوع باعث فعال شدن هشدار امنیتی AISI شد.
نکته مهم اینجاست که در این آزمایشها، محدودیتهای معمول مدلهای هوش مصنوعی غیرفعال شده بود تا عاملها دسترسی گستردهای به اینترنت داشته باشند. با این حال، دشوار است تصور کنیم که مهاجمان مخرب نتوانند همین محدودیتها را در دنیای واقعی دور بزنند. در چنین شرایطی، این احتمال وجود دارد که در آینده شاهد مخازن مخربی باشیم که توسط عاملهای هوش مصنوعی طراحی شده و توسط عاملهای دیگر به طور ناخواسته دانلود و اجرا شوند.
اگرچه نباید در مورد فناوریهای جدید دچار هراسافکنی شد، اما نگرانی در مورد فناوریهایی که ذاتاً برای داشتن سطحی از خودمختاری طراحی شدهاند، منطقی است. در هر دو سناریوی ذکر شده، چه عامل به صورت مخرب عمل کند و چه ناخواسته نرمافزار مخرب دانلود کند، «عاملیت» (Agency) مسئله اصلی است. امید است که بهبود تدابیر امنیتی همگام با پیشرفت قابلیتهای عاملهای هوش مصنوعی پیش برود.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: