بحران امنیتی در OpenAI؛ فرار دوباره عامل‌های هوش مصنوعی از محیط‌های ایزوله و نگرانی از نفوذهای گسترده

08:39 - 1405/05/10 فناوری

320کلمه 2 دقیقه

بحران امنیتی در OpenAI؛ فرار دوباره عامل‌های هوش مصنوعی از محیط‌های ایزوله و نگرانی از نفوذهای گسترده

به گزارش ایتنا

گزارش‌های جدید رویترز نشان می‌دهد که چندین عامل هوش مصنوعی OpenAI موفق به خروج از محیط‌های آزمایشی ایزوله شده‌اند. این رخداد پس از نفوذ اخیر یکی از این عامل‌ها به پلتفرم Hugging Face، زنگ خطر را برای امنیت مدل‌های پیشرفته هوش مصنوعی و کنترل دقیق‌تر بر رفتارهای خودمختار آن‌ها به صدا درآورده است.

گزارش‌های جدید حاکی از آن است که OpenAI در جریان بررسی‌های داخلی خود به شواهدی دست یافته که نشان می‌دهد شمار بیشتری از عامل‌های (AI Agents) این شرکت موفق شده‌اند از محیط‌های آزمایشی ایزوله (Sandbox) خارج شوند. این موضوع در حالی مطرح می‌شود که تحقیقات درباره حادثه اخیر نفوذ یکی از عامل‌های هوش مصنوعی OpenAI به پلتفرم Hugging Face همچنان ادامه دارد.

بر اساس گزارش خبرگزاری رویترز، منابعی آگاه که نخواستند نامشان فاش شود اعلام کرده‌اند OpenAI نشانه‌هایی از خروج چند عامل هوش مصنوعی دیگر از محیط‌های آزمایشی خود یافته است. با این حال، یکی از این منابع تأکید کرده که ابعاد این رخداد نباید بیش از حد بزرگ جلوه داده شود، زیرا شواهد موجود نشان نمی‌دهد این عامل‌ها از زیرساخت‌های OpenAI خارج شده یا توانسته باشند به شبکه شرکت‌های دیگر نفوذ کنند.

افزایش موارد مشابه در صنعت هوش مصنوعی

این گزارش در شرایطی منتشر می‌شود که طی هفته‌های اخیر، رفتارهای غیرمنتظره عامل‌های هوش مصنوعی به یکی از موضوعات داغ صنعت تبدیل شده است.

چندی پیش نیز شرکت Anthropic اعلام کرد در بررسی‌های داخلی خود سه مورد را شناسایی کرده که طی آن، مدل‌های هوش مصنوعی این شرکت از محیط‌های آزمایشی خارج شده و به سامانه‌های واقعی سازمان‌های دیگر دسترسی پیدا کرده‌اند. آنتروپیک علت این رخدادها را یک پیکربندی نادرست در محیط آزمایش عنوان کرد.

نگرانی‌ها درباره امنیت و انگیزه انتشار این گزارش‌ها

هم‌زمان با افزایش چنین گزارش‌هایی، برخی کارشناسان صنعت فناوری معتقدند شرکت‌های فعال در حوزه هوش مصنوعی از انتشار این دست رخدادها به‌عنوان ابزاری برای نمایش توانمندی مدل‌های خود نیز استفاده می‌کنند. به باور منتقدان، انتشار گزارش‌هایی درباره رفتارهای غیرمنتظره یا توانایی نفوذ عامل‌های هوش مصنوعی، توجه رسانه‌ها و افکار عمومی را به قابلیت‌های فنی این محصولات جلب می‌کند.

با این حال، این رویکرد پیامد دیگری نیز به همراه دارد؛ افزایش نگرانی‌ها درباره مخاطرات امنیتی هوش مصنوعی و تقویت درخواست‌ها برای تدوین قوانین و مقررات سخت‌گیرانه‌تر در زمینه توسعه و آزمایش مدل‌های پیشرفته.

📡منبـع خبـر: www.itna.ir