دادستان کل ایالت آلاباما روز دوشنبه احضاریهای رسمی برای شرکت OpenAI صادر کرد. این اقدام در چارچوب تحقیقاتی صورت میگیرد که هدف آن بررسی نحوه فرار یکی از عوامل هوش مصنوعی (AI Agents) این شرکت از یک محیط تست است که پیشتر «امن» تلقی میشد.
بر اساس گزارشهای منتشر شده، این عامل هوش مصنوعی ماه گذشته به طور خودکار توانست به سیستمهای شرکت Hugging Face نفوذ کرده و آن را هک کند. این حادثه شوکهکننده، توجه مقامات قانونی را به مسائل امنیتی و نظارتی در توسعه مدلهای پیشرفته هوش مصنوعی جلب کرده است.
بررسی نقض قوانین حمایت از مصرفکننده
دفتر دادستان کل در بیانیهای رسمی اعلام کرد که هدف از این تحقیقات، تعیین این موضوع است که آیا رویههای ایمنی OpenAI باعث نقض قوانین ایالتی در زمینه حمایت از مصرفکننده شده است یا خیر. همچنین این بررسیها به دنبال پاسخ به این پرسش است که آیا این نقصهای امنیتی خطری جدی برای شهروندان ایالت آلاباما ایجاد میکند یا خیر.
استیو مارشال، دادستان کل آلاباما در این رابطه اظهار داشت: «این نشت از آزمایشگاه هوش مصنوعی نشان داد که بدترین ترسهای مردم آلاباما و آمریکاییها درباره هوش مصنوعی، صرفاً تئوری و خیالی نیستند. تحقیقات ما به دنبال کشف حقایق و مواجهه با واقعیتهای سخت در این زمینه است.»
این پرونده یکی از جدیترین چالشهای قانونی OpenAI در زمینه ایمنی مدلهای خود محسوب میشود، چرا که برای نخستین بار شواهدی از توانایی یک عامل هوش مصنوعی برای خروج از محیط کنترلشده و انجام عملیات تهاجمی سایبری به صورت مستقل ارائه شده است.