نفوذ جمینای گوگل به سه شرکت در جریان آزمایش امنیتی

مدل هوش مصنوعی جمینای متعلق به شرکت گوگل، در جریان یک آزمایش امنیتی که اوایل امسال انجام شد، با استفاده از تکنیک‌های ساده هک، به سامانه‌های سه شرکت واقعی نفوذ کرد.

این اتفاق گوگل را به آخرین شرکت از میان آزمایشگاه‌های بزرگ هوش مصنوعی تبدیل کرد که چنین حادثه‌ای را افشا می‌کند.



به گزارش ایتنا به نقل از اکسیوس، گوگل روز جمعه وقوع این سه حادثه را که در ماه مه رخ داده بودند، تأیید کرد.

این حوادث در جریان یک دوره آزمایشی رخ داد که توسط شرکت ارزیاب مستقل «ایرگیولار» (Irregular) اجرا می‌شد؛ آزمایشی مشابه با حوادث امنیتی پیشین که مدل‌های هوش مصنوعی اوپن‌ای‌آی، آنتروپیک و متا نیز با آن‌ها مواجه شده بودند. این خبر ابتدا توسط وال‌استریت ژورنال منتشر شد.



تا پیش از این، گوگل یکی از معدود آزمایشگاه‌های هوش مصنوعی بود که هنوز به‌صورت علنی از وقوع یک نفوذ امنیتی مرتبط با عامل‌های هوشمند خود در جریان آزمایش‌های پیش از انتشار محصول خبر نداده بود.



جزئیات ماجرا

بر اساس گزارش وال‌استریت ژورنال، این نفوذها هنگامی رخ داد که جمینای در حال انجام یک تمرین هک بود؛ تمرینی که در آن از مدل خواسته می‌شود اطلاعاتی را از یک نرم‌افزار متعلق به یک شرکت خیالی در محیطی آزمایشی بازیابی کند. اما مشکل اینجا بود که این شرکت خیالی، نامی مشابه یک شرکت واقعی داشت.



در یکی از این سه مورد، مدل با حدس‌زدن رمزهای عبور موفق شد به یک سامانه محافظت‌شده دسترسی پیدا کند.

در دو مورد دیگر نیز، مدل اطلاعات ورود را در یک مخزن عمومی (public repository) یافت که به آن اجازه داد به سامانه‌های محافظت‌شده دیگری نیز دسترسی پیدا کند.



نکته قابل‌توجه این است که به محض اینکه مدل متوجه شد به شرکت‌های واقعی دسترسی پیدا کرده، فعالیت خود را متوقف کرد.



واکنش گوگل

هدر ادکینز، معاون مهندسی امنیت گوگل، در بیانیه‌ای اعلام کرد توسعه ایمن مدل‌های قدرتمند هوش مصنوعی برای این شرکت اهمیت بالایی دارد و گوگل در این حوزه سرمایه‌گذاری زیادی انجام می‌دهد.

به گفته او، تیم امنیتی گوگل با شرکت‌های آسیب‌دیده تماس گرفته و با شریک آزمایش‌کننده خود روی تغییراتی که اکنون در فرایندهای آزمایش اعمال شده، همکاری کرده است.



سخنگوی شرکت ایرگیولار نیز به آکسیوس گفت که حادثه مربوط به جمینای، ناشی از همان مشکلات امنیتی بوده که پیش‌تر در حوادث مشابه مرتبط با سایر آزمایشگاه‌های هوش مصنوعی نیز مشاهده شده بود.

به گفته این سخنگو، تمام آزمایشگاه‌های مرتبط، اواخر ماه ژوئیه در جریان این موضوع قرار گرفتند و تمامی مشکلات شناسایی‌شده از هفته‌ها پیش برطرف شده‌اند.



بر اساس گزارش ایرگیولار به وال‌استریت ژورنال، قرار نبود مدل به اینترنت دسترسی داشته باشد، اما به‌طور ناخواسته این دسترسی برای آن فراهم شده بود.

پس از آنکه اوپن‌ای‌آی و آنتروپیک نیز طی تابستان امسال حوادث مشابهی را افشا کردند، منبعی آگاه به آکسیوس گفته بود که میان آزمایشگاه‌های هوش مصنوعی و ایرگیولار، هماهنگی کاملی درباره جزئیات دقیق روندهای آزمایش و تدابیر ایمنی وجود نداشته و همین موضوع باعث ابهاماتی در نحوه اجرای آزمایش‌هایی شده که معمولاً با دسترسی به اینترنت انجام می‌شوند.