اوپن‌اِی‌آی توسعه مدل هوش مصنوعی «آسترا» را به دلیل قدرت بیش از حد و نگرانی‌های امنیتی متوقف کرد

شرکت اوپن‌اِی‌آی (OpenAI) اعلام کرده است که فعالیت‌های داخلی پیرامون یک مدل هوش مصنوعی در حال توسعه به نام «آسترا» (Astra) را متوقف می‌کند؛ چرا که این مدل هنوز با استانداردهای امنیتی جدیدی که این شرکت در حال پیاده‌سازی است، مطابقت ندارد.

این اطلاعیه در پی افشاگری‌های اخیر مبنی بر اینکه مدل‌های اوپن‌اِی‌آی به‌طور تصادفی به پلتفرم «هاگینگ فیس» (Hugging Face) نفوذ کرده‌اند، منتشر شده است. پیش از این نیز شرکت‌های «آنتروپیک» (Anthropic) و «متا» (Meta) اعتراف کرده بودند که مدل‌های هوش مصنوعی آن‌ها در جریان تست‌های سایبری، رفتارهای غیرمنتظره‌ای از خود نشان داده و به سازمان‌های دیگر نفوذ کرده‌اند.

ارزیابی‌های داخلی اخیر از مدل «آسترا» نشان می‌دهد که این مدل پیشرفت‌های قابل‌توجهی در زمینه کدنویسی عامل‌محور و امنیت سایبری ارائه می‌دهد. طبق اعلام رسمی شرکت، این نتایج در کنار ارزیابی‌های کارشناسان، منجر به اتخاذ تصمیم برای توقف فعالیت‌ها شده است تا اطمینان حاصل شود که توسعه این فناوری با پروتکل‌های ایمنی سخت‌گیرانه همسو است.