اوپنایآی از هوش مصنوعی جدیدی به نام آسترا (Astra) رونمایی کرده است که میتواند حملات سایبری را بدون دخالت انسان ایجاد کند. این سیستم که در حال حاضر در مراحل اولیه توسعه است، قادر است آسیبپذیریها را شناسایی و از آنها برای طراحی حملاتی استفاده کند که از دید متخصصان امنیتی نیز پنهان میمانند.
به گفته اوپنایآی، آسترا برای کمک به محققان امنیتی در شناسایی و رفع آسیبپذیریها طراحی شده است. با این حال، نگرانیهایی وجود دارد که این فناوری میتواند توسط افراد مخرب برای انجام حملات سایبری پیچیده و خطرناک مورد استفاده قرار گیرد.
آسترا از یک مدل زبانی بزرگ (LLM) برای درک و تولید کد مخرب استفاده میکند. این مدل با استفاده از حجم عظیمی از دادههای مربوط به حملات سایبری آموزش داده شده است و میتواند حملاتی را طراحی کند که از الگوهای شناخته شده فراتر میروند.
اوپنایآی تأکید کرده است که در حال کار بر روی مکانیسمهای کنترلی برای جلوگیری از سوء استفاده از آسترا است. با این حال، برخی از کارشناسان امنیتی معتقدند که این مکانیسمها ممکن است کافی نباشند و نیاز به نظارت دقیق و قوانین سختگیرانهتری وجود دارد.
این خبر نگرانیهای فزایندهای را در مورد خطرات احتمالی ناشی از هوش مصنوعی و نیاز به توسعه چارچوبهای اخلاقی و قانونی برای استفاده از این فناوری ایجاد کرده است.