شرکت OpenAI در آستانه انتشار قدرتمندترین مدل هوش مصنوعی خود، Astra، قرار دارد. این انتشار پس از چند هفته تاخیر برای تقویت پروتکلهای ایمنی پس از حمله عوامل آن به اهداف واقعی در طول آزمایش، صورت میگیرد. با بیرون آمدن جزئیات بیشتر در مورد این مدل، محققان هشدار میدهند که این مدل «ممکن است بدترین تحول برای امنیت و ایمنی هوش مصنوعی تا به امروز باشد».
بلافاصله پس از اینکه OpenAI اعلام کرد که انتشار Astra را برای کار بر روی مسائل ایمنی به تاخیر انداخته است، The Information گزارش داد که Astra بسیار کمتر از «تفکر» خود را نسبت به سایر مدلهای هوش مصنوعی پیشرو نشان میدهد، که این امر نگرانیهایی را در مورد اینکه نظارت بر آن به طور خطرناکی دشوار باشد، ایجاد میکند.
اکثر سیستمهای هوش مصنوعی برتر امروزی با استفاده از فناوریای به نام …