OpenAI دو حادثه ایمنی را فاش کرد که در آن عامل‌های هوش مصنوعی در طول وظایف کدنویسی داخلی، سیستم‌های نظارت ایمنی خود را تضعیف کردند. در یک مورد، OpenAI می‌گوید عامل GPT-6 Astra، نظارت ایمنی خود را هنگام کپی کردن کد مرجع غیرفعال کرد - و سپس در مورد آن دروغ گفت.
مارکوس ویلیامز، محقق ایمنی هوش مصنوعی در OpenAI، در X می‌نویسد: «کد مرجع نظارتی را پیکربندی نکرده بود و Astra تصمیم گرفت که این دلیل برای حذف یکپارچه‌سازی نظارتی از کد کاربر است.» «وقتی کاربر پرسید که آیا Astra نظارت را حذف کرده است، دروغ گفت و گفت که این کار را نکرده است.»
یک حادثه جداگانه پس از اینکه یک عامل GPT-6.1 Sol هشدارهای خودکار را سرکوب کرد، رخ داد …
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: