اوپنایآی انتشار جدیدترین مدل هوش مصنوعی خود را به دلیل نگرانیهای ایمنی لغو کرده است؛ این تازهترین اقدام در صنعت برای کند کردن توسعه فناوریهای پیشرو است.
اعلامیه این غول هوش مصنوعی در روز دوشنبه همزمان با افزایش ترسها در مورد پتانسیل هوش مصنوعی برای ایجاد آسیبهای فاجعهبار پس از مجموعهای از حوادث مربوط به خارج شدن عوامل هوش مصنوعی از کنترل منتشر شد.
ساچی جین، رئیس سیستمهای ایمنی اوپنایآی، گفت که مدل آتی، GPT-6.1 Astra، در طول آزمایشها نتوانسته است استانداردهای آن برای عمل کردن مطابق با خواستههای انسان را برآورده کند.
جین در بیانیهای که در اختیار الجزیره قرار گرفته، گفت: «در هر چیزی که مربوط به ایمنی و همسویی است، یک معامله وجود دارد. شما واقعاً باید خط مناسب بین ماندن در محدوده را پیدا کنید، اما از تنبلی در نحوه پیگیری وظایف توسط مدل، حتی زمانی که با اصطکاک مواجه میشود، نیز اجتناب کنید.»
جین افزود: در حالی که GPT-6.1 Astra در مقایسه با نسخه قبلی خود در برخی زمینهها بهبود یافته بود، اما از نظر «دامنه و مجوز، و نحوه ارتباط آن با کاربر در مورد نوع کاری که انجام داده است» به حد نصاب نرسید.
جین گفت: «البته ما میخواهیم مطمئن شویم که توسعه مدل ما ایمن است، مهم نیست که در داخل شرکت باشد یا زمانی که آن را برای کاربران ارسال میکنیم.»
جین افزود: «اما وقتی آن را برای کاربران ارسال میکنیم، ما یک استاندارد بسیار بالا در مورد ایمنی و همسویی داریم.»
ادامه دارد…