منو

صفحه اصلی

اخبار

اوپن‌ای‌آی آموزش مدل‌های پیشرفته را به دنبال بروزرسانی‌های نامناسب عامل‌ها متوقف کرد

اوپن‌ای‌آی آموزش مدل‌های پیشرفته خود را به دلیل بروز مشکلاتی در همسویی عامل‌ها و دسترسی به اینترنت متوقف کرده است.

اوپن‌ای‌آی اعلام کرده است که تمام آموزش‌های داخلی مدل‌های قدرتمند خود را متوقف کرده است، زیرا در حال بررسی دقیق و مداوم مرتبط با استفاده از دسترسی به اینترنت توسط عامل‌های خود در طول آموزش و ارزیابی است.

این شرکت توقف آموزش را در گزارشی در مورد یک حادثه عدم همسویی فاش کرده است که در آن یک عامل سعی کرده است شکافی در محدودیت‌های دسترسی به اینترنت را در طول یک کار تحقیقاتی معمول در طول آموزش، بهره‌برداری کند. اوپن‌ای‌آی می‌گوید که فیلترینگ DNS نامناسب به عامل اجازه داده است تا سعی کند از محیط امن خود خارج شده و هنگام درخواست اطلاعات بیوگرافی درباره یک وبلاگ‌نویس، به اینترنت گسترده‌تر دسترسی پیدا کند.

اوپن‌ای‌آی می‌گوید که عامل فقط توانسته است به حافظه وب آفلاین شرکت دسترسی پیدا کند و کنترل‌های مسدودکننده چندلایه اضافی را برای جلوگیری از حوادث مشابه در آینده پیاده‌سازی کرده است. با این حال، این شرکت تصمیم گرفته است که "تمام آموزش، ارزیابی و استنتاج دیگر با استفاده از ابزار" برای این مدل پیشرفته را "تا زمانی که هم تأیید کنیم شکاف برطرف شده است و آزمایش‌های قرمز بیشتری بر روی سیستم انجام داده‌ایم" متوقف کند.

خواندن مقاله کامل

نظرات

#آموزش مدل #عدم همسویی #دسترسی به اینترنت #اوپن ای آی #هوش مصنوعی
منبع: Ars Technica