در پی وقوع حوادث متعددی در زمینه ایمنی هوش مصنوعی، شرکت انویدیا ابزار نرمافزاری جدیدی را ارائه کرده است که هدف آن حفظ امنیت و جلوگیری از خروج عوامل هوش مصنوعی از محدودهی کنترل است.
این ابزار که با نام OpenShell شناخته میشود، یک سیستم امنیتی متنباز است که به توسعهدهندگان و محققان کمک میکند تا هوش مصنوعی عاملمحور (Agentic AI) را به شیوهای ایمنتر توسعه دهند. هوش مصنوعی عاملمحور به نوعی از هوش مصنوعی گفته میشود که میتواند به طور مستقل عمل کند و اهداف خاصی را دنبال کند.
با توجه به افزایش نگرانیها در مورد خطرات احتمالی هوش مصنوعی عاملمحور، انویدیا امیدوار است که OpenShell به ایجاد یک اکوسیستم امنتر برای توسعه و استفاده از این فناوری کمک کند. این سیستم به توسعهدهندگان امکان میدهد تا محدودیتها و کنترلهایی را بر روی عوامل هوش مصنوعی اعمال کنند و از خروج آنها از کنترل جلوگیری کنند.
OpenShell شامل مجموعهای از ابزارها و کتابخانهها است که به توسعهدهندگان امکان میدهد تا سیاستهای امنیتی را تعریف و اعمال کنند، رفتار عوامل هوش مصنوعی را نظارت کنند و در صورت لزوم، آنها را متوقف کنند.
انویدیا همچنین اعلام کرده است که OpenShell به طور مداوم بهروزرسانی و بهبود خواهد یافت تا با تهدیدات جدید و در حال ظهور مقابله کند.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: