انتشار دسترسی ممیزین خارجی به سیستم‌های هوش مصنوعی آنتروپیک

همانطور که آزمایشگاه‌های هوش مصنوعی به خودتنظیمی ادامه می‌دهند، ارزیابان خارجی نقش مهمی در شناسایی خطرات ایفا می‌کنند.

آنتروپیک، شرکت توسعه‌دهنده مدل‌های هوش مصنوعی کلاود، اعلام کرده است که به ممیزین شخص ثالث دسترسی «مشابه کارمندان» به سیستم‌های خود می‌دهد. این اقدام، که آنتروپیک آن را «اولین مورد در صنعت هوش مصنوعی» می‌نامد، به ارزیابان خارجی اجازه می‌دهد تا به طور مستقل عملکرد و ایمنی مدل‌های هوش مصنوعی این شرکت را بررسی کنند.

این شرکت اعلام کرده است که این اقدام به منظور افزایش شفافیت و مسئولیت‌پذیری در توسعه و استقرار هوش مصنوعی انجام می‌شود. آنتروپیک امیدوار است که با ارائه دسترسی بیشتر به ممیزین خارجی، بتواند به شناسایی و رفع خطرات احتمالی در سیستم‌های خود کمک کند.

ممیزین خارجی شامل شرکت‌هایی مانند Arthur AI و Robust Intelligence هستند. این شرکت‌ها به طور مستقل عملکرد مدل‌های هوش مصنوعی آنتروپیک را در زمینه‌های مختلف، از جمله سوگیری، امنیت و قابلیت اطمینان، ارزیابی خواهند کرد.

دسترسی «مشابه کارمندان» به این معنی است که ممیزین خارجی به اطلاعات و ابزارهایی دسترسی خواهند داشت که به کارمندان آنتروپیک نیز در دسترس است. این شامل دسترسی به کد منبع مدل‌های هوش مصنوعی، داده‌های آموزشی و گزارش‌های عملکرد است.

این اقدام آنتروپیک می‌تواند به عنوان یک گام مهم در جهت افزایش ایمنی و مسئولیت‌پذیری در صنعت هوش مصنوعی تلقی شود. با این حال، برخی از کارشناسان معتقدند که خودتنظیمی کافی نیست و نیاز به مقررات دولتی برای اطمینان از ایمنی و مسئولیت‌پذیری هوش مصنوعی وجود دارد.