در حالی که نگرانیها در مورد ایمنی هوش مصنوعی احتمالاً برنامههای عرضه اولیه سهام Anthropic را متوقف نمیکند، کارشناسان انتظار دارند مقررات و افشای اطلاعات ایمنی بیشتری صورت گیرد.
Anthropic، شرکت توسعهدهنده هوش مصنوعی که توسط بنیانگذاران سابق OpenAI تأسیس شده است، در حال آمادهسازی برای عرضه اولیه سهام خود است. این شرکت خود را به عنوان یک رهبر در توسعه هوش مصنوعی ایمن و مسئولانه معرفی کرده است.
با این حال، اخیراً اظهاراتی از سوی برخی از کارشناسان مطرح شده است که تصویر «ایمنی اول» این شرکت را زیر سوال میبرد. یکی از این کارشناسان، یان لیون، محقق ارشد در Future of Humanity Institute دانشگاه آکسفورد، هشدار داده است که هوش مصنوعی میتواند «تمام انسانها را از بین ببرد».
این اظهارات باعث ایجاد بحث و جدل در مورد خطرات بالقوه هوش مصنوعی شده است. برخی از کارشناسان معتقدند که این خطرات اغراقآمیز هستند، در حالی که برخی دیگر هشدار میدهند که باید به طور جدی به آنها توجه کرد.
در حال حاضر، Anthropic در حال کار بر روی توسعه فناوریهایی است که بتوانند خطرات هوش مصنوعی را کاهش دهند. این شرکت همچنین در حال همکاری با دولتها و سایر سازمانها برای توسعه مقررات و استانداردهای ایمنی هوش مصنوعی است.