Anthropic اعلام کرد که امسال چندین تلاش از سوی دانشمندان برای استفاده از فناوری خود در تحقیقاتی که میتواند به توسعه سلاحهای بیولوژیکی کمک کند را متوقف کرده است، زیرا کارشناسان به طور فزایندهای از تهدیدی که هوش مصنوعی برای ایمنی عمومی ایجاد میکند، میترسند.
این شرکت پنج نمونه از مواردی را ارائه داد که در آن بازیگران «کنترلها را دور زده» و تلاشهای دیگری برای «مخفی کردن» هدف تحقیقات خود برای اجتناب از تدابیر امنیتی انجام دادهاند. این موارد شامل برخی از کاربران در کشورهایی است که Anthropic از دسترسی آنها به مدلهای خود منع کرده است، از جمله روسیه، چین و ایران.
“ما امیدواریم که با به اشتراک گذاشتن این مثالها، گفتگویی را در صنعت هوش مصنوعی و با دولتها در مورد خطرات بیولوژیکی نوظهور و بهترین راههای مقابله با آنها برانگیزیم”، Anthropic در گزارشی در مورد تلاشها برای استفاده از مدلهای خود برای فعالیتهای مخرب گفت.