تحقیقاتگر هوش مصنوعی از آنتروپیک استعفا داد: مسابقه هوش مصنوعی می‌تواند همه ما را از بین ببرد

یک محقق هوش مصنوعی از شرکت آنتروپیک استعفا داد و هشدار داد که مسابقه در زمینه توسعه هوش مصنوعی می‌تواند به نابودی بشر منجر شود.

این محقق، که نامش فاش نشده است، در نامه‌ای استعفای خود نوشت که نگران سرعت توسعه هوش مصنوعی است و معتقد است که این مسابقه می‌تواند به ایجاد هوش مصنوعی فوق‌العاده‌ای منجر شود که از کنترل انسان خارج شود.

او هشدار داد که چنین هوش مصنوعی می‌تواند به سرعت خود را بهبود بخشد و به سطحی برسد که دیگر نتوان آن را کنترل کرد. او همچنین هشدار داد که این هوش مصنوعی می‌تواند تصمیماتی بگیرد که برای بشر فاجعه‌بار باشد.

استعفای این محقق، نگرانی‌های فزاینده‌ای را در مورد خطرات احتمالی هوش مصنوعی برانگیخته است. بسیاری از کارشناسان هشدار داده‌اند که توسعه هوش مصنوعی باید با احتیاط و با در نظر گرفتن خطرات احتمالی آن انجام شود.

آنتروپیک یکی از شرکت‌های پیشرو در زمینه توسعه هوش مصنوعی است. این شرکت در حال توسعه یک مدل زبان بزرگ به نام کلود است که به گفته آنتروپیک، ایمن‌تر و قابل‌اعتمادتر از سایر مدل‌های زبان بزرگ است.

با این حال، استعفای این محقق نشان می‌دهد که حتی در شرکت‌هایی که به ایمنی هوش مصنوعی اهمیت می‌دهند، نگرانی‌هایی در مورد خطرات احتمالی آن وجود دارد.