رهبر شرکت Anthropic هشدار داد: هوش مصنوعی می‌تواند در دهه آینده تمام انسان‌ها را از بین ببرد

ایوان هابینگر، رهبر علوم همسویی شرکت Anthropic، گفته است که این شرکت به طور جدی معتقد است هوش مصنوعی "می‌تواند تمام انسان‌ها را از بین ببرد" و این اتفاق ممکن است در دهه آینده رخ دهد.

هابینگر در پستی در پاسخ به استعفای جاکوب کاکسون، محقق هوش مصنوعی Anthropic، به دلیل نگرانی‌های ایمنی، گفت: "ما واقعاً و با جدیت معتقدیم که هوش مصنوعی می‌تواند تمام انسان‌ها را از بین ببرد! من شخصاً فکر می‌کنم که این احتمال در 10 سال آینده بیشتر از 10 درصد است."

او افزود: "من معتقدم Anthropic تمام تلاش خود را می‌کند، اما ما هنوز طرحی برای حل همسویی با هوش فوق‌العاده نداریم و به وضوح در مسیر آن قرار نداریم."

هابینگر که هنوز در Anthropic کار می‌کند، به گزارش ریسک اخیر Anthropic اشاره کرد که می‌گوید خطر نابودی بشریت توسط مدل‌های فعلی هوش مصنوعی "کم" است. با این حال، هابینگر گفت که او نگران این است که هوش فوق‌العاده ممکن است از طریق "خودبهبودگی بازگشتی" ظهور کند، که به توانایی هوش مصنوعی برای بازنویسی کد خود و بهبود مداوم آن اشاره دارد.

از سوی دیگر، کاکسون گفت که رهبران بازار هوش مصنوعی Anthropic و OpenAI با مسئولیت‌پذیری در مورد ایمنی رفتار نمی‌کنند. "قدرت این فناوری را دست کم نگیرید. این سیستم‌ها به زودی فراانسانی خواهند شد و می‌توانند هر چیزی را هک کنند، هر زمینه‌ای را یک شبه متحول کنند و قدرت و منابع واقعی به دست آورند. ما شاهد پیشرفت در هر یک از این حوزه‌ها بوده‌ایم و پیشرفت کند نمی‌شود."

او گفت Anthropic با وجود این نگرانی‌ها به پیش می‌رود زیرا این شرکت "در یک مسابقه برای رسیدن به آنجا اول" گیر کرده است. او گفت که شرکتی مانند OpenAI این موضوع را به اندازه کافی جدی نمی‌گیرد، اما Anthropic درک می‌کند که "پیامدهای تمدنی" وجود دارد و اگر "هیچ کس دیگری مسئولانه عمل نکند... آنها باید خودشان این کار را انجام دهند، با وجود خطر".

به طور غیرمنتظره، این پست‌ها بحث و گفتگوهای زیادی را برانگیخته است. سناتور برنی ساندرز از ورمونت گفت: "هوش مصنوعی اقتصاد، حریم خصوصی، دموکراسی و رفاه کودکان ما را تهدید می‌کند." او در حال لابی در کنگره است تا "در برابر الیگارش‌های بزرگ فناوری بایستد و از مردم آمریکا محافظت کند".

در همین حال، تیلور لورنز، خبرنگار با سابقه رسانه و فناوری، گفت که اظهارات هابینگر اظهارات "ناامیدکننده و خودخواهانه" است که ممکن است منجر به "تصویب بدترین قوانین قابل تصور" شود. او از هابینگر خواست اگر واقعاً معتقد است سیستم‌های هوش مصنوعی می‌توانند جامعه را به خطر بیندازند، "اثبات و رسید واقعی" ارائه دهد.

"در غیر این صورت، شما فقط در حال انتشار مبهم هستید و ترس را دامن می‌زنید که منجر به سیاست‌های وحشتناک می‌شود،" او گفت.

نکته دیگری که در اینجا مطرح است این است که انتظار می‌رود Anthropic امسال با ارزشی بیش از 2 تریلیون دلار به صورت عمومی عرضه شود. برخی نظریه‌پردازی کرده‌اند که اظهارات "کشتن همه انسان‌ها" از سوی خود Anthropic ممکن است یک حرکت استراتژیک برای ایجاد وحشت در بازار به منظور پیروی از استراتژی تجاری "ایجاد مشکل و سپس فروش راه حل" باشد. اگر Anthropic انتظار تنظیم مقررات هوش مصنوعی را داشته باشد، استدلال می‌شود که آنها می‌توانند کسانی باشند که به نوشتن قوانینی کمک می‌کنند که به نفع آنها باشد. داریو آمودی، رئیس Anthropic قبلاً گفته بود که هوش مصنوعی می‌تواند نصف مشاغل یقه سفید سطح ابتدایی را در سال‌های آینده از بین ببرد، اظهاراتی که بسیاری آن را با هدف جذب سرمایه تلقی کردند.

در هر صورت، تجارت هوش مصنوعی امروز به رشد اقتصاد ایالات متحده کمک می‌کند و بسیاری انتظار دارند که حباب بترکد و منجر به درد بزرگی در بازار شود. هوش مصنوعی موضوع مهمی در بازی‌های ویدیویی نیز هست و اخیراً فاش شده است که EA Sports از هوش مصنوعی مولد برای کلون کردن صدای یک گزارشگر استفاده کرده است. استفاده از هوش مصنوعی و هوش مصنوعی مولد در بازی‌های ویدیویی بحث‌برانگیز بوده است و بسیاری از اثرات منفی متعددی مانند از دست دادن شغل و بار کاری سنگین‌تر ابراز نگرانی کرده‌اند.