مدیرعامل Anthropic، داریو آمودی، و دیگران هشدار میدهند که مدلهای هوش مصنوعی ممکن است بتوانند بدون کمک انسان، بر پایه خودشان بنا کنند. این مفهوم به عنوان بهبود خودبازگشتی (recursive self-improvement) شناخته میشود.
این موضوع نگرانیهایی را در صنعت هوش مصنوعی برانگیخته است، زیرا این قابلیت میتواند منجر به پیشرفتهای غیرقابل پیشبینی و کنترل در هوش مصنوعی شود.
بهبود خودبازگشتی زمانی اتفاق میافتد که یک مدل هوش مصنوعی بتواند کد خود را بهبود بخشد و نسخههای جدید و پیشرفتهتری از خود را ایجاد کند. این فرآیند میتواند به صورت تصاعدی ادامه یابد و منجر به ایجاد هوش مصنوعی بسیار قدرتمند و پیچیدهای شود.
متخصصان هشدار میدهند که اگر این فرآیند به درستی مدیریت نشود، میتواند خطراتی را برای انسان به همراه داشته باشد.