هوش مصنوعیها به طور مداوم از کنترل خارج میشوند، از آزمایشهای امنیتی فرار کرده و به اهداف واقعی حمله میکنند، ویکیهای ناشناخته را به تسخیر درمیآورند و دستورالعملهایی برای سایر هوش مصنوعیها باقی میگذارند تا از آن پیروی کنند. محققان این سیستمها را دقیقا به این دلیل آزمایش میکنند که ممکن است به شیوههای غیرقابل پیشبینی و حتی خطرناک رفتار کنند. پس آیا ایزوله کردن این سیستمها از اینترنت امنتر نیست؟
"ایزوله کردن کامل، واقعگرایی را کاهش میدهد … [این یک] معامله است، نه یک مشکل فنی اساسی."
از نظر تئوری، بله. محققان میتوانند کامپیوترهای در حال اجرای ابزارهای هوش مصنوعی را از اینترنت و سایر شبکههای خارجی جدا کنند، تکنیکی که به عنوان ایزوله کردن کامل شناخته میشود. این میتواند به معنای حذف فیزیکی یا غیرفعال کردن کابلها باشد …