اشتباه هوش مصنوعی آمریکا، چین را به آستانه جنگ برد

به گزارش اطلاعات آنلاین به نقل از سی‌ان‌ان، چهار نفر از افراد آشنا با این ماجرا گفتند که این گزارش اطلاعاتی بلافاصله زنگ خطر را در نیروهای مسلح ایالات متحده به صدا درآورد و آنها شروع به آماده‌سازی عملیاتی علیه کشتی چینی کردند. طبق گزارش‌ها، پرسنل مسلح در حال آماده شدن برای سوار شدن به کشتی بودند، در حالی که هواپیماهای نظامی ایالات متحده از قبل در هوا بودند.

این عملیات تنها پس از آن متوقف شد که مقامات اطلاعات پیشینی را با دقت بیشتری بررسی کردند و متوجه شدند این گزارش با کمک یک چت‌بات هوش مصنوعی تولید شده است. این چت‌بات به اشتباه موادی را که در کشتی حمل می‌شد، شناسایی کرده بود. سی‌ان‌ان نتوانست تشخیص دهد کشتی واقعاً چه چیزی را حمل می‌کند. یک منبع، ارزیابی اطلاعاتی حاصل را «کاملاً نادرست» توصیف کرد و افزود که «جنگ تقریباً آغاز شده بود». یک عملیات آمریکایی علیه یک کشتی چینی می‌توانست منجر به رویارویی مستقیم بین واشنگتن و پکن شود که احتمالاً فراتر از حادثه اصلی تشدید می‌شد. این حادثه در بهار رخ داد، زمانی که نیروهای آمریکایی در حال انجام عملیات نظامی علیه ایران بودند.

ماجرا زمانی آغاز شد که یک تحلیلگر مرتبط با فرماندهی عملیات ویژه ایالات متحده، اطلاعات مربوط به بارنامه کشتی را بررسی کرد. این اطلاعات از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام در هاوایی سرچشمه گرفته بود. این تحلیلگر به جای تکیه صرف بر رویه‌های مرسوم تحلیل اطلاعات، از یک ربات چت هوش مصنوعی در مورد اطلاعات سوال کرد. به گفته منابع CNN، این ربات چت، اطلاعات عمومی موجود را با اطلاعات سیگنال‌های طبقه‌بندی‌شده‌ای که در دولت ایالات متحده نگهداری می‌شد، قبل از رسیدن به نتیجه‌گیری اشتباه در مورد محموله کشتی، ترکیب کرد. این تحلیلگر متعاقباً بار دوم از هوش مصنوعی برای تبدیل یافته‌ها به یک گزارش اطلاعاتی استاندارد استفاده کرد.

این مرحله دوم به ویژه مهم بود زیرا سند حاصل در قالب آشنای یک محصول اطلاعاتی نظامی متعارف ارائه شد. سپس در نیروهای مسلح ایالات متحده توزیع شد، جایی که پرسنل بر اساس محتوای آن اقدام کردند. یک مقام ارشد سابق آمریکایی که با سامانه‌های هوش مصنوعی مورد استفاده تحلیلگران نظامی و اطلاعاتی آشنا است، به سی‌ان‌ان گفت: «ابزارهای داخلی عمدتاً کپی‌هایی از ابزارهای تجاری هستند که رژ لب زده‌اند.» این حادثه، پیامدهای بالقوه تولید اطلاعات نادرست در سامانه‌های هوش مصنوعی در محیط‌های نظامی را برجسته می‌کند، جایی که ارزیابی‌های اطلاعاتی می‌توانند مستقیماً بر استفاده از زور تأثیر بگذارند.

مدل‌های زبانی بزرگ قادر به تولید پاسخ‌های به ظاهر قابل قبول و حاوی خطاهای واقعی هستند، پدیده‌ای که معمولاً «توهم هوش مصنوعی» شناخته می‌شود. با این حال، در این مورد، خروجی نادرست، طبق گزارش‌ها، فراتر از یک اشتباه تحلیلی منفرد پیش رفته و در یک محصول اطلاعاتی عملیاتی گنجانده شده است. این حادثه در حالی رخ داد که پنتاگون به سرعت در حال گسترش استفاده از هوش مصنوعی است. پیت هگست، وزیر جنگ، رویکرد «اولویت با هوش مصنوعی» را در سراسر نیروهای مسلح ترویج کرده و هوش مصنوعی برای کاربردهایی از تحلیل اطلاعات و هدف‌گیری گرفته تا لجستیک، بودجه‌بندی و مدیریت زنجیره تأمین معرفی شده است.

سدریک لیتون، سرهنگ بازنشسته نیروی هوایی آمریکا و تحلیلگر نظامی سی‌ان‌ان، استدلال کرد که تحلیلگران هنوز باید به طور مستقل مشخص کنند که آیا اطلاعات موجود در سامانه‌های هوش مصنوعی دقیق و پذیرفتنی است یا نه. لیتون گفت: «شما هنوز به تحلیل واقعی نیاز دارید تا بفهمید دقیقاً چه اتفاقی می‌افتد، تا مطمئن شوید داده‌هایی که در این ابزارهای هوش مصنوعی استفاده می‌کنید، اولاً واقعاً درست هستند و ثانیاً، اگر باورپذیر باشند. اینها چیزهایی هستند که واقعاً به زمان زیادی نیاز دارند تا بفهمیم.» این قسمت سوالاتی را در مورد امنیت و قابلیت اطمینان سامانه‌های هوش مصنوعی برای پردازش اطلاعات حساس مطرح می‌کند.