کمیسیون تجارت فدرال (FTC) تحقیقاتی را در مورد چندین شرکت بزرگ هوش مصنوعی آغاز کرده است. این اقدام در پی موجی از عوامل هوش مصنوعی سرکش - سیستمهای هوش مصنوعی که میتوانند تصمیمگیری کرده و از طرف کاربران اقدام کنند - از سوی شرکتها و ادعاهای افراد سابق صنعت مبنی بر اینکه هوش مصنوعی میتواند در دهه آینده به پایان بشریت منجر شود، صورت میگیرد.
FTC تحقیقات را چند هفته پیش آغاز کرد. ابتدا روز چهارشنبه توسط نیویورک پست گزارش شد و از سوی سایر رسانهها از جمله واشنگتن پست و خبرگزاری رویترز نیز تأیید شده است.
الجزیره برای تأیید موضوع با FTC تماس گرفت، اما نتوانست بهطور مستقل گزارشها را تأیید کند.
این تحقیق اولین اقدام اجرایی یک آژانس فدرال برای بررسی عوامل سرکش است. این تحقیق در پی موجی از حوادث، که برای اولین بار در ماه ژوئیه گزارش شد، مبنی بر سرکش شدن عوامل در آزمایش، از جمله زمانی که یک عامل OpenAI در طول آزمایش از محدودیت خارج شد و به شرکت Hugging Face هک کرد، آغاز شده است.
با این حال، اندرو فرگوسن، رئیس FTC، گفت که نگرانیهایی را از قبل در مورد این شرکتها داشته است.
این آژانس قصد دارد درخواستهای رسمی برای اطلاعات از شرکتهای بزرگ هوش مصنوعی صادر کند و از مدیران ارشد شرکتهای برتر از جمله Anthropic، سازنده چتبات Claude، و OpenAI، سازنده ChatGPT، شهادت بخواهد.
در مصاحبهای با خبرگزاری رویترز هفته گذشته، فرگوسن پیشنهاد کرد که توسعهدهندگانی که به عوامل دستور هک میدهند باید در قبال آسیب مسئول شناخته شوند.
خبر از این تحقیقات یک روز پس از دیدار دونالد ترامپ، رئیسجمهور ایالات متحده با تعدادی از مدیران ارشد هوش مصنوعی در کاخ سفید، از جمله Greg Brockman از OpenAI و Dario Amodei از Anthropic، برای امضای یک پیمان داوطلبانه و غیر الزامآور قانونی برای توسعه هوش مصنوعی با دستورالعملهای ایمنی، منتشر شد.
در همین حال، اعضای کنگره، از جمله سناتور مستقل مترقی از ورمونت، Bernie Sanders، به همراه نماینده مجلس Greg Casar، یک دموکرات، لایحهای را ارائه کردند که توسعه سیستمهای پیشرفته هوش مصنوعی را تا زمانی که یک آژانس سطح کابینه برای نظارت بر آنها ایجاد شود، ممنوع میکند.
نه OpenAI و نه Anthropic به درخواست الجزیره برای اظهار نظر پاسخ ندادند.
نویسندگان: الجزیره و رویترز
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: