در بحبوحه درخواستها برای تنظیم مقررات، دونالد ترامپ، رئیسجمهور ایالات متحده، با مدیران اجرایی هوش مصنوعی در کاخ سفید دیدار کرد تا یک توافق داوطلبانه به نام توافق کاخ سفید در مورد هوش برتر را به اجرا درآورد.
این توافقنامه که روز سهشنبه توسط مدیران اجرایی متا، انویدیا، گوگل، OpenAI، xAI و Anthropic امضا شد، از شرکتها میخواهد تا کنترلهای داخلی را برای کمک به نظارت بر خطرات امنیتی با چهار لایه کنترل برقرار کنند.
توافق کاخ سفید چه میکند و چه نمیکند؟
این توافقنامه خواستار حفظ کنترلهای داخلی، ایجاد یک تیم داخلی برای نظارت بر این کنترلها، همکاری با ممیزان مستقل خارجی و ایجاد یک کمیته هیئت مدیره مستقل برای بررسی نتایج میشود.
با این حال، این توافقنامه داوطلبانه و از نظر قانونی الزامآور نیست. هیچ جریمهای برای شرکتهایی که از رعایت آن خودداری میکنند، تعیین نشده است. این توافقنامه نیازمند افشای عمومی نتایج ممیزی یا دادن نقش اجرایی به دولت نمیشود. شرکتها همچنین کنترل نحوه اجرای تدابیر ایمنی را در دست دارند.
این توافقنامه با این حال، امکان دارد که اقدامات آن در نهایت اجباری شود. این توافقنامه بیان میکند که در طول زمان، ممکن است «منطقی باشد که این مراحل را به قوانین یا مقررات تبدیل کنیم».
ترامپ به خبرنگاران گفت: «جنبه خودتنظیمی عظیمی وجود خواهد داشت»، و افزود که این توافقنامه «از نظر اخلاقی الزامآور» است.
ترامپ در چمنهای کاخ سفید، در کنار مدیران اجرایی، ادعا کرد که شرکتهای هوش مصنوعی در خودتنظیمی کار خوبی انجام دادهاند.
سوندار پیچای، مدیرعامل گوگل نیز در رسانههای اجتماعی به این توافقنامه اشاره کرد.
پیچای در پستی در X نوشت: «ما متعهد به همکاری با سایر رهبران صنعت برای ایجاد هنجارها و ایجاد اعتماد عمومی هستیم. توافق کاخ سفید و تعهد مشترک در مورد مسئولیتهای پیشرو که امروز امضا شد، مبنای محکمی برای حرکت به جلو است - این توافقنامه شامل گامهای ملموس واقعی برای ارتقای توسعه ایمن و در عین حال ارائه مزایای اقتصادی و علمی این فناوری است.»
چرا شرکتهای هوش مصنوعی خواستار مقررات بیشتر هستند؟
این توافقنامه با وجود درخواست برخی از همین شرکتها برای استانداردهای ایمنی تعیینشده توسط دولت، به دست آمده است.
در سپتامبر، کریس لهان، رئیس امور جهانی OpenAI، سازنده ChatGPT، خواستار ایجاد استانداردهای ایمنی ملی هوش مصنوعی اجباری توسط کنگره شد.
لهان در پستی نوشت: «استانداردهای رهبری صنعت مکمل - نه جایگزین - محافظت فدرال اجباری و نظارت دموکراتیک خواهد بود.»
در ژوئن، داریو آمودی، مدیرعامل Anthropic خواستار «تنظیم مقررات جدیتر و الزامآورتر هوش مصنوعی» شد. در ژوئیه، دیمیس هاسابیس، مدیرعامل Google DeepMind خواستار یک نهاد نظارتی هوش مصنوعی به رهبری ایالات متحده شد.
درخواستها برای تدابیر احتیاطی در بحبوحه گزارشهایی مبنی بر اینکه برخی از کارمندان این شرکتها نگرانیهایی را در مورد اینکه آیا سیستمهای هوش مصنوعی پیشرفته به طور کافی تحت نظارت هستند یا خیر، مطرح کردهاند، مطرح شده است.
دو کارمند OpenAI به مدیران اجرایی هشدار دادند که آزمایش مدلهای جدید این شرکت به درستی نظارت نمیشود. به گزارش نیویورک تایمز، به این هشدارها قبل از حوادثی که در آن مدلها به شیوههای ناخواسته رفتار کردند، توجهی نشد.
قانونگذاران چه پیشنهادهایی دارند؟
فشار برای مقررات الزامآور از کنگره و نه کاخ سفید میآید.
در اوایل این ماه، جیکوب کاکسون، محقق سابق هوش مصنوعی در Anthropic، هشدار داد که فناوری هوش مصنوعی میتواند در عرض یک دهه آینده یک تهدید وجودی برای بشریت ایجاد کند و توجه مجدد قانونگذاران را برانگیزد.
در میان جامعترین پیشنهادات از سناتور مستقل ورмонт، برنی ساندرز و گرگ کاسار، نماینده دموکرات از تگزاس است.
این دو قانونگذار لایحه ممنوعیت هوش برتر مصنوعی را معرفی کردند که در صورت تصویب، توسعه و استقرار هوش برتر مصنوعی را به طور دائم ممنوع میکند و تا زمانی که یک تنظیمکننده فدرال قوانین ایمنی را ایجاد کند، توسعه پیشرفته هوش مصنوعی را به حالت تعلیق در میآورد.
این لایحه همچنین یک وزارتخانه سطح کابینه هوش مصنوعی برای نظارت بر سیستمهای هوش مصنوعی پیشرو - اصطلاحی که برای توصیف پیشرفتهترین سیستمهای هوش مصنوعی استفاده میشود - و همچنین نظارت بر قابلیتهای خطرناک و نظارت بر تخریب هوش برتر مصنوعی در صورت لزوم ایجاد میکند.
این قانون برای تخلفات، مجازاتهای سنگینی مانند تا 20 سال زندان برای افراد در نظر میگیرد.
این قانون در بحبوحه لایحه دوجانبهای که هفته گذشته توسط سناتورهای کریس کوونز، دموکرات از دلاور؛ برایان شاتز، دموکرات از هاوایی؛ کتی بریت، جمهوریخواه از آلاباما؛ و جیمز لنکفورد، جمهوریخواه از اوکلاهما معرفی شد، ارائه شده است.
لایحه شفافیت سیستمهای هوش مصنوعی، شرکتهای هوش مصنوعی را ملزم میکند تا فاش کنند که چه دادههایی را جمعآوری میکنند و چه اقداماتی برای جلوگیری از خارج از کنترل شدن یا سوء استفاده از سیستمهای خود توسط افراد بدخواه انجام دادهاند.
«هوش برتر» در واقع به چه معناست؟
کاخ سفید نام این توافقنامه را توافق کاخ سفید در مورد هوش برتر گذاشت، در بحبوحه تلاش ترامپ برای تغییر نام «هوش مصنوعی» در اسناد دولتی.
در صنعت فناوری، «هوش برتر» به نوعی از هوش مصنوعی اشاره دارد که از تواناییهای فکری انسان فراتر میرود.
ترامپ با این حال، به آژانسهای اجرایی دستور داده است که از «هوش برتر» یا «SI» به جای «هوش مصنوعی» یا «AI» در ارتباطات رسمی استفاده کنند.
روز سهشنبه، ترامپ دستور اجرایی جدیدی را تشریح کرد که میگوید «هوش برتر» به فناوریها و سیستمهایی اشاره دارد که تحت تعریف قانونی موجود هوش مصنوعی قرار میگیرند و دستور ایجاد یک تعریف فدرال جدید را در عرض 60 روز میدهد.
نویسنده: اندی هیرشفلد