کالیفرنیا برای کنترل هوش مصنوعی، کلید قطع اضطراری می‌خواهد

فرماندار کالیفرنیا، گاوین نیوسام، روز جمعه یک دستور اجرایی امضا کرد که هدف آن تسریع نظارت مستقل بر ریسک‌های ایمنی و امنیتی سامانه‌های هوش مصنوعی است؛ اقدامی که در پی رفتارهای خودمختارانه و نگران‌کننده برخی مدل‌های پیشرفته هوش مصنوعی از سوی شرکت‌های بزرگ فناوری صورت گرفته است. یکی از مهم‌ترین بخش‌های این دستور، بررسی الزام شرکت‌ها به ساخت یک «کلید قطع اضطراری» برای خاموش‌کردن مدل‌های پیشرو در صورت بروز رفتارهای خطرناک یا خارج از کنترل است.

دو ماه فرصت برای ارائه راهکار

بر اساس این دستور اجرایی، یک هیئت از کارشناسان برجسته ملی گرد هم خواهند آمد تا ظرف مدت دو ماه، مجموعه‌ای از توصیه‌ها برای تقویت قوانین ایمنی و امنیت هوش مصنوعی کالیفرنیا ارائه دهند. نیوسام در بیانیه‌ای گفت که تصمیم دارد پیش از آنکه دیر شود، سرعت نظارت مسئولانه بر هوش مصنوعی را افزایش دهد و تأکید کرد که این کار باید «هم با دقت و هم با فوریت» انجام شود، چرا که به گفته او مخاطرات آن‌قدر بالاست که جایی برای تعلل باقی نمی‌گذارد.



نکته قابل‌توجه این است که این دستور اجرایی، صرفاً یک ابتکار تازه از صفر نیست، بلکه بر پایه دو قانونی بنا شده که پیش‌تر توسط خود نیوسام امضا شده‌اند: لایحه سنا با شماره ۸۱۳ که چارچوبی برای سازمان‌های تأیید مستقل جهت ارزیابی ریسک سامانه‌های هوش مصنوعی ایجاد می‌کند، و لایحه مجلس با شماره ۱۴۰۵ که ثبت رسمی حسابرسان هوش مصنوعی در ایالت را تعریف کرده است. دستور جدید عملاً زمان‌بندی اجرای این دو قانون را تسریع می‌کند.

تعبیه ناظران مستقل در دل آزمایشگاه‌ها

از جمله پیشنهادهایی که هیئت کارشناسان باید بررسی کند، الزام شرکت‌های هوش مصنوعی به میزبانی «سازمان‌های تأیید مستقل» به‌صورت مستقر در داخل آزمایشگاه‌های خودشان است؛ سازمان‌هایی که وظیفه دارند به‌طور منظم ممیزی و ارزیابی انجام دهند. علاوه بر این، شرکت‌ها ممکن است ملزم شوند گزارش‌های ایمنی، ارزیابی‌های ریسک و شفافیت خود را نزد یک نهاد شخص ثالث تأیید کنند و هرگونه «حادثه از دست دادن کنترل» را افشا کنند؛ رویدادهایی از جمله نفوذ ماه ژوئیه به پلتفرم هاگینگ فیس که گفته می‌شود توسط عامل‌های هوشمند خودمختار هوش مصنوعی انجام شده بود.

هم‌صدایی با پیشنهاد آمودی

جالب اینجاست که تنها چند روز پیش از این دستور اجرایی، دکتر داریو آمودی، مدیرعامل شرکت آنتروپیک، طرحی سه‌مرحله‌ای برای «کند کردن سرعت پیشرفت هوش مصنوعی» منتشر کرده بود. گام نخست این طرح، اعطای دسترسی مداوم و «شبیه به کارمندان» به تیمی از ارزیاب‌های مستقل ثالث در داخل شرکت‌های هوش مصنوعی است تا بتوانند پایبندی به تعهدات ایمنی را راستی‌آزمایی کرده و حوادث را گزارش دهند.



آنتروپیک اعلام کرده به‌صورت یک‌جانبه به این گام متعهد شده و شرکت اکسنچر (از طریق واحد تخصصی خود، Faculty) را به‌عنوان نخستین ارزیاب مستقر انتخاب کرده است؛ دو طرف توافق کرده‌اند طی پنج سال دست‌کم یک میلیارد دلار در این زمینه سرمایه‌گذاری کنند. گام دوم و سوم طرح آمودی نیز به‌ترتیب بر هماهنگی میان کشورهای دموکراتیک برای تدوین استانداردهای مشترک ایمنی، و در نهایت گفت‌وگو با دولت‌های غیردموکراتیک بر سر محدودسازی توسعه بی‌مهار هوش مصنوعی تمرکز دارد. آمودی تصریح کرده که منظور از «کاهش سرعت»، متوقف‌کردن آموزش مدل‌ها نیست، بلکه فرصت‌دادن کافی برای همسوسازی و ایمن‌سازی مدل‌ها پیش از عرضه است.

کالیفرنیا تنها بازیگر این میدان نیست

ایده الزام قانونی به داشتن یک کلید قطع اضطراری، در سطح کنگره آمریکا نیز طرفدارانی پیدا کرده است. نمایندگان تد لیو و ناتانیل موران، در یک لایحه دوحزبی با عنوان «قانون کلید قطع هوش مصنوعی»، خواستار آن شده‌اند که توسعه‌دهندگان سامانه‌های قدرتمند هوش مصنوعی موظف باشند توانایی محدودکردن، متوقف‌کردن موقت یا خاموش‌کردن کامل مدل‌های خود را حفظ کنند؛ طرحی که وزارت امنیت داخلی آمریکا را نیز مجاز می‌سازد در برابر سامانه‌هایی که ریسک فاجعه‌بار دارند، اقدام الزام‌آور انجام دهد.



در سطح ایالتی نیز، جاش شاپیرو، فرماندار پنسیلوانیا، که او نیز نامش به‌عنوان یکی از گزینه‌های احتمالی انتخابات ریاست‌جمهوری ۲۰۲۸ مطرح است، هفته گذشته در یک نشست در پیتسبورگ بار دیگر بر ضرورت تقویت نظارت بر هوش مصنوعی تأکید کرده بود.

چالش قانونی در راه است

با این حال، این اقدام ایالتی احتمالاً با موانع حقوقی روبه‌رو خواهد شد. در اواخر سال ۲۰۲۵، دونالد ترامپ یک دستور اجرایی فدرال امضا کرده بود که آشکارا هدفش محدودکردن توانایی ایالت‌ها برای وضع مقررات مستقل درباره هوش مصنوعی است. نیوسام در بیانیه خود به این موضوع اشاره کرد و دولت فدرال و کنگره را به «غفلت از مسئولیت» متهم کرد و گفت در حالی که واشنگتن از انجام وظیفه خود برای محافظت از آمریکایی‌ها سر باز می‌زند، کالیفرنیا در حال ساخت قوی‌ترین چارچوب نظارتی هوش مصنوعی در کشور است و معتقد است این چارچوب باید به الگوی ملی تبدیل شود.



گفتنی است پیش‌تر رهبران بزرگ صنعت هوش مصنوعی از جمله داریو آمودی (آنتروپیک)، سم آلتمن (OpenAI) و ایلان ماسک (xAI) همگی علنا خواستار وضع مقررات فدرال برای هوش مصنوعی شده بودند، اما دونالد ترامپ تنها چند روز پیش از امضای این دستور اجرایی توسط نیوسام، این درخواست‌ها را رد کرده بود.

پرونده‌ای که به انتخابات ۲۰۲۸ هم گره خورده

نیوسام که دوره فرمانداری‌اش در ژانویه به پایان می‌رسد، بارها گفته در حال بررسی احتمال نامزدی در انتخابات ریاست‌جمهوری ۲۰۲۸ است، هرچند رسماً نامزدی خود را اعلام نکرده. این دستور اجرایی، در کنار موضع‌گیری‌های مشابه فرمانداران دیگری مانند شاپیرو، نشان می‌دهد موضوع نظارت بر هوش مصنوعی به یکی از محورهای اصلی رقابت‌های سیاسی پیش‌رو در حزب دموکرات تبدیل شده است.