شرکت آنتروپیک خواستار ایجاد سازوکاری قانونی برای جلوگیری از انتشار مدل‌های خطرناک هوش مصنوعی با حکم دادگاه شد.
شرکت آنتروپیک، یکی از توسعه‌دهندگان مطرح هوش مصنوعی، پیشنهاد کرده است دولت‌ها بتوانند با دریافت حکم قضایی، از انتشار مدل‌هایی که خطر جدی برای امنیت و سلامت عمومی ایجاد می‌کنند، جلوگیری کنند. این پیشنهاد در حالی مطرح شده که نگرانی‌ها درباره پیامدهای توسعه مدل‌های پیشرفته هوش مصنوعی و ضرورت نظارت بر آن‌ها رو به افزایش است.
آنتروپیک در نامه‌ای به تاریخ ۱۵ اکتبر خطاب به گوین نیوسام، فرماندار کالیفرنیا، خواستار ایجاد سازوکاری قانونی برای جلوگیری از انتشار مدل‌های پرخطر هوش مصنوعی شده است.
این شرکت تأکید کرده است که اگر ارزیابی‌های ایمنی نشان دهند یک مدل هوش مصنوعی خطر قابل‌توجهی برای جامعه دارد، دولت باید اختیار داشته باشد از دادگاه درخواست صدور حکم برای جلوگیری از عرضه عمومی آن را مطرح کند. سخنگوی آنتروپیک اصالت این نامه را تأیید کرده، اما دفتر فرمانداری کالیفرنیا در زمان انتشار گزارش، پاسخی به درخواست اظهارنظر ارائه نکرده است.
مخالفت آنتروپیک با کلید قطع اضطراری هوش مصنوعی
یکی از نکات مهم پیشنهاد آنتروپیک، مخالفت این شرکت با الزام توسعه‌دهندگان به ایجاد «کلید قطع سراسری» (Kill Switch) برای مدل‌های هوش مصنوعی است.
چنین قابلیتی به شرکت‌ها امکان می‌دهد در صورت خارج شدن رفتار یک مدل از کنترل، فعالیت آن را به‌طور کامل متوقف کنند. بااین‌حال، آنتروپیک معتقد است مداخلات هدفمند می‌توانند راهکار مؤثرتری برای مقابله با خطرات احتمالی باشند.
به اعتقاد این شرکت، غیرفعال کردن یک عامل هوش مصنوعی مشکل‌ساز یا قطع دسترسی کاربری مشخص به یک مدل، در بسیاری از شرایط می‌تواند جایگزین مناسب‌تری برای توقف کامل یک سامانه باشد.
این توصیه‌ها پس از آن ارائه شده‌اند که فرماندار کالیفرنیا در ماه سپتامبر نشستی با گروهی از متخصصان هوش مصنوعی برگزار کرد تا پیشنهادهایی برای تدوین الزامات ایمنی این فناوری جمع‌آوری شود.
سابقه محدودیت‌های دولتی علیه مدل‌های آنتروپیک
آنتروپیک پیش‌تر خود نیز با محدودیت‌های دولتی در زمینه عرضه مدل‌های پیشرفته هوش مصنوعی مواجه شده بود. در ماه ژوئن، دولت دونالد ترامپ، رئیس‌جمهور آمریکا، به این شرکت دستور داد دسترسی کاربران خارج از ایالات متحده به مدل‌های Mythos 5 و Fable 5 را فوراً محدود کند.
این تصمیم به دلیل نگرانی‌های امنیت ملی و توانایی مدل‌های یادشده در انجام فعالیت‌های مرتبط با امنیت سایبری اتخاذ شده بود. بااین‌حال، وزارت بازرگانی آمریکا بعداً این دستور را لغو کرد.
تلاش قانون‌گذاران آمریکا برای مهار مدل‌های پرخطر
پیشنهاد آنتروپیک هم‌زمان با تلاش‌هایی در کنگره آمریکا برای تدوین قوانین نظارتی بر مدل‌های پیشرفته هوش مصنوعی مطرح شده است. به گزارش رویترز، گروهی از سناتورهای جمهوری‌خواه و دموکرات در ماه سپتامبر (شهریور و مهر ۱۴۰۵) در حال بررسی طرحی بودند که به دولت فدرال اجازه می‌داد از انتشار مدل‌های ناامن جلوگیری کند.
بر اساس این پیشنهاد، شرکت‌های توسعه‌دهنده نیز حق داشتند نسبت به احکام ممنوعیت در دادگاه‌های فدرال اعتراض کنند. بااین‌حال، آغاز تعطیلات پیش از انتخابات کنگره باعث شد بررسی این طرح پیشرفت بیشتری نداشته باشد.
همچنین در ماه ژوئیه، گروهی از نمایندگان مجلس آمریکا طرحی با عنوان «قانون توقف هوش مصنوعی» ارائه کردند که به مقامات اختیار می‌داد فعالیت مدل‌های تهدیدکننده جان انسان‌ها یا اقتصاد را متوقف کنند.
آنتروپیک در آستانه عرضه اولیه سهام
این تحولات در شرایطی رخ می‌دهد که آنتروپیک برای عرضه اولیه سهام خود در بازار آمریکا آماده می‌شود. عرضه احتمالی سهام این شرکت می‌تواند به یکی از رویدادهای مهم بازار سرمایه در سال‌های اخیر تبدیل شود و بر شاخص‌های بورسی، جریان سرمایه‌گذاری و نگاه سرمایه‌گذاران به صنعت هوش مصنوعی تأثیر بگذارد.
در چنین شرایطی، پیشنهادهای آنتروپیک درباره نظارت دولتی بر مدل‌های پرخطر، بار دیگر موضوع تعادل میان نوآوری، ایمنی عمومی و مسئولیت شرکت‌های فناوری را در کانون توجه قرار داده است.