عصر ایران - رقابت آمریکا و چین برای تسلط بر هوش مصنوعی در حالی وارد مرحله حساستری شده که همزمان نگرانیها درباره خطرات این فناوری نیز افزایش یافته است. در چنین شرایطی، ایده همکاری دو کشور برای جلوگیری از خارج شدن هوش مصنوعی از کنترل انسان مطرح شده، اما اختلافات سیاسی، امنیتی و فناوری میان واشنگتن و پکن، دستیابی به یک توافق مشخص را دشوار کرده است.
پیشنهاد نوبل صلح برای توافق هوش مصنوعی
سم آلتمن، مدیرعامل اوپن ای آی(شرکت مالک چت جی پی تی)، پیشنهاد کرده بود اگر دونالد ترامپ و شی جینپینگ بتوانند بر سر یک توافق درباره هوش مصنوعی به نتیجه برسند، هر دو شایسته دریافت جایزه نوبل صلح خواهند بود.
آلتمن هشدار داده است که آمریکا و چین نباید در رقابت برای تسلط بر هوش مصنوعی، کنترل این فناوری را از دست بدهند. از نگاه او، دو کشور میتوانند درباره خطرات مشترکی مانند تولید سلاحهای زیستی با کمک هوش مصنوعی، حملات سایبری علیه زیرساختهای حیاتی و رفتار خارج از کنترل مدلهای پیشرفته با یکدیگر همکاری کنند.
اما فاصله میان این ایده و واقعیت دیپلماتیک بسیار زیاد است.
آمریکا و چین هنوز بر سر یک چارچوب مشترک توافق نکردهاند
واشنگتن و پکن از سال ۲۰۲۴ گفتوگوی رسمی و اختصاصی درباره هوش مصنوعی نداشتهاند. آن زمان دو طرف بر سر یک اصل کلی توافق کردند که کنترل انسان بر سلاحهای هستهای باید حفظ شود.
ترامپ و شی جینپینگ در ماه مه توافق کرده بودند گفتوگوهای مرتبط با هوش مصنوعی را از سر بگیرند و مقامهای آمریکایی امیدوار بودند پیش از سفر شی به آمریکا در ۲۴ سپتامبر، نخستین دور مذاکرات تخصصی برگزار شود.
قرار بود حتی یک کار گروه مشترک متشکل از مقامهای دارای تخصص فنی و اختیار مذاکره تشکیل شود؛ اما این برنامه پس از چند بار تأخیر کنار گذاشته شد و موضوع هوش مصنوعی اکنون در کنار مذاکرات تجاری و سایر مسائل میان دو کشور مطرح میشود.
چرا هوش مصنوعی به موضوعی امنیتی تبدیل شده است؟
نگرانی دو کشور تنها به رقابت اقتصادی محدود نیست. هوش مصنوعی میتواند برای تولید سلاحهای زیستی، حملات سایبری، سرقت داده، عملیات اطلاعاتی و حتی توسعه فناوریهای نظامی مورد استفاده قرار گیرد.
در همین حال، نگرانی درباره مدلهایی که بتوانند بدون نظارت کافی تصمیم بگیرند یا تواناییهای خود را به شکل مستقل توسعه دهند نیز افزایش یافته است.
چین و آمریکا هر دو درباره این خطرات هشدار دادهاند، اما اختلاف اصلی بر سر این است که چه چیزی باید تهدید محسوب شود و چه قواعدی باید بر شرکتهای فعال در این حوزه اعمال شود.
اتهامهای تازه، فضای مذاکرات را سردتر کرده است
در هشتم سپتامبر، اف بی آی و آژانس امنیت ملی آمریکا، آزمایشگاههای هوش مصنوعی چین را متهم کردند که بهصورت سیستماتیک دادههای رقبای آمریکایی را استخراج میکنند؛ ادعایی که چین آن را رد نکرد و استفاده از این روش را بخشی از رفتار معمول صنعت فناوری دانست.
دو روز بعد، شرکت آنتروپیک، یکی از رقبای اصلی اوپن ای آی، نیز مدعی شد برخی آزمایشگاههای چینی کاربران را به سمت مدل کلاود هدایت کردهاند تا از مکالمات انجامشده برای آموزش مدلهای خود استفاده کنند.
این شرکت آمریکایی همچنین مدعی شده که در برخی موارد، کاربران وابسته به نیروهای مسلح و شرکتهای دفاعی چین اطلاعات حساس مربوط به نظارت و طراحی تسلیحات را وارد مدل آمریکایی کردهاند.
پکن این روند را بخشی از تلاش آمریکا برای محدود کردن پیشرفت فناوری چین میداند. مقامهای چینی همچنین هشدار دادهاند که ایجاد فضای تقابلی و رقابت شدید، میتواند تلاشهای جهانی برای تنظیم هوش مصنوعی را دشوارتر کند.
ترامپ: نمیخواهیم در رقابت هوش مصنوعی از چین عقب بمانیم
در همین فضای پرتنش، داریو آمودی، مدیرعامل آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی در سطح جهان شده است؛ پیشنهادی که ترامپ با آن موافقت نکرد.
ترامپ گفته است آمریکا در حال حاضر در رقابت هوش مصنوعی از چین جلوتر است و قصد دارد این موقعیت را حفظ کند. او رقابت بر سر این فناوری را یک رقابت راهبردی دانسته که نتیجه آن میتواند بر قدرت اقتصادی و امنیتی دو کشور تأثیر بگذارد.
این موضع با دیدگاه بخشی از فعالان صنعت فناوری که خواهان احتیاط بیشتر در توسعه مدلهای پیشرفته هستند، فاصله دارد.
چین هم از خطرات هوش مصنوعی نگران است
با وجود اختلافات، نگرانی درباره خطرات هوش مصنوعی در چین نیز افزایش یافته است.
چن ییشین، رئیس دستگاه اطلاعاتی چین در مقالهای که در سپتامبر منتشر شد، درباره استفاده از محتوای تولیدشده توسط هوش مصنوعی برای انتشار شایعات سیاسی و همچنین امکان استفاده از مدلهای آمریکایی برای تولید سلاحهای سایبری هشدار داد.
چین اعلام کرده است ابزارهای فنی خود برای ارزیابی خطرات هوش مصنوعی را توسعه میدهد و دستورالعملهایی برای پیشگیری از خطرات این فناوری منتشر خواهد کرد.
در ماه ژوئیه نیز چین و ۲۸ کشور دیگر سازمانی برای همکاری در حوزه هوش مصنوعی ایجاد کردند؛ اقدامی که نشان میدهد پکن تلاش میکند بخشی از بحث حکمرانی جهانی هوش مصنوعی را خارج از چارچوب روابط دوجانبه با آمریکا دنبال کند.
یک مشکل بزرگ؛ آمریکا و چین حتی تعریف یکسانی از «خطر» ندارند
یکی از موانع اصلی مذاکرات این است که واشنگتن و پکن برداشت یکسانی از مسئله ایمنی هوش مصنوعی ندارند.
آمریکا بیشتر بر خطرات فنی، امنیتی و نظامی مدلهای پیشرفته تمرکز دارد، در حالی که چین بارها موضوعاتی مانند کنترل فناوری، دسترسی به تراشههای پیشرفته و محدودیتهای صادراتی آمریکا را نیز بخشی از بحث هوش مصنوعی دانسته است.
از سوی دیگر، پکن نگران است مذاکرات ایمنی هوش مصنوعی به ابزاری برای حفظ برتری فناوری آمریکا تبدیل شود. چین همچنین خواهان آن است که قواعد احتمالی آینده، شرکتهای آمریکایی و چینی را به یک اندازه پوشش دهد.
توافق بزرگ فعلاً دور از دسترس است
کارشناسان چینی و آمریکایی معتقدند دستیابی به یک توافق جامع درباره هوش مصنوعی در کوتاهمدت دشوار است. یکی از گزینههای واقعبینانهتر میتواند آغاز همکاری در حوزههای محدودتر باشد؛ برای مثال، دو کشور میتوانند اطلاعات مربوط به حوادث و خطاهای جدی مدلهای هوش مصنوعی را با یکدیگر به اشتراک بگذارند.
همچنین امکان دارد آزمایشگاههای آمریکایی و چینی درباره روشهای ارزیابی ایمنی مدلها اطلاعات بیشتری منتشر کنند تا مشخص شود یک سیستم هوش مصنوعی تا چه اندازه با اهداف و محدودیتهای انسانی سازگار است.
موضوع استفاده نظامی از هوش مصنوعی اما همچنان پیچیدهتر است و کارشناسان انتظار ندارند واشنگتن و پکن بهسرعت بر سر آن به توافق برسند.
در شرایط فعلی، حتی حفظ کانال گفتوگو میان دو کشور نیز اهمیت پیدا کرده است چرا که سرعت پیشرفت مدلهای هوش مصنوعی بسیار بیشتر از سرعت شکلگیری قواعد بینالمللی برای کنترل آنهاست. اگر آمریکا و چین نتوانند دستکم درباره برخی خطرات مشترک به تفاهم برسند، رقابت فناوری آنها میتواند همزمان با افزایش نگرانیها درباره پیامدهای کنترلنشده هوش مصنوعی ادامه پیدا کند.