مدیرعامل آنتروپیک: نگرانی اصلی ما مدل‌های باز نیست، بلکه پیشرفت سریع هوش مصنوعی در چین است

12:35 - 1405/05/06 فناوری

497کلمه 3 دقیقه

مدیرعامل آنتروپیک: نگرانی اصلی ما مدل‌های باز نیست، بلکه پیشرفت سریع هوش مصنوعی در چین است

به گزارش ایتنا

داریو آمودی، مدیرعامل آنتروپیک، با رفع ابهامات درباره موضع این شرکت نسبت به مدل‌های متن‌باز، تأکید کرد که چالش اصلی آن‌ها مدل‌های باز نیست، بلکه سرعت بالای پیشرفت هوش مصنوعی در چین و مخاطرات امنیتی ناشی از انتقال فناوری‌های پیشرفته به این کشور است.

داریو آمودی، مدیرعامل Anthropic، با انتشار یادداشتی تلاش کرد به انتقادهایی که طی روزهای اخیر علیه موضع این شرکت درباره مدل‌های هوش مصنوعی Open Weight مطرح شده بود، پاسخ دهد.

او تصریح کرد که برخلاف برخی برداشت‌ها، شرکت متبوعش خواستار ممنوعیت این مدل‌ها نیست، و شرکت چنین مدل‌هایی را، مادامی که قابلیت‌های خطرناک نداشته باشند، برای اکوسیستم هوش مصنوعی مفید می‌داند.

مدل هوش مصنوعی با وزن‌های باز (Open-Weight Model) به مدلی گفته می‌شود که وزن‌ها یا پارامترهای آموزش‌دیده آن در اختیار عموم قرار می‌گیرد تا پژوهشگران و توسعه‌دهندگان بتوانند آن را اجرا، بررسی یا برای کاربردهای مختلف تنظیم و شخصی‌سازی کنند. با این حال، برخلاف مدل‌های متن‌باز (Open Source)، در مدل‌های با وزن‌های باز معمولاً کد کامل آموزش، داده‌های آموزشی یا تمام جزئیات فرایند توسعه منتشر نمی‌شود؛ بنابراین این مدل‌ها از نظر شفافیت و قابلیت بازتولید، لزوماً متن‌باز محسوب نمی‌شوند، هرچند دسترسی بسیار بیشتری نسبت به مدل‌های کاملاً بسته فراهم می‌کنند.

به گزارش ایتنا، بحث‌ها در این زمینه پس از آن شدت گرفت که بیش از ۳۰ شرکت فناوری، از جمله OpenAI، گوگل، متا، مایکروسافت و انویدیا، نامه‌ای در حمایت از مدل‌های Open-Weight امضا کردند، اما آنتروپیک به این ابتکار نپیوست. همین موضوع باعث شد برخی منتقدان این شرکت را به تلاش برای محدود کردن رقابت و حمایت از مدل‌های بسته متهم کنند.

آمودی در پاسخ به این انتقادها گفت مخالفتی با انتشار مدل‌های با وزن‌های باز ندارد، اما معتقد است تمرکز سیاست‌گذاران باید بر بخش‌های حساس‌تر زنجیره توسعه هوش مصنوعی باشد؛ از جمله صادرات تراشه‌های پیشرفته، فرآیند «تقطیر مدل» (Model Distillation) و انجام ارزیابی‌های ایمنی برای مدل‌های قدرتمند.

روش «تقطیر مدل» روشی که در آن یک مدل هوش مصنوعی کوچک‌تر با استفاده از خروجی‌های یک مدل بزرگ‌تر آموزش می‌بیند تا بخشی از توانایی‌های آن را با هزینه کمتر به دست آورد.

بنا به گفته آمودی، این اقدامات در کاهش ریسک‌های امنیتی بسیار مؤثرتر از ممنوعیت کلی مدل‌های با وزن‌های باز است.

نگرانی از پیشرفت سریع چین

مدیرعامل آنتروپیک تأکید کرد که نگرانی اصلی این شرکت، رشد سریع توانمندی‌های هوش مصنوعی چین است.او هشدار داد که اگر فناوری‌های پیشرفته آمریکایی به‌راحتی در اختیار رقبای ژئوپلیتیکی قرار گیرد، می‌تواند پیامدهای امنیت ملی به همراه داشته باشد.

از نگاه آمودی، تمرکز بر جلوگیری از انتقال فناوری‌های کلیدی به چین، راهبرد مؤثرتری نسبت به محدود کردن انتشار مدل‌های باز در داخل آمریکا است.

اظهارات او در حالی مطرح می‌شود که طی هفته‌های اخیر، ادعاهایی درباره استفاده برخی شرکت‌های چینی از روش «تقطیر مدل» برای توسعه مدل‌های هوش مصنوعی مطرح شده و این موضوع به یکی از محورهای اصلی رقابت فناوری میان آمریکا و چین تبدیل شده است.

شکاف در میان شرکت‌های بزرگ هوش مصنوعی

بنا به نوشته سایت TechCrunch، موضع آنتروپیک نشان می‌دهد که برخلاف تصور رایج، میان شرکت‌های پیشرو هوش مصنوعی آمریکا درباره نحوه تنظیم‌گری این فناوری اجماع کاملی وجود ندارد.

در حالی که بسیاری از شرکت‌ها از گسترش مدل‌های Open-Weight حمایت می‌کنند، Anthropic بر اعمال کنترل‌های هدفمند بر فناوری‌های حساس و جلوگیری از سوءاستفاده بازیگران خارجی تأکید دارد.

📡منبـع خبـر: www.itna.ir