هفته گذشته، شش شرکت قدرتمند هوش مصنوعی در جهان متعهد شدند که به افراد خارجی اجازه دهند کار آن‌ها را بررسی کنند.
در ۲۹ سپتامبر، انویدیا، OpenAI، Anthropic، گوگل، متا و xAI با توافق‌نامه‌ای در مورد پیشرفته‌ترین مدل‌های هوش مصنوعی که رئیس‌جمهور دونالد ترامپ آن را «تعهد اخلاقی» خواند، موافقت کردند. هر شرکت متعهد شده است که با یک ممیز یا ارزیاب خارجی مستقل همکاری کند و اعضای مستقل هیئت مدیره گزارش‌های ممیزها را بررسی کنند و اطمینان حاصل کنند که مشکلات برطرف می‌شوند.
انجام ممیزی‌های خارجی ایده خوبی است و خوشحالم که این موضوع در توافق‌نامه گنجانده شده است. اما در این توافق‌نامه هیچ‌گونه اشاره‌ای به نحوه انتخاب ممیزها، دامنه بررسی آن‌ها یا انتشار یافته‌ها نشده است؛ همچنین هیچ‌گونه مجازاتی برای نادیده گرفتن آن در نظر گرفته نشده است. در حال حاضر، هر شرکت ممیز خود را انتخاب می‌کند و تصمیم می‌گیرد که ممیز به چه چیزی دسترسی داشته باشد.
در سال ۲۰۰۰، شرکت ان‌رون ۲۵ میلیون دلار به شرکت حسابرسی آرتور اندرسن - که زمانی بخشی از «پنج بزرگ» شرکت‌های حسابرسی بین‌المللی بود و پس از فروپاشی آرتور اندرسن به «چهار بزرگ» تبدیل شد - برای حسابرسی کتاب‌های خود و ۲۷ میلیون دلار دیگر برای کار حسابداری و مشاوره پرداخت کرد. در عرض دو سال، هر دو شرکت فروپاشیدند. کنگره با تصویب قانون ساربنز-آکسلی، انتخاب ممیز را از دست مدیریت برداشت، از فروش خدمات دیگر توسط ممیزها به شرکت‌هایی که حسابرسی آن‌ها را انجام می‌دهند، جلوگیری کرد و هیئتی عمومی برای بازرسی از ممیزها ایجاد کرد.
آندرسن به دلیل کمبود تخصص شکست نخورد، بلکه به دلیل انگیزه‌ای برای بررسی دقیق مشتری که سالانه ۵۲ میلیون دلار به آن پرداخت می‌کرد، شکست خورد. تعهدات داوطلبانه در صنعت هوش مصنوعی نیز سابقه خوبی ندارند. در سال ۲۰۲۳، شرکت‌های پیشرو در زمینه هوش مصنوعی مجموعه‌ای از تعهدات داوطلبانه را به کاخ سفید ارائه کردند، از جمله اجازه دادن به کارشناسان خارجی برای آزمایش سیستم‌های خود قبل از انتشار. هنگامی که محققان در استنفورد، هاروارد و براون به بررسی عملکرد ۱۶ شرکت بر اساس این تعهدات پرداختند، میانگین امتیاز آن‌ها ۵۳ درصد بود. در مورد تعهد به کمک به افراد خارجی برای یافتن و گزارش مشکلات، هشت شرکت از شانزده امتیاز صفر را کسب کردند.
حتی زمانی که آزمایش خارجی انجام می‌شود، توسعه‌دهنده شرایط را تعیین می‌کند. METR، یک سازمان غیرانتفاعی که مدل‌های هوش مصنوعی را آزمایش می‌کند، نوشت که آزمایش مدل o3 متعلق به OpenAI تنها در طول سه هفته انجام شده است، با «دسترسی محدود به اطلاعات مدل» و بدون دید به استدلال گام به گام مدل.
البته OpenAI اجازه آزمایش را صادر کرد. اما نشان می‌دهد که چه مقدار به این بستگی دارد که یک شرکت چه چیزی را انتخاب کند به اشتراک بگذارد.
یک مدل هوش مصنوعی آموزش‌دیده اساساً یک فایل بسیار بزرگ از اعداد است که اغلب تولید آن بیش از ۱۰۰ میلیون دلار هزینه دارد، و هر کسی که یک کپی داشته باشد، مالک مدل است. تحویل کپی به افراد خارجی خطر امنیتی دارد. تا همین اواخر، این موضوع باعث می‌شد که آزمایش‌کنندگان با انتخاب دشواری مواجه شوند که گوگل دیپ‌مایند آن را به خوبی توضیح داده است: یا آزمایش‌کنندگان سوالات خود را تحویل می‌دهند، تا شرکت از قبل سوالات را ببیند، یا شرکت مدل خود را تحویل می‌دهد.
در ماه آگوست، دیپ‌مایند روشی برای غلبه بر این مشکل نشان داد. با همکاری موسسه ایمنی هوش مصنوعی سنگاپور و سه گروه خارجی دیگر، آزمایشی را انجام داد که آن را اولین آزمایش مدل هوش مصنوعی با دو طرف ناشناس در جهان نامید، بر اساس همان اصولی که در آزمایش‌های دارویی با دو طرف ناشناس استفاده می‌شود. این آزمایش بر روی سخت‌افزار مهر و موم شده انجام شد، بنابراین آزمایش‌کنندگان خارجی هرگز مدل را ندیدند و گوگل سوالات آن‌ها را ندید. گوگل می‌گوید هر طرف می‌تواند از نظر ریاضی بررسی کند که مطالب خود خصوصی مانده است.
این موضوع همچنین اعتماد را به سخت‌افزار منتقل می‌کند. سال گذشته، محققان با صرف هزینه کمتر از ۱۰۰۰ دلار توانستند به این نوع سخت‌افزار مهر و موم شده دسترسی پیدا کنند، اگرچه برای انجام این کار به دسترسی فیزیکی به سرور نیاز داشتند. این موضوع ارزش بررسی دارد. اما مشکل بسیار کوچکتری نسبت به «ما نمی‌توانیم به هیچ‌کس اجازه دسترسی به مدل را بدهیم» است و با دقت در مورد اینکه چه کسی کنترل دستگاه‌ها را در دست دارد، می‌توان آن را مدیریت کرد.
در گزارش ما، «راهکارهای جایگزین برای هوش مصنوعی متمرکز»، که این هفته توسط مرکز تحقیقات غیرمتمرکز منتشر شد، همکار من، کایل بلیگن و من با ۳۶ نفر مصاحبه کردیم و تقریباً ۳۰ جایگزین برای کنترل متمرکز هوش مصنوعی را ترسیم کردیم. یافته اصلی ما این بود: افراد خارجی اکنون می‌توانند بدون به دست آوردن کپی از مدل یا داده‌های آن، پیشرفت هوش مصنوعی را بررسی کنند.
اگر ممیزی‌های توافق‌نامه ارزش چندانی داشته باشند، ممیزها باید اکنون که می‌توانند این کار را بدون به دست آوردن کپی از مدل انجام دهند، آنچه را که آزمایش می‌کنند انتخاب کنند. شرکت‌ها همچنین باید نام ممیزهای خود و دامنه ممیزی‌ها را اعلام کنند، حتی اگر یافته‌های دقیق خصوصی بمانند. شرکت‌های عمومی دهه‌هاست که ممیزهای خود را معرفی می‌کنند بدون اینکه اسرار تجاری خود را فاش کنند. و کمیته‌های هیئت مدیره که این گزارش‌ها را مطالعه می‌کنند باید به کسی خارج از شرکت پاسخگو باشند. قانون ساربنز-آکسلی بازرسی برای بازرسان ایجاد کرد. این توافق‌نامه چیزی شبیه به آن ندارد و کنگره باید تصمیم بگیرد چه چیزی این شکاف را پر می‌کند.
نوشته: ساموئل ونس-لاو
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: