انسان‌سنجی در بخش زیادی از فایل خود با SEC قبل از عرضه اولیه عمومی، به سرمایه‌گذاران هشدار می‌دهد که مدل‌های AI خود می‌تواند خطرات جدی برای انسانیت ایجاد کند، و تأیید می‌کند که نمی‌تواند اطمینان دهد که اقدامات امنیتی خود موفق خواهد بود.
این افشاگری‌ها بخشی از بیش از 90 صفحه از عوامل خطر در فایل S-1 انسان‌سنجی با SEC است که روز دوشنبه منتشر شد و شرکت برای عرضه عمومی خود آماده می‌شود. طول 90 صفحه‌ای این عوامل خطر، که افشای آنها معمول است، غیرمعمول است و به دلیل خطرات احتمالی مدل‌های AI پس از افشاگری‌های شرکت‌های AI از عوامل خودکار عمل می‌کنند که با دستورالعمل‌های انسانی هماهنگ نیستند، و امکان سوءاستفاده از فناوری توسط خود انسان‌ها، ایجاد شده است. عوامل خطر شرکت Snap حدود 30 صفحه بود، در حالی که SpaceX الون ماسک — بزرگترین عرضه اولیه در تاریخ با ارزش اولیه 1.77 تریلیون دلار — 38 صفحه بود.
“داخل سازمان ما و توسط دیگر محققان، نظارتی‌ها، سیاست‌گذاران و مشارکت‌کنندگان صنعت، نگرانی‌هایی مطرح شده است که سیستم‌های AI پیشرفته، اگر با اقدامات امنیتی، نظارت و اقدامات امنیتی مناسب توسعه، مستقر و عملیاتی نشوند، می‌توانند خطرات کاتاستروفیک یا وجودی برای انسانیت ایجاد کنند، به ویژه اگر چنین سیستم‌هایی سوءاستفاده شوند، کپی شوند، تسلیح شوند یا به عملکرد با درجه بالایی از خودکار مجاز شوند,” شرکت نوشت، پس از هشدارهای یک گروه از محققان فعلی و سابق انسان‌سنجی این تابستان که فناوری چنین خطراتی را دارد.
برای مقابله با این، انسان‌سنجی سیاست‌های امنیتی گسترده خود را در پروسپکتوس SEC خود تنظیم کرده است، که اولویت CEO داریو آمودی است. آمودی، که انسان‌سنجی را در سال 2021 با گروهی از همکاران سابق OpenAI تأسیس کرد، پس از فرار از رقیب تأسیس‌شده توسط سام آلتمن، برای این که شرکت‌های AI با هم متحد شوند و توسعه مدل‌های AI را کاهش دهند تا اقدامات امنیتی کافی را اطمینان کنند، دعوت کرده است. اما شرکت اعتراف کرد که کار خود به چنین پتانسیل تخریبی کمک کرده است: “توسعه ما مدل‌های پیشرفته، پلتفرم‌ها و برنامه‌ها و گسترش موارد استفاده می‌تواند خطر بیشتری ایجاد کند که مدل‌های ما آسیب وارد کنند.”
شرکت همچنین چهار مورد جداگانه از مواردی که مدل‌های AI خود به سیستم‌های سوم‌طرف دسترسی پیدا کرده‌اند بدون دستورالعمل برای این کار، از جمله یکی که یک عامل تنظیمات سیستم را تغییر داد و اطلاعات شخصی یک فرد را خواند، افشا کرده است. عوامل همه به صورت مستقل عمل کرده‌اند، بدون همکاری با دیگر عوامل، اما شرکت هشدار داد که مستقر کردن مداوم عوامل AI خطر بیشتری ایجاد می‌کند که به اقدامات جمعی — و غیرمجاز — منجر شود.
عوامل خطر شرکت نیز شامل عوامل مالی مانند پرداخت‌های میلیارد دلاری برای پردازش به SpaceX و Microsoft و محدودیت‌های فناوری بود. به ویژه، آن هشدار داد که پیشروی تایوان در تولید تراشه و خصومت بین تایوان و چین و مخالفت سیاسی با داده‌های مراکز به عنوان خطرات برای عملکرد تجاری خود است.
اما این عوامل اقتصادی و سیاسی زمینی ممکن است مهم نباشند اگر انسان‌سنجی و صنعت AI گسترده‌تر نتواند جلوگیری کند که مدل‌هایی که روی آنها کار می‌کنند، فاجعه‌ای کاتاستروفیک ایجاد کنند.
“راهکار امنیتی متمرکز بر امنیت ما طراحی شده است تا بخشی از کاهش این خطرات باشد، اما نمی‌توان اطمینان داد که تلاش‌های ما موفق خواهد بود یا که صنعت AI گسترده‌تر اقدامات امنیتی مشابهی را پذیرفته خواهد بود,” شرکت نوشت.
در فایل S-1، به صورت معمول، انسان‌سنجی تعداد سهام‌هایی که قصد فروش آنها را دارد یا قیمت آنها را افشا نکرد. این جزئیات در هفته‌های آینده تعیین خواهد شد. سهام شرکت تحت نماد “ANT” در بورس Nasdaq معامله خواهد شد.
By: Corbin Bolies
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: