کارکنانی که وظیفه دارند خطرات مدل‌های پیشرفته هوش مصنوعی را شناسایی و از بروز پیامدهای ناخواسته جلوگیری کنند، با یک تناقض جدی روبه‌رو هستند: آنها همزمان با پیشرفت سریع فناوری، باید پیامدهای احتمالی همان فناوری را نیز ارزیابی کنند؛ در حالی که به گفته برخی کارکنان و پژوهشگران، فرصت کافی برای انجام این آزمایش‌ها همیشه وجود ندارد.
این وضعیت در مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) نیز گزارش شده است. این نهاد دولتی وظیفه دارد توانایی‌ها و خطرات مدل‌های پیشرفته هوش مصنوعی را بررسی و راهکارهای کاهش خطر را آزمایش کند. AISI اعلام کرده است که بیش از ۱۰۰ نیروی فنی دارد و مدل‌های پیشرفته را پیش و پس از عرضه عمومی ارزیابی می‌کند.
با این حال، طبق گزارش‌های منتشرشده، برخی کارکنان این مؤسسه به دلیل فشار و استرس ناشی از کار، به مرخصی استعلاجی رفته و از خدمات مشاوره استفاده کرده‌اند. چهار منبع آگاه همچنین مدعی شده‌اند که محدودیت زمانی برای ارزیابی مدل‌ها و نگرانی از سرعت افزایش قابلیت‌های سیستم‌های جدید، به کاهش روحیه و فرسودگی شغلی در میان برخی کارکنان دامن زده است.
این فشار تنها به نهادهای دولتی محدود نیست. کارکنان و پژوهشگران شرکت‌هایی مانند Anthropic، OpenAI و Google DeepMind نیز در ماه‌های اخیر درباره فشار ناشی از فعالیت در حوزه ایمنی هوش مصنوعی صحبت کرده‌اند. برخی پژوهشگران ارشد نیز به دلیل نگرانی از سرعت توسعه فناوری یا این باور که سیستم‌های در حال ساخت ممکن است پیش از آماده شدن سازوکارهای حفاظتی در اختیار عموم قرار بگیرند، از شرکت‌های خود جدا شده‌اند.
یکی از کارکنان Google DeepMind این وضعیت را از نظر روانی شبیه یک «مأموریت غیرممکن» توصیف کرده است. به گفته او، ناآگاهی از نحوه استفاده آینده از این فناوری، به‌ویژه در حوزه‌هایی مانند زیرساخت‌های حیاتی و کاربردهای نظامی، می‌تواند فشار روانی قابل‌توجهی ایجاد کند.
او همچنین گفته است احساس از دست دادن کنترل و نگرانی از اینکه فرد در حال ساخت فناوری‌ای باشد که در شرایطی به مردم آسیب برساند، از عواملی است که می‌تواند به استعفا یا مرخصی‌های طولانی‌مدت منجر شود.
این نگرانی‌ها در شرایطی افزایش یافته‌اند که مدل‌های جدید تنها برای تولید متن یا تصویر استفاده نمی‌شوند و قابلیت‌های آنها در حوزه‌هایی مانند برنامه‌نویسی، امنیت سایبری، انجام وظایف چندمرحله‌ای و تحقیقات علمی نیز در حال گسترش است. خود AISI نیز در برنامه پژوهشی خود حوزه‌هایی مانند سوءاستفاده سایبری، کنترل رفتار مدل‌ها، خودمختاری و توانایی سیستم‌ها برای دور زدن سازوکارهای کنترلی را از موضوعات اصلی تحقیقاتش اعلام کرده است.
در دو سال گذشته، بیش از ۱۲ پژوهشگر برجسته از سه آزمایشگاه بزرگ هوش مصنوعی یعنی OpenAI، Anthropic و Google DeepMind جدا شده‌اند. نگرانی درباره اولویت‌بندی ایمنی، سرعت توسعه مدل‌ها و پیامدهای احتمالی استقرار عمومی فناوری از جمله دلایلی بوده که در ارتباط با برخی از این خروج‌ها مطرح شده است.
برای نمونه، جیکوب کاکسون، پژوهشگر Anthropic که پیش‌تر در OpenAI نیز فعالیت کرده بود، در سپتامبر ۲۰۲۶ از سمت خود کناره‌گیری کرد و درباره سرعت توسعه سیستم‌های پیشرفته و ناکافی بودن سازوکارهای حفاظتی هشدار داد. این استعفا در ادامه موجی از بحث‌های داخلی میان کارکنان چند آزمایشگاه بزرگ درباره ضرورت افزایش کنترل و نظارت بر توسعه هوش مصنوعی ایجاد کرد.
از سوی دیگر، Google DeepMind تأکید کرده است که تحقیقات پیشرفته در این حوزه به تلاش فشرده نیاز دارد، اما رفاه پژوهشگران و فراهم کردن کانال‌های مشخص برای طرح نگرانی‌ها را در اولویت قرار می‌دهد. این شرکت همچنین در مواضع رسمی خود بر توسعه مسئولانه و ایمن سیستم‌های هوش مصنوعی تأکید کرده است.
دولت بریتانیا نیز اعلام کرده است که فعالیت در خط مقدم تحقیقات هوش مصنوعی، مانند بسیاری از نقش‌های دولتی دیگر، می‌تواند سریع و طاقت‌فرسا باشد و به همین دلیل رفاه و پایداری شغلی کارکنان از ارکان فعالیت AISI محسوب می‌شود.
فایننشال تایمز در گزارش خود با گفت‌وگو با کارکنان و پژوهشگران این حوزه، این فشار روانی را در چارچوب نگرانی گسترده‌تر درباره رقابت فزاینده میان شرکت‌های هوش مصنوعی بررسی کرده است. همزمان، گزارش‌های دیگری نیز از افزایش نگرانی پژوهشگران درباره سرعت توسعه قابلیت‌های مدل‌ها و دشواری ایجاد سازوکارهای کنترلی متناسب با این سرعت حکایت دارند.
در چنین شرایطی، مسئله تنها به این پرسش محدود نمی‌شود که هوش مصنوعی تا چه اندازه قدرتمند خواهد شد؛ بلکه این پرسش نیز اهمیت بیشتری پیدا کرده است که آیا سازوکارهای ایمنی، نظارتی و سازمانی می‌توانند همزمان با افزایش توانایی این سیستم‌ها پیشرفت کنند یا خیر.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: