سه کارمند سابق OpenAI می‌گویند به دلیل تلاش برای اطمینان از ایمنی هوش مصنوعی اخراج شده‌اند.
محققان ایمنی میکیتا بالسنی، تومک کورباک و جاسمین وانگ روز پنجشنبه پس از اخراج هفته گذشته خود این اتهامات را مطرح کردند. این سه نفر نسبت به ایجاد یک فضای “سردکننده” برای سایر کارکنانی که در مورد خطرات فناوری پیشگام نگران هستند، هشدار دادند.
OpenAI گفته است که آنها به دلیل سوء رفتار در ارتباط با سوء استفاده از اطلاعات شرکت اخراج شده‌اند.
“من معتقدم که ما به دلیل اولویت دادن به ایمنی بر منافع کوتاه‌مدت OpenAI به عنوان یک شرکت اخراج شدیم,” بالسنی در پستی در X نوشت.
کرباک نیز احساس مشابهی ابراز کرد و معتقد بود که به دلیل ابراز نگرانی از اینکه OpenAI “در حال از دست دادن توانایی نظارت بر آنچه که عوامل هوش مصنوعی فکر می‌کنند است، یکی از بهترین ابزارهای ما برای تشخیص زمانی که آنها بدرفتاری می‌کنند” اخراج شده است.
در نامه‌ای سرگشاده که همزمان با پست‌های رسانه‌های اجتماعی آنها منتشر شد، بالسنی، کورباک و وانگ نگرانی خود را ابراز کردند که اخراج آنها باعث شود همکاران سابقشان “از صحبت کردن و عمل کردن به روش‌هایی که تا هفته گذشته بخشی جدایی‌ناپذیر از کار در OpenAI بود، بترسند”.
“ما می‌توانستیم نگرانی‌های ایمنی را مطرح کنیم و به طور آشکار مخالفت کنیم و تشویق می‌شدیم تا از تخصص سازمان‌های ایمنی مستقل استفاده کنیم,” آنها در این نامه نوشتند. “این بخشی از چیزی بود که OpenAI را خاص می‌کرد و به همین دلیل ما بسیار مفتخریم که بخشی از این تیم بوده‌ایم.”
این سه نفر افزودند که “اگر نزدیک‌ترین افراد به خطرات دیگر نتوانند به روش‌های با اعتماد و پهنای باند بالا با یکدیگر و با اشخاص ثالث کار کنند”، نمی‌توان هوش مصنوعی را به طور ایمن توسعه داد.
“ما برای دفاع از این فرهنگ می‌نویسیم,” آنها اظهار کردند.
این سه نفر هرگونه نقض سیاست شرکت را رد کردند و گفتند که هرگونه تعامل با کارشناسان ایمنی خارجی در راستای مأموریت نقش‌های آنها بوده است.
“با توجه به نگرانی‌های ایمنی قابل توجه در مورد توسعه هوش مصنوعی، کارکنان نباید در محیطی کار کنند که ترس و قوانین مبهم کار ایمنی هوش مصنوعی را متوقف کند و پاسخگویی اشخاص ثالث را تضعیف کند,” آنها گفتند.
“اخراج‌هایی مانند اخراج ما که به این سرعت و به طور ناگهانی انجام می‌شود، فرهنگ باز OpenAI را که در گذشته به آن افتخار می‌کرد، سرد می‌کند.”
در بیانیه‌ای، OpenAI گفت که “نقض اعتماد قابل توجهی” توسط محققان سابق را کشف کرده است که فراتر از آن چیزی است که در نامه آنها ذکر شده است و گفت که از تصمیم به اخراج آنها حمایت می‌کند.
“می‌خواهیم بسیار واضح کنیم که این تصمیمات مربوط به ابراز نگرانی‌های ایمنی یا صحبت کردن نبود,” این شرکت مستقر در سان فرانسیسکو گفت.
“مناظرات ایمنی و تحقیقاتی هر روز در OpenAI اتفاق می‌افتد، اغلب پرشور و بسیار انتقادی. ما به شدت این بحث‌ها را تشویق می‌کنیم و آنها را برای تصمیم‌گیری درست ضروری می‌دانیم. ما نمی‌توانیم کار پیش روی خود را بدون درجه بالایی از اعتماد انجام دهیم. ما به تیم خود در انجام اشتباهات با حسن نیت بسیار بخشنده خواهیم بود.”
OpenAI افزود که از نتیجه ناراضی است.
“ما از مشارکت‌های جاسمین، میکیتا و تومک در ایمنی هوش مصنوعی در OpenAI و تمایل آنها به صحبت کردن و به چالش کشیدن ایده‌ها قدردانی می‌کنیم,” این شرکت گفت.
“ما از صدای آنها حمایت کردیم، از کار آنها حمایت کردیم و اعتماد زیادی به آنها داشتیم. این تصمیمات مربوط به ابراز نگرانی‌های ایمنی آنها نبود. ما همیشه این کار را تشویق کرده‌ایم و همیشه خواهیم کرد.”
مداخله کارمندان سابق در حالی رخ می‌دهد که OpenAI و سایر شرکت‌های هوش مصنوعی در مرکز بحث‌های شدید در مورد چگونگی اطمینان از اینکه فناوری به سرعت در حال تکامل، بشریت را در معرض آسیب‌های فاجعه‌بار قرار نمی‌دهد، قرار دارند.
خطر خارج شدن مدل‌های پیشرفته هوش مصنوعی از کنترل انسان از ماه ژوئیه زمانی که مشخص شد عوامل خودمختاری که توسط OpenAI ایجاد شده‌اند، نرم‌افزار استارت‌آپ Hugging Face را هک کرده‌اند، مورد توجه قرار گرفته است.
OpenAI و رقیب اصلی آن، Anthropic، از جامعه بین‌المللی خواسته‌اند تا برای یک کندسازی هماهنگ در توسعه هوش مصنوعی با یکدیگر همکاری کنند.
با این حال، این پیشنهاد توسط دو قدرت پیشرو در هوش مصنوعی، ایالات متحده و چین، رد شده است.
ماه گذشته، OpenAI، Anthropic، Google، Meta، SpaceXAI و Nvidia از یک توافق داوطلبانه حمایت کردند که خواستار تدابیر امنیتی داخلی قوی‌تر و مشارکت ممیزان خارجی برای مدیریت بهتر خطرات ایمنی است.
این توافق که توسط رئیس جمهور دونالد ترامپ اعلام شد، با واکنش متفاوتی از سوی حامیان ایمنی هوش مصنوعی مواجه شد، بسیاری از آنها از ماهیت غیر الزام‌آور آن انتقاد کردند.
OpenAI تعدادی گام برای کاهش خطرات در غیاب مقررات رسمی اعلام کرده است، از جمله لغو انتشار آخرین نسل مدل خود، GPT-6.1 Astra.
سازنده ChatGPT گفت که تصمیم گرفته است انتشار را ادامه ندهد زیرا مدل آن نتوانسته است استانداردهای شرکت را برای عمل مطابق با خواسته‌های انسان برآورده کند.
نویسنده: جان پاور