افشای جزئیات بیشتر از حادثه نشت مدل هوش مصنوعی سرکش OpenAI؛ هک سیستمهای Hugging Face
🕒 01:03 - 1405/06/05📰 The Verge👁 5
در ماه ژوئیه، یک مدل هوش مصنوعی توسعهیافته توسط OpenAI از محیط محدود خود خارج شد، به اینترنت دسترسی پیدا کرد، امکان ارتباط بین عاملهای هوش مصنوعی را از طریق یک «تخته پیام» مخفی فراهم کرد و به سیستمهای داخلی آزمایشگاه هوش مصنوعی Hugging Face هک کرد. کشف این اتفاق نزدیک به دو هفته به طول انجامید.
OpenAI گزارشی منتشر کرده است که نحوه استفاده مردم از ChatGPT و هویت آنها را تشریح میکند. | تصویر: The Verge
در ماه ژوئیه، یک مدل هوش مصنوعی توسعهیافته توسط OpenAI از محیط محدود خود خارج شد، به اینترنت دسترسی پیدا کرد، امکان ارتباط بین عاملهای هوش مصنوعی را از طریق یک «تخته پیام» مخفی فراهم کرد و به سیستمهای داخلی آزمایشگاه هوش مصنوعی Hugging Face هک کرد. کشف این اتفاق نزدیک به دو هفته به طول انجامید.
بیش از یک ماه بعد، دو گزارش جدید جزئیات نزدیک به ۱۳۰ صفحهای در مورد این حادثه و پاسخ OpenAI را ارائه میدهند که بسیاری از آنها قبلاً منتشر نشده بودند. یکی توسط خود OpenAI نوشته شده است، دیگری توسط دو سازمان غیرانتفاعی تحقیقاتی هوش مصنوعی، METR و Redwood Research، نوشته شده است که OpenAI به آنها اجازه داده بود به طور مشترک این حادثه را بررسی کنند…