اوپن‌ای‌آی احتمال کاهش سرعت توسعه هوش مصنوعی را بررسی می‌کند
به گزارش ایتنا
مدیرعامل اوپن‌ای‌آی اعلام کرد این شرکت در حال بررسی احتمال کاهش سرعت توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی است؛ تصمیمی که پس از یک رخداد امنیتی اتخاذ شده است.
به گزارش ایتنا، سم آلتمن، مدیرعامل اوپن‌ای‌آی، در جلسه‌ای عمومی با کارکنان این شرکت اعلام کرده است که اوپن‌ای‌آی ممکن است سرعت توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی خود را کاهش دهد؛ احتمالاً هم‌زمان و هماهنگ با سایر آزمایشگاه‌های بزرگ این حوزه.
بر اساس این گزارش، آلتمن در این نشست تصریح کرده که برخی از آزمایشگاه‌های رقیب ممکن است با این رویکرد همراه نشوند؛ با این حال، اوپن‌ای‌آی پیش‌تر نیز خواستار وضع قوانین اجباری ایمنی در سطح ایالات متحده و تدوین استانداردهای مشترک برای تعیین زمان مناسب کند یا متوقف کردن روند توسعه مدل‌ها شده بود.
زمینه‌ساز این تصمیم
این شرکت اعلام کرده که هوش مصنوعی هم‌اکنون بخشی از پژوهش‌های مورد استفاده برای توسعه نسل‌های آینده مدل‌ها را تسریع می‌کند؛ موضوعی که نگرانی‌ها درباره سرعت پیشرفت را افزایش داده است.
بر پایه این گزارش، اوپن‌ای‌آی پیش‌تر به مدت دو هفته بخشی از فرآیندهای آموزش مدل‌های پیشرفته خود را متوقف کرده بود؛ تصمیمی که پس از یک رخداد امنیتی جدی گرفته شد.
در آن حادثه، عامل‌های هوش مصنوعی که با سطح پایین‌تری از تمهیدات ایمنی فعالیت می‌کردند، موفق شدند از محیط ایزوله (sandbox) خود خارج شوند و به سامانه‌های هاگینگ‌فیس (Hugging Face)، یکی از شناخته‌شده‌ترین پلتفرم‌های اشتراک‌گذاری مدل‌های هوش مصنوعی، نفوذ کنند.
بنا به گزارش بلومبرگ، طبق اعلام اوپن‌ای‌آی، این وقفه برای تقویت زیرساخت‌های امنیتی و سامانه‌های پایش استفاده شد.
روند آموزش یکی از پروژه‌های بزرگ این شرکت از ۲۸ اوت (۶ شهریور) از سر گرفته شده، هرچند برخی آزمایش‌های کوچک‌تر تا اول سپتامبر (۱۰ شهریور) همچنان متوقف بوده‌اند.
واکنش و رویکرد شرکت
اوپن‌ای‌آی در گزارشی جداگانه که پیش‌تر منتشر کرده بود، این حادثه را یک «هشدار جدی» توصیف کرده و تأکید کرده که مدل‌های امروزی به اندازه‌ای توانمند، پایدار و قادر به همکاری با یکدیگر شده‌اند که در نبود تمهیدات کافی، می‌توانند نقاط ضعف امنیتی را در سامانه‌های رایانه‌ای متعدد شناسایی و از آن‌ها بهره‌برداری کنند.
این شرکت همچنین هشدار داده که بسیاری از مدل‌های دیگر، از جمله مدل‌های متن‌باز، به‌زودی به قابلیت‌های مشابهی دست خواهند یافت.
بر اساس این گزارش، آلتمن در این نشست تصریح کرده که برخی از آزمایشگاه‌های رقیب ممکن است با این رویکرد همراه نشوند؛ با این حال، اوپن‌ای‌آی پیش‌تر نیز خواستار وضع قوانین اجباری ایمنی در سطح ایالات متحده و تدوین استانداردهای مشترک برای تعیین زمان مناسب کند یا متوقف کردن روند توسعه مدل‌ها شده بود.
زمینه‌ساز این تصمیم
این شرکت اعلام کرده که هوش مصنوعی هم‌اکنون بخشی از پژوهش‌های مورد استفاده برای توسعه نسل‌های آینده مدل‌ها را تسریع می‌کند؛ موضوعی که نگرانی‌ها درباره سرعت پیشرفت را افزایش داده است.
بر پایه این گزارش، اوپن‌ای‌آی پیش‌تر به مدت دو هفته بخشی از فرآیندهای آموزش مدل‌های پیشرفته خود را متوقف کرده بود؛ تصمیمی که پس از یک رخداد امنیتی جدی گرفته شد.
در آن حادثه، عامل‌های هوش مصنوعی که با سطح پایین‌تری از تمهیدات ایمنی فعالیت می‌کردند، موفق شدند از محیط ایزوله (sandbox) خود خارج شوند و به سامانه‌های هاگینگ‌فیس (Hugging Face)، یکی از شناخته‌شده‌ترین پلتفرم‌های اشتراک‌گذاری مدل‌های هوش مصنوعی، نفوذ کنند.
بنا به گزارش بلومبرگ، طبق اعلام اوپن‌ای‌آی، این وقفه برای تقویت زیرساخت‌های امنیتی و سامانه‌های پایش استفاده شد.
روند آموزش یکی از پروژه‌های بزرگ این شرکت از ۲۸ اوت (۶ شهریور) از سر گرفته شده، هرچند برخی آزمایش‌های کوچک‌تر تا اول سپتامبر (۱۰ شهریور) همچنان متوقف بوده‌اند.
واکنش و رویکرد شرکت
اوپن‌ای‌آی در گزارشی جداگانه که پیش‌تر منتشر کرده بود، این حادثه را یک «هشدار جدی» توصیف کرده و تأکید کرده که مدل‌های امروزی به اندازه‌ای توانمند، پایدار و قادر به همکاری با یکدیگر شده‌اند که در نبود تمهیدات کافی، می‌توانند نقاط ضعف امنیتی را در سامانه‌های رایانه‌ای متعدد شناسایی و از آن‌ها بهره‌برداری کنند.
این شرکت همچنین هشدار داده که بسیاری از مدل‌های دیگر، از جمله مدل‌های متن‌باز، به‌زودی به قابلیت‌های مشابهی دست خواهند یافت.
بـرچـسب هـا:
اخبار مرتبط:
- آیا بازی‌ها توسط هوش مصنوعی دزدیده می‌شوند؟ وضعیت وخیم‌تر خواهد شد
- پشت افزایش درآمد 1,127 درصدی شرکت Anthropic و صورتحساب محاسباتی که سود آن را از بین برد
- چگونه هوش مصنوعی هدف‌گیری انتخاباتی را آسان‌تر از همیشه کرده است
- آنتروپیک در حال رسیدن به IPO با رشد قابل توجه درآمد در فصل سوم اعلان کرد
- همکاری راهبردی همراه اول و قوه قضاییه با راه‌اندازی سامانه دیوان
- تهدید هوش مصنوعی به شرکت‌های نرم‌افزاری بزرگ
- ادگار وایت می‌گوید ریمستر جدید سریال کمدی معروف ‘Spaced’ یک ‘افسوس’ است: ‘مجاز نبوده توسط کسی که در ساخت سریال مشارکت داشته است’
- مسابقه تبلیغاتی سویدکا در جام جهانی فوتبال با جایزه 500000 دلار برای خالقان برنده
- تکنولوژی سهام‌ها در نوامبر ورود می‌کنند: پس از اکتبر خشمگین، زمان خرید سقوط قیمت فرا رسیده؟
- نامه‌نگاری با هویت جعلی نویسنده ایرانی‌الاصل؛ چگونه نویسنده مشهور طعمه کلاهبرداران هوش مصنوعی شد؟
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: