انتشار مدل هوش مصنوعی جدید Z.ai میتواند به شرکتها در ایمنسازی سیستمهای خود کمک کند - یا به دست هکرها بیفتد.
مدلهای زبانی بزرگ (LLM) به سرعت در حال پیشرفت هستند و شرکتها به طور فزایندهای از آنها برای طیف وسیعی از وظایف، از جمله امنیت سایبری استفاده میکنند. اما این پیشرفت خطراتی را نیز به همراه دارد. مدلهای قدرتمندتر میتوانند برای اهداف مخرب مورد استفاده قرار گیرند و یافتن راههایی برای مقابله با این خطرات یک چالش مهم است.
Z.ai، یک شرکت هوش مصنوعی مستقر در چین، به تازگی مدل جدیدی به نام Z.ai-3 را منتشر کرده است. این مدل یکی از قدرتمندترین مدلهای زبانی موجود است و میتواند کارهای پیچیدهای مانند نوشتن کد، ترجمه زبانها و پاسخ به سوالات را انجام دهد. Z.ai-3 همچنین میتواند برای شناسایی و پاسخ به تهدیدات سایبری استفاده شود.
با این حال، کارشناسان هشدار میدهند که Z.ai-3 میتواند برای اهداف مخرب نیز مورد استفاده قرار گیرد. به عنوان مثال، هکرها میتوانند از این مدل برای ایجاد بدافزار جدید یا برای فریب دادن افراد برای افشای اطلاعات حساس استفاده کنند. نگرانی اصلی این است که این مدل به راحتی در دسترس قرار گرفته و هر کسی میتواند از آن استفاده کند.
«این یک بازی جدید است»، میگوید دیوید راد، محقق ارشد در موسسه فناوری اطلاعات. «ما قبلاً مدلهای زبانی بزرگ را دیدهایم، اما این مدل به طور قابل توجهی قدرتمندتر از هر چیزی است که قبلاً دیدهایم. این بدان معناست که میتواند برای اهداف مخرب نیز مورد استفاده قرار گیرد.»
Z.ai میگوید که در حال کار بر روی راههایی برای کاهش خطرات مرتبط با Z.ai-3 است. این شرکت میگوید که در حال توسعه ابزارهایی برای شناسایی و جلوگیری از استفاده مخرب از این مدل است. با این حال، کارشناسان میگویند که این کافی نیست.
«ما به یک رویکرد جامعتر نیاز داریم»، میگوید امیلی هولت، محقق در مرکز سیاست امنیت سایبری. «ما باید در مورد خطرات مرتبط با مدلهای زبانی بزرگ آموزش دهیم و باید ابزارهایی را برای کمک به مردم در محافظت از خود در برابر این خطرات توسعه دهیم.»
انتشار Z.ai-3 یک یادآوری است که هوش مصنوعی یک فناوری قدرتمند است که میتواند برای اهداف خوب یا بد مورد استفاده قرار گیرد. ما باید از خطرات مرتبط با این فناوری آگاه باشیم و برای کاهش این خطرات اقدام کنیم.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: