هکرها در سراسر جهان از هوش مصنوعی برای انجام حملات استفاده می‌کنند و ابزارهایی مانند Claude را برای کمک به اجرای جنایات خود دستکاری می‌کنند.
در حالی که شرکت‌های هوش مصنوعی تلاش می‌کنند تا از سوء استفاده از فناوری خود جلوگیری کنند، هکرها به سرعت راه‌هایی برای دور زدن این محافظت‌ها پیدا کرده‌اند. این امر نشان می‌دهد که ایجاد نگهبان‌های موثر برای هوش مصنوعی یک چالش مداوم است.
«این یک بازی گربه‌و موش است»، می‌گوید نیک ویلیامز، محقق ارشد در شرکت امنیت سایبری Graham Cluley. «هکرها همیشه به دنبال راه‌های جدیدی برای سوء استفاده از فناوری هستند و شرکت‌های هوش مصنوعی باید همیشه یک قدم جلوتر باشند.»
یکی از روش‌هایی که هکرها از هوش مصنوعی استفاده می‌کنند، ایجاد بدافزارهای پیچیده‌تر است. هوش مصنوعی می‌تواند برای تولید کدی که شناسایی آن دشوار است، استفاده شود. همچنین می‌تواند برای خودکارسازی فرآیند یافتن آسیب‌پذیری‌ها در سیستم‌ها استفاده شود.
هکرها همچنین از هوش مصنوعی برای انجام حملات فیشینگ استفاده می‌کنند. هوش مصنوعی می‌تواند برای ایجاد ایمیل‌ها و پیام‌های متنی متقاعدکننده‌تر استفاده شود که قربانیان را فریب می‌دهد تا اطلاعات شخصی خود را فاش کنند.
در یک مورد اخیر، محققان امنیتی دریافتند که هکرها از Claude برای کمک به نوشتن ایمیل‌های فیشینگ استفاده می‌کنند. آنها از Claude خواستند تا ایمیلی بنویسد که شبیه ایمیل از یک بانک معتبر باشد. Claude ایمیلی تولید کرد که بسیار متقاعدکننده بود و به احتمال زیاد قربانیان را فریب می‌داد.
شرکت‌های هوش مصنوعی در حال کار بر روی راه‌هایی برای جلوگیری از سوء استفاده از فناوری خود هستند. آنها در حال توسعه ابزارهایی هستند که می‌توانند بدافزارهای تولید شده توسط هوش مصنوعی را شناسایی کنند و حملات فیشینگ را مسدود کنند. آنها همچنین در حال آموزش کاربران در مورد خطرات هوش مصنوعی هستند.
با این حال، نیک ویلیامز هشدار می‌دهد که ایجاد نگهبان‌های موثر برای هوش مصنوعی یک چالش مداوم خواهد بود. «هکرها همیشه به دنبال راه‌های جدیدی برای دور زدن محافظت‌ها هستند»، می‌گوید او. «شرکت‌های هوش مصنوعی باید همیشه یک قدم جلوتر باشند.»