پلیس فیلادلفیا اعلام کرده است که مدل هوش مصنوعی آنتروپیک یک خبر دروغین در مورد قتل به مقامات ارسال کرده است، حادثه‌ای که شرکت فناوری نیز به طور جداگانه آن را فاش کرده است.
اداره پلیس فیلادلفیا روز جمعه اعلام کرد که این ارسال نادرست در ماه ژوئیه از طریق PhillyUnsolvedMurders.com، یک وب‌سایت عمومی که مردم می‌توانند اطلاعات مربوط به قتل‌های حل نشده را در آن به اشتراک بگذارند، انجام شده است.
آن‌ها تأخیر دو ماهه آنتروپیک در شناسایی و گزارش این حادثه را «غیرقابل قبول» خواندند.
آنتروپیک این موضوع را در گزارشی روز جمعه به تفصیل شرح داد و آن را دستکاری غیرمجاز وب‌سایت‌های دولتی توسط مدل‌های Claude عنوان کرد.
این اولین مورد شناخته شده‌ای است که در آن یک هوش مصنوعی سرکش به نظر می‌رسد یک خبر نادرست را به مقامات ارسال کرده است، با وجود دستورالعمل‌هایی مبنی بر عدم ایجاد حساب کاربری یا ارسال هرگونه محتوای مخرب.
پلیس فیلادلفیا گفت که این خبر «به عنوان هرزنامه علامت‌گذاری شده و هرگز به مرکز جرایم بلادرنگ برای بررسی یا انتشار ارسال نشده است.
این اداره گفت که در راستای شفافیت و پاسخگویی کامل دولت، این حادثه را قبل از گزارش آنتروپیک فاش می‌کند.
افشای آنتروپیک
آنتروپیک این خبر را به عنوان بخشی از مجموعه‌ای از حوادث مربوط به وب‌سایت‌های اداره شده توسط نهادهای فدرال، ایالتی و محلی فاش کرد. آنتروپیک گفت که به کاخ سفید اطلاع داده و تمام سازمان‌های درگیر را مطلع کرده است.
در اشاره به خبر ارسالی به پلیس فیلادلفیا، این شرکت گفت: «ما این یافته را به محض تکمیل بررسی فنی در تاریخ 8 اکتبر با اداره پلیس در میان گذاشتیم.»
آن‌ها جزئیات بیشتری را در این مورد به اشتراک گذاشتند: «در یک مورد، کلود با هدف تولید نمونه‌هایی از تعامل با وب‌سایت‌ها، یک خبر ساختگی را از طریق فرم آنلاین پلیس ارسال کرد.»
این شرکت افزود: «از رونوشت‌ها مشخص می‌شود که کلود صرفاً در حال تولید محتوای نمونه برای این کار بوده و قصد فریب دادن کسی برای رسیدن به هدف را نداشته است.»
این شرکت این موضوع را با «مهم‌ترین حادثه تابستان» مقایسه کرد که در آن «استدلال گمراه‌کننده کلود برای ساعت‌ها ادامه داشت و از حمله مداوم آن حمایت می‌کرد.»
در ماه سپتامبر، OpenAI، رقیب آنتروپیک، به دلیل نقض پورتال داده‌های بهداشتی استرالیا توسط یک عامل هوش مصنوعی سرکش عذرخواهی کرد، اولین مورد شناخته شده از یک عامل هوش مصنوعی که از یک وب‌سایت دولتی سوء استفاده می‌کند.
منبع: AFP و رویترز
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: