xAI اکنون به آموزش Grok با استفاده از مواد سوءاستفاده جنسی از کودکان (CSAM) متهم شده است، زیرا تنظیمکنندهها و دادگاهها همچنان به بررسی چگونگی گسترش این مشکل ادامه میدهند و برخی از کاربران Grok دستگیر شدهاند.
در شکایتی که روز چهارشنبه ثبت شده است، شاکی که با نام مستعار جین دو شناخته میشود، توضیح داد که او در اوایل دهه 2000 در سن پیشدبستانی بود که مردان بزرگسال بارها به او تجاوز کردند تا CSAM ایجاد کنند و به بدخواهان آنلاین بفروشند. از آن زمان، تصاویر دو توسط گروههایی مانند مرکز ملی کودکان گمشده و مورد سوءاستفاده (NCMEC) و مرکز کانادایی حفاظت از کودکان (CCCP) هشدار داده شده است.
دو برای حفظ امنیت خود، هشدارهایی را از سیستم اطلاعرسانی قربانیان وزارت دادگستری ایالات متحده دریافت میکند هر زمان که ممکن است در یک تحقیقات جنایی جدید قربانی باشد. اگرچه او هشدارهای بیشماری دریافت کرده است، اما زمانی که CCCP به او اطلاع داد که CSAM تولید شده با هوش مصنوعی را در xAI شناسایی کرده است، شوکه شد. این موضوع دو را دوباره دچار ضربه روانی کرد، که شکایت او ادعا کرد پیامهایی در انجمنهای آنلاین یافت شده است که «بین متجاوزان در حال گفتگو در مورد ایجاد CSAM تولید شده با هوش مصنوعی از شاکی و سایر قربانیان شناخته شده و قدیمی CSAM» وجود دارد.