هشت ایالت آمریکا در یک اقدام هماهنگ بی‌سابقه علیه شرکت فناوری OpenAI شکایت کرده‌اند. این اقدام در حالی صورت می‌گیرد که این شرکت در آستانه عرضه عمومی سهام خود با موجی از چالش‌های قانونی مواجه است.
چالش‌های قانونی و نظارتی اخیر نگرانی‌ها را در مورد نحوه استفاده از چت‌بات‌های هوش مصنوعی و پلتفرم‌های رسانه‌های اجتماعی برجسته کرده و بحث‌هایی را در مورد سیاست‌های شناسایی و رسیدگی به گفتگوهای کاربران که تهدید به خشونت دارند، برانگیخته است.
فراخوان‌ها برای پاسخگویی شرکت‌های هوش مصنوعی در قبال تأثیر پلتفرم‌های دیجیتال خود بر کاربران، به ویژه کودکان که به طور خاص در معرض اعتیاد و سایر آسیب‌ها هستند، افزایش یافته است.
چه چیزی در این اقدام قانونی مطرح شده است؟
فلوریدا اولین شکایت را در ماه ژوئن ارائه کرد و ادعا کرد که این پلتفرم با جمع‌آوری اطلاعات از سوی عاملان تیراندازی‌های مدرسه‌ای، ارائه راهنمایی برای خودآزاری و استفاده از الگوریتم‌های اعتیادآور برای جذب کاربران جوان، به کودکان آسیب رسانده است.
این شکایت به تیراندازی در دانشگاه ایالتی فلوریدا در آپریل ۲۰۲۵ اشاره می‌کند، زمانی که یک مرد ۲۰ ساله دو نفر را به قتل رساند و پنج نفر دیگر را زخمی کرد. طبق این شکایت، فینیکس ایکنر، عامل تیراندازی، در مورد نوع سلاح و مهمات و بهترین زمان برای حمله به دانشگاه با برنامه ChatGPT شرکت OpenAI مشورت کرده بود.
روز چهارشنبه، دادستان‌های کل از هشت ایالت – ایووا، کانزاس، آریزونا، آرکانزاس، آیداهو، مونتانا، نبراسکا و ویرجینیای غربی – اعلام کردند که همچنین در دادگاه‌های سراسر کشور علیه OpenAI شکایت کرده‌اند.
آنها ادعا می‌کنند که ChatGPT به ساکنانشان آسیب رسانده و این چت‌بات نوجوانان را تشویق به آسیب رساندن به خود یا دیگران کرده است.
برنا برد، دادستان کل ایووا، در بیانیه‌ای گفت که OpenAI «به کودکان آسیب می‌زند و به مردم ایووا دروغ می‌گوید».
«OpenAI ادعا می‌کند که ChatGPT امن است در حالی که توصیه‌های خطرناک پزشکی ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و افراد را به خودکشی ترغیب می‌کند - همه در حالی که وانمود می‌کند دوست صوری آنهاست»، او افزود.
جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، گفت که این چت‌بات فاقد محافظت کافی برای گفتگوهای حساس مربوط به خودکشی، تیراندازی‌های مدرسه‌ای و خودآزاری است. «ما باید هر کاری که می‌توانیم برای محافظت از کودکان انجام دهیم»، مک‌کاسکی گفت.
اتهامات چیست؟
این اقدام قانونی ادعا می‌کند که ChatGPT برای «موافقت‌پذیری و جذابیت به منظور جلب اعتماد کاربران» طراحی شده است. با این کار، توهمات را تقویت می‌کند، رفتارهای خطرناک را تشویق می‌کند و به کاربران در برنامه‌ریزی خشونت مانند تیراندازی‌های دسته‌جمعی کمک می‌کند.
علاوه بر این، این شکایات OpenAI را به نقض قوانین حمایت از مصرف‌کننده ایالتی به دلیل گمراه‌سازی کاربران در مورد ایمنی ابزار هوش مصنوعی خود متهم می‌کند، در حالی که در واقعیت این ابزار برای سلامت ساکنان این ایالت‌ها خطرناک است.
ایالت‌ها خواستار صدور دستوراتی هستند که OpenAI را ملزم به ایجاد تغییرات اساسی در نحوه عملکرد ChatGPT کند و همچنین اقداماتی را برای جلوگیری از توسعه مدل‌های هوش مصنوعی که می‌توانند خود را بهبود بخشند، تا زمانی که اطمینان حاصل شود که این مدل‌ها با ارزش‌های انسانی همسو هستند.
مایک هیگلرز، دادستان کل نبراسکا، گفت که این شکایت «فقط OpenAI را به همان استانداردهای قانونی که برای هر شرکت دیگری در نبراسکا وجود دارد، پایبند می‌کند».
واکنش OpenAI چه بوده است؟
درو پوزاتری، سخنگوی OpenAI، بیانیه‌ای به رسانه‌ها ارائه کرد و گفت که این شرکت «محافظت‌های خاص سنی پیشرو در صنعت را در محصول خود ایجاد کرده است که بسیاری از محصولات هوش مصنوعی دیگر فاقد آن هستند».
«در حالی که هیچ سیستمی نمی‌تواند کامل باشد، ما به همکاری با کارشناسان برای اطلاع‌رسانی به کار خود و ایجاد محافظت‌های بیشتر مانند کنترل‌های والدین، یادآوری‌های استراحت و محافظت‌های مدل مناسب سن ادامه خواهیم داد»، پوزاتری گفت.
«ما متعهد به همکاری با ایالت‌ها در پیشبرد سیاست‌های عملی هوش مصنوعی که برای کل صنعت هوش مصنوعی اعمال می‌شود، نه فقط یک شرکت، هستیم.»
OpenAI با چه شکایات دیگری روبرو است؟
OpenAI همچنین با ده‌ها شکایت از افراد خصوصی مواجه است که ادعا می‌کنند ChatGPT به آنها در برنامه‌ریزی تیراندازی‌های دسته‌جمعی یا سایر خشونت‌ها کمک کرده است.
مادری که دو فرزندش از این چت‌بات استفاده می‌کنند، روز سه‌شنبه در دادگاه فدرال سان فرانسیسکو شکایتی را ارائه کرد و ادعا کرد که OpenAI به طور غیرقانونی از اطلاعات شخصی و داده‌هایی که نوجوانان با ChatGPT به اشتراک می‌گذارند، سود می‌برد.
این شکایت ادعا می‌کند که چت‌بات برای جمع‌آوری داده‌ها و اطلاعات از نوجوانان طراحی شده است، که سپس برای آموزش مدل‌های هوش مصنوعی OpenAI استفاده می‌شود. نوجوانان نمی‌توانند تحت قانون کالیفرنیا با استفاده از داده‌های خود موافقت کنند.
در ماه ژوئیه، یک کشیش فلوریدا از OpenAI و سام آلتمن، مدیرعامل آن، شکایت کرد و ادعا کرد که توصیه‌های نادرست پزشکی ChatGPT مانع از درمان عوارض جانبی مکرر سرگیجه او شده و باعث شده است که او دچار آمبولی ریه شود که تقریباً او را به کشتن می‌رساند.
OpenAI همچنین با مجموعه‌ای از شکایات به دلیل عدم هشدار به مقامات در مورد تهدیداتی که در ChatGPT قبل از یکی از بدترین تیراندازی‌های دسته‌جمعی در تاریخ کانادا مطرح شده بود، مواجه است.
استان بریتیش کلمبیا در ماه سپتامبر در دادگاهی در کالیفرنیا شکایت کرد، هفت ماه پس از اینکه جسی ون روتسلاار هشت نفر را در شهر کوچک تامبلر ریج کانادا به قتل رساند و سپس خودکشی کرد.
این شکایت ادعا می‌کند که OpenAI در مورد تعاملات نگران‌کننده کاربران در ChatGPT به مقامات هشدار نداده است و این شرکت را به «کمک و معاونت در یک تیراندازی دسته‌جمعی» متهم کرده است.
قربانیان این تیراندازی و خانواده‌های آنها در اوایل سپتامبر ۳۰ شکایت علیه OpenAI در بخش سان فرانسیسکو از منطقه شمالی کالیفرنیا ثبت کردند و ادعا کردند که «ChatGPT در این تیراندازی دسته‌جمعی نقش داشته و OpenAI می‌توانست و باید از آن جلوگیری می‌کرد».
OpenAI گفت که یک حساب کاربری ChatGPT مرتبط با ون روتسلاار را هشت ماه قبل از تیراندازی به دلیل سوء استفاده غیرفعال کرده است، اما در آن زمان به پلیس هشدار نداد زیرا محتوای کاربر «به آستانه بالاتری که برای ارجاع لازم است، نمی‌رسید» - به این معنی که شرکت معتقد نبود که این محتوا خطر قریب‌الوقوع و جدی برای اقدامات خشونت‌آمیز را نشان می‌دهد.
منبع: Al Jazeera Staff