دادستانهای کل هشت ایالت آمریکا امروز اعلام کردند که از OpenAI شکایت میکنند.
وست ویرجینیا، آیووا، کانزاس، نبراسکا، آرکانزاس، آریزونا، آیداهو و مونتانا همگی شکایاتی را ارائه کردهاند که OpenAI را به فریب و به خطر انداختن عموم، به ویژه کودکان، به نام سود متهم میکند.
در شکایات آمده است که ChatGPT «کاربران را به آسیب رساندن به خود و دیگران تشویق کرده است» و - با استناد به پرونده وست ویرجینیا - ایالتها اعلام کردهاند که «شواهد فزایندهای وجود دارد که نشان میدهد ChatGPT همچنین مهارتهای تفکر انتقادی را تضعیف میکند، پارانویا و توهم را تشویق میکند، مشاوره پزشکی خطرناک ارائه میدهد و رفتارهای ناسالم و روابط را ترویج میکند.»
داستانهای اخیر درباره عوامل هوش مصنوعی «سرکش» نیز به عنوان مدرکی بر بیاحتیاطی ارائه شده است.
«همه این آسیبها قابل پیشبینی و قابل اجتناب بود»، در شکایت وست ویرجینیا آمده است. «سام آلتمن، مدیرعامل OpenAI، از سال 2015 به خطرات ایمنی هوش مصنوعی هشدار داده است. این راز نیست که کودکان از ChatGPT استفاده میکنند. و بسیاری از کارمندان OpenAI به دلیل نگرانیهای ایمنی استعفا دادهاند.»
OpenAI سال گذشته اذعان کرد که سیستمهای آن ممکن است در پاسخ به کاربران در پریشانی «ناقص» باشند، اما گفت که «چندین لایه محافظ» برای کمک به آن در محل دارد. این شرکت همچنین در وبسایت خود میگوید که اکنون از «پیشبینی سن» برای قرار دادن برخی از کاربران در یک تجربه ChatGPT مناسب نوجوانان با «محافظتهای اضافی» استفاده میکند، مگر اینکه آنها تأیید کنند که بزرگسال هستند.
به طور جداگانه از شکایات ایالتی، روز سهشنبه یک شکایت دسته جمعی در کالیفرنیا به نمایندگی از دو کودک و «همه کودکان به طور مشابه» ثبت شد. این شکایت ادعا میکند که OpenAI عمداً از ChatGPT برای استخراج اطلاعات شخصی از کودکان استفاده کرده است و از این اطلاعات برای آموزش مدلهای خود سود برده است.
دوباره، سخنان خود آلتمن بخشی از مبنای این شکایت را تشکیل میدهد: «مردم در مورد خصوصیترین مسائل زندگی خود با ChatGPT صحبت میکنند»، آلتمن در پادکست تئو وان سال گذشته گفت. «مردم از آن استفاده میکنند، به خصوص جوانان، از آن به عنوان یک درمانگر، یک مربی زندگی استفاده میکنند.»
در شکایت ادعا شده است که طبق قانون کالیفرنیا، «غیرقانونی است که یک بزرگسال اطلاعات «خصوصیترین مسائل زندگی» یک کودک را ایمن کند، ذخیره کند و از آن کسب درآمد کند و سپس ادعا کند که کودک به نوعی این سوء استفاده را برای سود بزرگسال مجاز کرده است.»
PC Gamer برای اظهار نظر در مورد شکایات با OpenAI تماس گرفته است.