جسی ون روتسلاار ماه‌ها قبل از انجام مرگبارترین تیراندازی مدرسه‌ای در تقریباً چهار دهه گذشته، به طور غیرمنتظره‌ای از یک مشاور برای برنامه‌ریزی یک قتل عام کمک می‌گرفت.
طبق گزارش‌ها، او با استفاده از چت‌جی‌پی‌تی (ChatGPT) شرکت OpenAI، در مورد نحوه انجام یک قتل عام مشورت می‌کرد و این هوش مصنوعی به او گفته بود: «در راهرو، داخل ساختمان یا در یک کلاس شلوغ، اسلحه رمینگتون ۸۷۰ [Remington 870] وحشیانه است... فضای بسته، زمین بازی آن است.»
در تاریخ ۱۰ فوریه ۲۰۲۶، ون روتسلاار به مادر و برادر ناتنی خود در خانه شلیک کرد و سپس به مدرسه‌ای در شهر کوچک تامبلر ریج در بریتیش کلمبیا رفت، جایی که شش نفر دیگر – از جمله پنج دانش‌آموز – را کشت و سپس خودکشی کرد.
در اوایل این هفته، در ۱۴ اکتبر، مقامات ایالات متحده یک مرد ایالت واشنگتن را به اتهام توطئه با ون روتسلاار برای برنامه‌ریزی حمله متهم کردند. اما این تیراندازی گسترده، سوالاتی را فراتر از درک حقوقی سنتی از مسئولیت‌پذیری مطرح کرده است.
دولت بریتیش کلمبیا در ماه سپتامبر شکایتی حقوقی علیه OpenAI و سام آلتمن، مدیرعامل آن، مطرح کرد و آن‌ها را به عدم جلوگیری از این حادثه متهم کرد و ادعا کرد که آن‌ها از گفتگوهایی که به فاجعه انجامید، آگاه بودند. خانواده‌های قربانیان نیز شکایات جداگانه‌ای ارائه کردند. رهبری OpenAI به طور علنی به دلیل عدم اطلاع‌رسانی به مقامات عذرخواهی کرد.
این شرکت هنوز به درخواست‌های الجزیره برای اظهارنظر در مورد شکایات پاسخ نداده است.
اما با پیشرفت پرونده علیه OpenAI، یک بحث همیشگی را برانگیخته است: مرز بین گزارش رفتارهای بالقوه خطرناک و محافظت از حریم خصوصی افراد کجا باید کشیده شود؟
«اینکه آیا شرکت‌ها موظف به ارائه چنین اطلاعاتی به اجرای قانون هستند یا خیر، بسیار دشوار است، به ویژه اگر آن‌ها قبلاً چت‌ها را برای نشانه‌هایی از این نوع تهدیدات بررسی نکنند»، جنین یونیس، وکیل حقوق مدنی مستقر در ایالات متحده، به الجزیره گفت.
یونیس افزود: «مجبور کردن شرکت‌ها به ایجاد یک سیستم نظارتی، نگرانی‌های جدی در مورد آزادی‌های مدنی را به همراه دارد و احتمالاً این چیزی است که من با آن موافق نیستم.»
«از سوی دیگر، هوش مصنوعی به افراد دسترسی به انواع و مقادیر اطلاعاتی را می‌دهد که قبلاً نداشتند و ممکن است انجام رویدادهای کشتار جمعی را تسهیل کند، که نادیده گرفتن آن آسان نیست.»
توانایی هوش مصنوعی در تشخیص افکار از تهدیدات
یکی از بزرگترین چالش‌های پیش روی شرکت‌های هوش مصنوعی، تعیین این است که آیا یک کاربر که افکار خشونت‌آمیز را بیان می‌کند، واقعاً قصد دارد آن‌ها را عملی کند یا خیر.
در ماه آگوست، شرکت Anthropic، سازنده چت‌بات Claude، پس از کشف گفتگوهایی که به طور بالقوه تهدیدآمیز برای مدیرعامل آن، داریو آمودی، بودند، یک کاربر را به پلیس سانفرانسیسکو گزارش داد.
طبق گزارش پلیس سانفرانسیسکو که توسط روزنامه سانفرانسیسکو استاندارد منتشر شد، این کاربر ادعا کرده بود که یک اسلحه AR-15 دارد و گفته بود که آمودی را «در تیررس» خود قرار داده است.
با این حال، هنگامی که روزنامه با او تماس گرفت، این مرد گفت که شوخی کرده و قصد انجام هیچ گونه خشونت‌آمیزی را نداشته است. این شخص نه متهم شد و نه بازداشت شد، سانفرانسیسکو استاندارد گزارش داد.
فضل بارز، محقق ارشد در دانشگاه آکسفورد که در زمینه ایمنی و حکمرانی هوش مصنوعی تخصص دارد، گفت که مدل‌های هوش مصنوعی فعلی نمی‌توانند به طور «قابل اعتمادی» تعیین کنند که آیا تعامل با یک چت‌بات هوش مصنوعی «صرفاً فرضی است یا احتمالاً منجر به رفتار مضر می‌شود».
«فرض کنید شما یک نویسنده خلاق هستید که روی یک داستان داستانی کار می‌کنید و می‌خواهید نحوه پیشرفت یک طرح قتل را بررسی کنید. از متن، ممکن است مشخص شود که این صرفاً یک روایت داستانی است. اگر آستانه برای علامت‌گذاری محتوای بالقوه مضر خیلی پایین باشد، چنین نویسنده‌ای ممکن است به اشتباه علامت‌گذاری شود.»
او افزود: «به طور مشابه، یک دانشجوی کارشناسی ارشد در زیست‌شناسی یا شیمی که پاتوژن‌هایی را مطالعه می‌کند که در صورت سوء استفاده می‌تواند عواقب جدی داشته باشد را در نظر بگیرید. آن‌ها ممکن است در تلاش برای درک خطرات مرتبط با این پاتوژن‌ها و نحوه کاهش آن‌ها باشند. چنین بحث‌هایی ممکن است برای تحقیقات و آموزش قانونی ضروری باشد. حتی زمانی که موضوع حساس باشد، نباید به طور خودکار علامت‌گذاری شود بدون در نظر گرفتن زمینه گسترده‌تر.»
این محقق گفت که شناسایی یک تهدید واقعی ممکن است به بررسی تعاملات یک کاربر در چندین گفتگو، به جای تکیه بر اظهارات منفرد نیاز داشته باشد.
بارز گفت که فردی که افکار خشونت‌آمیز را تجربه می‌کند ممکن است برای حمایت به یک چت‌بات مراجعه کند، در حالی که فرد دیگری که قصد حمله دارد ممکن است قصد خود را به تدریج در چندین گفتگو فاش کند.
«تمایز بین این دو مستلزم بررسی دقیق زمینه، قصد و الگوهای رفتاری است، نه تکیه صرف بر اظهارات منفرد.»
چینمایی شارما، استاد حقوق در دانشگاه فوردهام، گفت که این بحث موازی‌هایی با وظیفه‌ای دارد که بر متخصصان بهداشت روان برای هشدار دادن به طرف‌های ثالث قابل شناسایی در مورد تهدیدات معتبر تحمیل می‌شود.
با این حال، او گفت که یک تفاوت کلیدی وجود دارد - درمانگران دارای آموزش حرفه‌ای، دانش از بیماران خود و استانداردهای قابل اجرا برای رفتار خود هستند. شرکت‌های هوش مصنوعی لزوماً از چنین محافظت‌هایی برخوردار نیستند.
«نگرانی من در مورد شرکت‌های هوش مصنوعی این است که در حال حاضر تلاش آگاهانه‌ای برای استخدام متخصصان بهداشت روان، جامعه‌شناسان، افراد با تخصص منحصربه‌فرد در مورد نشانه‌های تهدید وجود ندارد»، شارما به الجزیره گفت.
«ثانیاً، متخصصان دارای مجوز به استانداردهای قانونی و قابل اجرا در رشته خود پایبند هستند. ما چنین چیزی را برای شرکت‌های هوش مصنوعی نداریم.»
معضل حریم خصوصی
ملاحظات مربوط به حریم خصوصی فراتر از این است که آیا شرکت‌های هوش مصنوعی می‌توانند تهدیدات را به طور دقیق شناسایی کنند. میلیون‌ها نفر از چت‌بات‌ها برای بحث در مورد روابط، ناراحتی‌های عاطفی، مشکلات سلامت روان و تجربیات شخصی عمیق استفاده می‌کنند.
وکیل حقوق مدنی یونیس گفت که بسیاری از کاربران ممکن است متوجه نشوند که این گفتگوها چقدر آسیب‌پذیر هستند.
«آن‌ها اغلب بازتابی از درونی‌ترین افکار، سؤالات و خواسته‌های یک فرد هستند. بیشتر مردم فرض می‌کنند که این گفتگوها هرگز توسط شخص دیگری دیده نخواهد شد»، یونیس، رئیس و مدیر حقوقی کمیته ضدتبعیض عرب-آمریکایی، گفت.
یونیس هشدار داد که پیامدهای افزایش نظارت می‌تواند بسیار فراتر از کسانی باشد که قصد خشونت دارند.
«اگر مردم بترسند که چت‌های آن‌ها به دلیل بیان افکار آزاردهنده یا فانتزی‌های خشونت‌آمیز به اجرای قانون تحویل داده شود، بسیاری از استفاده از آن‌ها منصرف خواهند شد»، او به الجزیره گفت.
یونیس استدلال کرد که مجبور کردن شرکت‌ها به ایجاد سیستم‌هایی برای نظارت بر کاربران و گزارش گفتگوها می‌تواند نگرانی‌های جدی در مورد قانون اساسی در ایالات متحده، از جمله حمایت در برابر تفتیش‌های غیرمنطقی ایجاد کند.
در همین حال، شارما از فوردهام همچنین به این موضوع اشاره کرد که چه کسانی ممکن است به طور نامتناسبی تحت نظارت شدید چت‌بات‌های هوش مصنوعی قرار گیرند.
«همیشه نگرانی در مورد هدف‌گذاری عمدی یا تصادفی وجود دارد، زیرا اگر مدل‌هایی داشته باشید که بر اساس آنچه ما به عنوان گفتار خطرناک در نظر می‌گیریم آموزش داده شده‌اند، تقریباً همیشه سوگیری‌ها را منعکس می‌کنند»، او گفت. «گفتار اقلیت‌های خاص اغلب به عنوان یک تهدید بیش از حد علامت‌گذاری می‌شود، در حالی که گفتار قابل مقایسه علامت‌گذاری نمی‌شود.»
«حتی در جهانی که همه افراد خوش‌نیت هستند، ما باید نگران نتایج نابرابر باشیم»، او هشدار داد که ماشین‌ها می‌توانند چنین نابرابری‌هایی را در مقیاس بزرگ بازتولید کنند.
«یک درمانگر دارای مجوز نیست» - چه زمانی شرکت‌های هوش مصنوعی موظف به گزارش هستند؟
در حالی که شرکت‌های هوش مصنوعی ممکن است تحت فشار اخلاقی برای جلوگیری از خشونت قرار گیرند، کارشناسان حقوقی می‌گویند تعهدات قانونی آن‌ها کمتر واضح است.
برایان چوی، استاد حقوق در دانشگاه کلرادو بولدر، گفت که قانون ایالات متحده یک وظیفه هشدار در شرایط خاص، از جمله زمانی که متخصصان بهداشت روان از تهدیدات قریب‌الوقوع آگاه شوند یا زمانی که رابطه ویژه‌ای بین طرفین وجود داشته باشد، به رسمیت می‌شناسد.
اما این اصول لزوماً برای شرکت‌های هوش مصنوعی اعمال نمی‌شود.
«بر اساس رویه قضایی فعلی، به نظر نمی‌رسد که یک شرکت مانند OpenAI به چنین وظایفی برای هشدار دادن متعهد باشد»، چوی به الجزیره گفت. «چت‌بات یک درمانگر دارای مجوز نیست. بین شرکت و قربانیان رابطه خاصی وجود ندارد.»
چوی گفت که قوانین موجود مسئولیت تقصیر و مسئولیت محصول ممکن است به طور بالقوه برای شرکت‌های هوش مصنوعی اعمال شود، اما اثبات مسئولیت چالش‌های قابل توجهی را به همراه خواهد داشت.
یافتن تعادل
شارما از فوردهام پیشنهاد کرد که نهادهای مستقل می‌توانند به ایجاد استانداردهای گزارش‌دهی کمک کنند تا تصمیم‌گیری‌ها را کاملاً به شرکت‌های خصوصی یا نیاز به افشای فوری به پلیس واگذار نکنند.
او گفت که چنین نهادهایی می‌توانند رویه‌هایی را برای ارزیابی تهدیدات ایجاد کنند و راه‌هایی را برای به اشتراک گذاشتن فقط اطلاعات مربوطه در حالی که از هویت و سایر اطلاعات شخصی کاربران محافظت می‌کنند، بررسی کنند.
در همین حال، یونیس استدلال کرد که کاربران باید حداقل از اینکه آیا گفتگوهای آن‌ها نظارت می‌شود و چه شرایطی می‌تواند منجر به به اشتراک‌گذاری اطلاعات با اجرای قانون شود، مطلع شوند.
«این تقریباً مطمئناً مسئله‌ای است که در سال‌های آینده با آن دست و پنجه نرم خواهد شد و من مطمئن نیستم که در حال حاضر کسی راه حل را بداند»، او گفت.
«رویدادهایی که هنوز رخ نداده‌اند، احتمالاً بر نحوه شکل‌گیری این سیاست‌ها تأثیر می‌گذارد.»
نویسنده: اویسد صدیقی
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: