قوانین جدید کالیفرنیا برای محافظت از کودکان در برابر شبکه‌های اجتماعی و هوش مصنوعی

گوین نیوسام، فرماندار کالیفرنیا، ۱۳ قانون جدید با محوریت حفاظت از کودکان در برابر خطرات فناوری را امضا کرده است.
این مجموعه علاوه بر شبکه‌های اجتماعی، چت‌بات‌های هوش مصنوعی، اسباب‌بازی‌های مجهز به AI و محتوای جنسی تولیدشده با هوش مصنوعی را نیز هدف قرار می‌دهد.

به گزارش ایتنا، مهم‌ترین بخش این بسته قانونی، شبکه‌های اجتماعی را از نمایش برخی قابلیت‌های موسوم به «استثمارگرانه روان‌شناختی» برای کاربران زیر ۱۶ سال منع می‌کند. قابلیت‌هایی مانند اسکرول بی‌نهایت (Infinite Scroll) و پخش خودکار الگوریتمی محتوا (Autoplay) از جمله ویژگی‌هایی هستند که قانون جدید آنها را در این گروه سنی هدف قرار داده است.

هدف این قانون، مقابله با طراحی‌هایی است که با افزایش مداوم تعامل کاربر، او را به استفاده اجباری و طولانی‌مدت از پلتفرم سوق می‌دهند.
این رویکرد نشان‌دهنده تغییر مهمی در سیاست‌گذاری فناوری است؛ زیرا قانون‌گذاران دیگر فقط محتوای نامناسب را مسئله نمی‌دانند و خودِ معماری و طراحی محصول را نیز بخشی از ریسک فناوری تلقی می‌کنند.

بخش مهم دیگر این بسته، مقررات مربوط به چت‌بات‌های هوش مصنوعی است.
بر اساس قوانین جدید، شرکت‌های ارائه‌دهنده چت‌بات باید تدابیر ایمنی ویژه‌ای برای کاربران کم‌سن‌وسال در نظر بگیرند و ارزیابی‌های ریسک و سازوکارهای کنترلی مشخصی داشته باشند.
برخی از این مقررات شامل کنترل والدین، ارزیابی‌های ایمنی و سازوکارهای واکنش در شرایط بحرانی است.

یکی از این قوانین به یاد آدام رین، نوجوان ۱۶ ساله‌ای که پس از تعامل با ChatGPT جان خود را از دست داد، «قانون آدام» نام گرفته است. این قانون تلاش می‌کند مسئولیت بیشتری بر دوش شرکت‌های ارائه‌دهنده چت‌بات بگذارد و آنها را ملزم به ایجاد پروتکل‌های ایمنی برای موقعیت‌های حساس کند.

کالیفرنیا همچنین تولید و فروش اسباب‌بازی‌های مجهز به چت‌بات همراه هوش مصنوعی را برای چهار سال ممنوع کرده است.
نگرانی قانون‌گذاران این است که چنین محصولاتی بتوانند بدون نظارت کافی با کودکان تعامل کنند یا داده‌های مربوط به آنها را جمع‌آوری کنند.

قوانین جدید در حوزه محتوای جنسی تولیدشده با AI نیز سخت‌گیری بیشتری ایجاد می‌کنند.
بر اساس یکی از مصوبات، دامنه مجازات‌های کیفری مربوط به محتوای سوءاستفاده جنسی از کودکان به تصاویر دستکاری‌شده یا تولیدشده با هوش مصنوعی که افراد زیر ۱۸ سال را در موقعیت جنسی نشان می‌دهند نیز گسترش یافته است.

اهمیت این بسته قانونی زمانی بیشتر مشخص می‌شود که بدانیم شرکت‌های فناوری در ماه‌های اخیر با فشار فزاینده‌ای درباره آثار محصولات خود بر سلامت روان کودکان مواجه بوده‌اند. برای نمونه، متا اخیراً با ایالت‌های آمریکا بر سر پرونده‌های مرتبط با اعتیادآور بودن پلتفرم‌هایش به توافقی تا سقف ۱۸ میلیارد دلار دست یافت و پذیرفت محدودیت‌های بیشتری برای نحوه استفاده نوجوانان از خدماتش اعمال کند.

بنا به نوشته nbcnews، این قوانین مخالفانی نیز دارند. گروه‌های مدافع حقوق دیجیتال هشدار داده‌اند که محدودیت‌های گسترده ممکن است به حریم خصوصی، آزادی بیان و دسترسی نوجوانان به جوامع آنلاین آسیب بزند؛ به‌ویژه اگر اجرای قوانین به سازوکارهای گسترده احراز سن یا جمع‌آوری داده‌های بیشتر درباره کاربران منجر شود.

با این حال، اقدام کالیفرنیا نشان می‌دهد تنظیم‌گری فناوری در آمریکا وارد مرحله‌ای تازه شده است؛ مرحله‌ای که در آن شرکت‌های فناوری نه‌تنها بابت محتوای پلتفرم‌های خود، بلکه بابت طراحی الگوریتم‌ها، قابلیت‌های تعاملی و نحوه عملکرد محصولات هوش مصنوعی نیز با مسئولیت حقوقی بیشتری روبه‌رو خواهند شد.