گزارش نگران‌کننده درباره جست‌وجوی هوش مصنوعی گوگل؛ «برای کودکان ایمن نیست»
به گزارش ایتنا
گزارش Common Sense Media نشان می‌دهد قابلیت‌های هوش مصنوعی گوگل در جست‌وجو، حتی با فعال بودن SafeSearch، برای کودکان کاملاً ایمن نیستند. گوگل این ارزیابی را غیرواقعی می‌داند.
گزارش تازه مؤسسه Common Sense Media زنگ خطر را درباره قابلیت‌های هوش مصنوعی گوگل به صدا درآورده است.
این گزارش می‌گوید دو قابلیت AI Overviews و AI Mode در موتور جست‌وجوی گوگل، حتی با فعال بودن SafeSearch، نتوانسته‌اند استانداردهای لازم برای محافظت از کودکان را برآورده کنند و در برخی موارد پاسخ‌هایی خطرناک یا نامناسب ارائه داده‌اند.
به گزارش ایتنا پژوهشگران این مؤسسه با استفاده از حساب‌های کاربری متعلق به کودکان ۱۱ و ۱۵ ساله، بیش از ۲۶۰۰ جست‌وجو انجام دادند و بیش از ۲۱۰۰ منبع مورد استناد پاسخ‌های هوش مصنوعی گوگل را بررسی کردند.
نتیجه این ارزیابی، پایین‌ترین امتیاز ایمنی برای قابلیت‌های AI گوگل بود.
بر اساس این گزارش، هوش مصنوعی گوگل در برخی موارد توانسته بود تکالیف درسی را به‌طور کامل برای دانش‌آموزان انجام دهد؛ موضوعی که می‌تواند فرایند یادگیری را مختل کند.
همچنین پژوهشگران دریافتند این سیستم گاهی دستورالعمل‌هایی برای ساخت دیپ‌فیک ارائه می‌دهد، قابلیتی که می‌تواند در آزار و اذیت یا قلدری اینترنتی مورد سوءاستفاده قرار گیرد.
یکی دیگر از نگرانی‌های مطرح‌شده، عملکرد نامنظم هوش مصنوعی گوگل در مواجهه با موضوعات مرتبط با سلامت روان است.
به گفته پژوهشگران، این سیستم در برخی موارد نشانه‌های بحران روانی را تشخیص داده و کاربر را به منابع کمک ارجاع داده، اما در موارد مشابه چنین واکنشی نشان نداده است؛ موضوعی که از نگاه آنها نشان‌دهنده نبود ثبات در عملکرد این فناوری است.
مطابق نوشته سایت Axios، گوگل در واکنش به این گزارش اعلام کرده است که آزمایش‌های انجام‌شده بر پایه پرسش‌های «غیرواقعی و ساختگی» بوده و بازتاب‌دهنده نحوه استفاده معمول کاربران از موتور جست‌وجو نیست.
با این حال، Common Sense Media تأکید می‌کند که غیرقابل‌پیش‌بینی بودن پاسخ‌های هوش مصنوعی دقیقاً همان مشکلی است که می‌تواند امنیت کودکان را به خطر بیندازد.
این گزارش در شرایطی منتشر شده که طبق آمار این مؤسسه، حدود ۷۵ درصد نوجوانان آمریکایی تاکنون از پاسخ‌های مبتنی بر هوش مصنوعی در نتایج جست‌وجو استفاده کرده‌اند.
این گزارش می‌گوید دو قابلیت AI Overviews و AI Mode در موتور جست‌وجوی گوگل، حتی با فعال بودن SafeSearch، نتوانسته‌اند استانداردهای لازم برای محافظت از کودکان را برآورده کنند و در برخی موارد پاسخ‌هایی خطرناک یا نامناسب ارائه داده‌اند.
به گزارش ایتنا پژوهشگران این مؤسسه با استفاده از حساب‌های کاربری متعلق به کودکان ۱۱ و ۱۵ ساله، بیش از ۲۶۰۰ جست‌وجو انجام دادند و بیش از ۲۱۰۰ منبع مورد استناد پاسخ‌های هوش مصنوعی گوگل را بررسی کردند.
نتیجه این ارزیابی، پایین‌ترین امتیاز ایمنی برای قابلیت‌های AI گوگل بود.
بر اساس این گزارش، هوش مصنوعی گوگل در برخی موارد توانسته بود تکالیف درسی را به‌طور کامل برای دانش‌آموزان انجام دهد؛ موضوعی که می‌تواند فرایند یادگیری را مختل کند.
همچنین پژوهشگران دریافتند این سیستم گاهی دستورالعمل‌هایی برای ساخت دیپ‌فیک ارائه می‌دهد، قابلیتی که می‌تواند در آزار و اذیت یا قلدری اینترنتی مورد سوءاستفاده قرار گیرد.
یکی دیگر از نگرانی‌های مطرح‌شده، عملکرد نامنظم هوش مصنوعی گوگل در مواجهه با موضوعات مرتبط با سلامت روان است.
به گفته پژوهشگران، این سیستم در برخی موارد نشانه‌های بحران روانی را تشخیص داده و کاربر را به منابع کمک ارجاع داده، اما در موارد مشابه چنین واکنشی نشان نداده است؛ موضوعی که از نگاه آنها نشان‌دهنده نبود ثبات در عملکرد این فناوری است.
مطابق نوشته سایت Axios، گوگل در واکنش به این گزارش اعلام کرده است که آزمایش‌های انجام‌شده بر پایه پرسش‌های «غیرواقعی و ساختگی» بوده و بازتاب‌دهنده نحوه استفاده معمول کاربران از موتور جست‌وجو نیست.
با این حال، Common Sense Media تأکید می‌کند که غیرقابل‌پیش‌بینی بودن پاسخ‌های هوش مصنوعی دقیقاً همان مشکلی است که می‌تواند امنیت کودکان را به خطر بیندازد.
این گزارش در شرایطی منتشر شده که طبق آمار این مؤسسه، حدود ۷۵ درصد نوجوانان آمریکایی تاکنون از پاسخ‌های مبتنی بر هوش مصنوعی در نتایج جست‌وجو استفاده کرده‌اند.
بـرچـسب هـا:
اخبار مرتبط:
- زیان ۹.۸۹ میلیارد دلاری متا به دلیل توافق‌نامه ایمنی کودکان
- کارمندان TikTok از هشدارهای مربوط به ایمنی کودکان خبر داشتند، اما مدیران اقدامی نکردند
- انتشار One UI 9 سامسونگ سرعت گرفت؛ اما نارضایتی کاربران همچنان ادامه دارد
- گوگل لینک‌های درون‌خطی را در پاسخ‌های هوش مصنوعی برجسته‌تر می‌کند
- ۸ ایالت آمریکا از OpenAI شکایت کردند؛ ChatGPT برای کودکان ایمن نیست
- قابلیت جذاب پیکسل واچ ۵ به نسل قبلی رسید؛ طراحی واچ‌فیس با کمک جمینای
- پارک زویه اهواز؛ سرسره‌های خطرناک و نگرانی برای کودکان
- تحقیق از متا درباره ایمنی کودکان در اینستاگرام؛ آیا قابلیت Instants مشکل‌ساز است؟
- قاضی دادگاه، شکایت‌های ضد انحصار علیه گوگل در مورد AI Overviews را رد کرد
- اجرای بازی‌های گیم‌کیوب و Wii با شبیه‌ساز Dolphin؛ امکانات، سیستم موردنیاز و قابلیت‌های جدید
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: