متا (Meta) نتوانست صدها تبلیغ سوءاستفاده جنسی از کودکان که با استفاده از هوش مصنوعی ایجاد شده بودند را شناسایی کند. برخی از این تبلیغات شامل تصاویر کودکان واقعی بودند.
طبق گزارشها، حدود 350 تبلیغ حاوی محتوای سوءاستفاده جنسی از کودکان در پلتفرمهای متا - از جمله اینستاگرام و فیسبوک - منتشر شده بودند. این تبلیغات با استفاده از هوش مصنوعی تولید شده بودند و تصاویر برخی از آنها از کودکان واقعی گرفته شده بود، از جمله یکی از اعضای خانواده سلطنتی اروپا.
قانونگذاران از این موضوع ابراز نگرانی کرده و اعلام کردهاند که قصد دارند در این مورد تحقیق کنند. آنها از متا خواستهاند تا اقدامات لازم را برای جلوگیری از انتشار چنین تبلیغاتی در آینده انجام دهد.
متا در واکنش به این انتقادات، اعلام کرده است که در حال بررسی این موضوع است و اقدامات لازم را برای حذف این تبلیغات و جلوگیری از انتشار مجدد آنها انجام خواهد داد. این شرکت همچنین گفته است که در حال همکاری با مقامات انتظامی برای شناسایی و دستگیری افرادی است که این تبلیغات را ایجاد کردهاند.
این حادثه، نگرانیهای جدیدی را در مورد خطرات استفاده از هوش مصنوعی برای ایجاد محتوای مضر ایجاد کرده است. کارشناسان هشدار میدهند که با پیشرفت فناوری هوش مصنوعی، احتمال ایجاد و انتشار چنین محتوایی افزایش خواهد یافت.
متا پیش از این نیز به دلیل عدم توانایی در جلوگیری از انتشار محتوای مضر در پلتفرمهای خود مورد انتقاد قرار گرفته بود. این حادثه، بار دیگر بر لزوم تقویت نظارت بر محتوای منتشر شده در شبکههای اجتماعی تاکید میکند.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: