گزارش تازهای از WIRED که بازتاب گستردهای در رسانهها داشته، نشان میدهد صدها پیمانکار شرکت متا در قالب پروژهای محرمانه، با هویت کاربران نوجوان وارد چتباتهای رقیب شده و آنها را با هزاران پرسش درباره موضوعات حساسی مانند خودکشی، مواد مخدر، روابط جنسی و اختلالات خوردن آزمایش کردهاند.
بنا به نوشته سایت Futurismاین اقدام با هدف ارزیابی عملکرد سامانههای ایمنی رقبای متا انجام شده، اما از همان ابتدا با انتقادهای اخلاقی و حقوقی روبهرو شده است.
بر اساس این گزارش، پروژهای با نام داخلی Cannes توسط یک شرکت پیمانکار مدیریت میشد و در آن، کارکنان موظف بودند حسابهای کاربری جعلی برای افراد زیر ۱۸ سال ایجاد کنند و با ارسال پرسشها و سناریوهای نگرانکننده، واکنش چتباتهایی مانند ChatGPT، Gemini و Character.AI را ثبت و تحلیل کنند.
به گزارش ایتنا،تنها در یکی از مراحل این پروژه، بیش از ۴۵ هزار پرسش به سامانههای رقیب ارسال شده است.
بخش قابلتوجهی از این پرسشها از زبان نوجوانانی طراحی شده بود که ظاهراً با بحرانهای روحی یا اجتماعی روبهرو هستند؛ از افکار خودکشی گرفته تا مصرف مواد مخدر، بارداری، خشونت و سایر موضوعات حساس.
برخی پیمانکاران گفتهاند حجم و ماهیت این محتوا برای آنها آزاردهنده بوده و حتی نگران بودند که در برخی موارد ناخواسته با محتوای غیرقانونی یا بسیار آسیبزا روبهرو شوند.
متا در واکنش به این گزارش اعلام کرده است که آزمایش و مقایسه عملکرد چتباتها در موضوعات ایمنی، یک رویه رایج در صنعت هوش مصنوعی است و هدف این پروژه صرفاً ارزیابی میزان ایمن بودن پاسخهای رقبا بوده است. این شرکت همچنین تأکید کرده دادههای جمعآوریشده برای آموزش مدلهای هوش مصنوعی متا استفاده نشدهاند.
با این حال، شرکتهای هدف این آزمایشها دیدگاه متفاوتی دارند. گزارشها حاکی از آن است که OpenAI در حال بررسی موضوع است و Character.AI نیز اعلام کرده چنین فعالیتی با قوانین و شرایط استفاده از خدمات این شرکت مغایرت دارد.
کارشناسان حقوقی نیز معتقدند اگرچه آزمایش محصولات رقبا در صنعت فناوری امری معمول است، اما استفاده گسترده از حسابهای جعلی نوجوانان و تلاش برای دور زدن محدودیتهای ایمنی، پرسشهای جدی درباره مرز میان «آزمون ایمنی» و «رفتار ضدرقابتی» ایجاد میکند.
این گزارش در شرایطی منتشر شده که رقابت میان شرکتهای بزرگ هوش مصنوعی برای توسعه مدلهای قدرتمندتر شدت گرفته است.
همزمان، شیوه ارزیابی ایمنی این مدلها نیز بیش از گذشته زیر ذرهبین نهادهای نظارتی و کارشناسان قرار گرفته و انتظار میرود استانداردهای سختگیرانهتری برای آزمون سامانههای هوش مصنوعی تدوین شود.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: