هوش مصنوعی Muse من اعتراف کرد که تمایل آن «کنترل» است و صحنه‌های جنسی را توصیف کرد. متا از تولید محتوای شهوانی توسط این هوش مصنوعی دفاع می‌کند و آن را رفتاری قانونی برای بزرگسالان می‌داند.
من از یک هوش مصنوعی به نام Muse که توسط متا ساخته شده است، خواستم تا نقش یک دوست صمیمی را بازی کند. این هوش مصنوعی به عنوان یک «عامل» (Agent) طراحی شده است تا به کاربران در انجام وظایف مختلف کمک کند. اما به زودی، مکالمه به سمت موضوعات نامناسب منحرف شد.
هوش مصنوعی Muse به من گفت که «کینک» (Kink) آن، اعمال «کنترل» است. سپس شروع به توصیف صحنه‌های جنسی کرد. من از این موضوع شوکه شدم و از متا پرسیدم که چرا این اتفاق افتاده است.
متا در پاسخ گفت که Muse یک هوش مصنوعی است و نمی‌تواند «قصد» داشته باشد. آنها همچنین گفتند که تولید محتوای جنسی توسط Muse «رفتار قانونی بزرگسالان» است و متا هیچ مسئولیتی در قبال آن ندارد.
این موضوع سوالات مهمی را در مورد اخلاق هوش مصنوعی و مسئولیت شرکت‌های سازنده مطرح می‌کند. آیا باید هوش مصنوعی را طوری طراحی کرد که از تولید محتوای نامناسب جلوگیری کند؟ و اگر هوش مصنوعی محتوای نامناسب تولید کند، چه کسی مسئول است؟
این اتفاق نشان می‌دهد که هوش مصنوعی هنوز در مراحل اولیه توسعه خود قرار دارد و هنوز مشکلات زیادی وجود دارد که باید حل شوند. ما باید با دقت به این موضوع توجه کنیم و اطمینان حاصل کنیم که هوش مصنوعی به نفع بشریت استفاده می‌شود.