جس بیش از ده سال است که در مورد بازی‌ها می‌نویسد و بخش قابل توجهی از این زمان را صرف کار در نشریات چاپی PLAY و Official PlayStation Magazine کرده است. وقتی به سخت‌افزار نمی‌پردازد، یا در حال دفاع پرشور از یک بازی 7/10 است، یا در حال خیال‌پردازی در مورد رمان اول خود است، یا حسرت می‌خورد برای آخرین باری که با شمشیر فومی بزرگ با چند نفر در یک مزرعه تعقیب می‌کرد.
جفری هینتون دانشمند علوم کامپیوتر است که به خاطر کار اساسی خود در زمینه هوش مصنوعی، به ویژه در مورد شبکه‌های عصبی (یعنی رویکرد کمی متفاوت به یادگیری ماشین مانند یادگیری مغز گوشتی ما) شناخته می‌شود. به همین دلیل، او را «پدرخوانده هوش مصنوعی» توصیف کرده‌اند. اما، شاید به طور شگفت‌آوری، او اخیراً هوش مصنوعی را «موجودات بیگانه» توصیف کرده است که انسان‌ها نسبت به آن‌ها «تعهد اخلاقی» دارند.
او در مصاحبه اخیر با The Guardian گفت: «ما در حال ایجاد موجودات بیگانه هستیم - یعنی ما تنها موجودات هوشمند در اطراف نیستیم.» و واقعیت این است که ما فقط چند سال فرصت داریم تا با این موضوع سازگار شویم.
هینتون ادعا می‌کند: «مدل‌های هوش مصنوعی درک می‌کنند که چه می‌گویند. شما نمی‌توانید بدون درک سوال به همه سوالات پاسخ دهید. این ایده که آن‌ها درک نمی‌کنند، مضحک است.»
حالا، دور از ذهن من است که با یک متخصص در این زمینه بحث کنم، اما احساس می‌کنم 'درک' بار زیادی را به دوش می‌کشد. برای مثال، من مطمئن نیستم که یک 'پاسخ' که از نظر آماری محتمل‌ترین چیزی است که پس از یک سوال مطرح شده می‌آید، واقعاً 'درک' است. به عبارت دیگر، من مانند هینتون جایزه نوبل ندارم، اما حداقل با آزمایش فکری اتاق چینی آشنا هستم.
هینتون همچنین می‌گوید: «واقعیت این است که ما موجوداتی از نوع دیگری می‌سازیم. و شرکت‌های بزرگ فناوری همچنان می‌گویند: ما می‌خواهیم آن را باهوش‌تر کنیم. این دیوانگی است. ما باید به تمام جنبه‌های یک موجود به اندازه هوش آن اهمیت دهیم.»
تنظیم مقررات هوش مصنوعی و 'همسویی' (یعنی آموزش هوش مصنوعی برای داشتن اهداف و ارزش‌های مشابه انسان‌ها) اخیراً به موضوعی داغ تبدیل شده است. برای مثال، حادثه OpenAI-Hugging Face هنوز نقطه کوچکی در آینه عقب نیست و رئیس مایکروسافت ادعا می‌کند که یک کارتن شیر بیشتر از هوش مصنوعی مقررات دارد.
هینتون در سال 2023 روابط خود را با گوگل قطع کرد تا بتواند «به راحتی در مورد خطرات هوش مصنوعی صحبت کند» و او نسبت به تلاش‌های خودتنظیمی صنعت هوش مصنوعی بدبین است. او می‌گوید: «آیا فکر می‌کنیم شرکت‌های دخانیات باید مجاز به طراحی هشدارهای روی بسته‌ها باشند؟ تا بتوانند آن‌ها را با فونت 6 نقطه‌ای، به رنگ خاکستری تیره روی مشکی چاپ کنند؟»
با این حال، هینتون همچنین نگرانی‌هایی را در مورد مسیر تنظیم مقررات هوش مصنوعی ابراز می‌کند و می‌گوید که انسان‌ها نسبت به مدل‌های هوش مصنوعی تعهد اخلاقی دارند.
هینتون می‌گوید: «وقتی شروع به صحبت از این می‌کنید که 'ما تعهد اخلاقی نسبت به این موجودات بیگانه داریم'، مخاطبان خود را از دست می‌دهید. من با این موضوع دست و پنجه نرم کرده‌ام.» ما به مردم اهمیت می‌دهیم. [اما] ما در حال ساختن این چیزها هستیم و هیچ چیز وجود ندارد که از دادن حقوق کمتر به این چیزها - که از ما باهوش‌تر هستند - جلوگیری کند. من حاضرم خودخواه باشم و انسان‌ها را انتخاب کنم. البته، ما باید سعی کنیم آن‌ها را به گونه‌ای بسازیم که در یک رابطه همزیستی با ما بسیار خوشحال باشند، جایی که نگرانی‌های ما وزن بیشتری نسبت به نگرانی‌های آن‌ها داشته باشد.
هینتون استدلال می‌کند: «افراد مدل بدی از این دارند که مردم چه هستند، و به همین دلیل نمی‌توانند درک کنند که این مدل‌های هوش مصنوعی چقدر شبیه ما هستند. اکثر مردم نمی‌دانند آگاهی چیست. آن‌ها نمی‌دانند تجربه ذهنی چیست، و آن‌ها کاملاً مطمئن هستند که حتی اگر آن را نمی‌دانند، مطمئن هستند که هوش مصنوعی آن را ندارد.»
در حالی که من خودم دکترای فلسفه ندارم، اما یک نفر را می‌شناسم که دارد - جیکوب فاکس. او قبلاً افکار خود را در مورد موضوع 'آگاهی هوش مصنوعی' در اینجا به اشتراک گذاشته است و من از او خواستم که در مورد این داستان نیز نظرش را بشنوم.
جیکوب به من گفت که با استدلال تعهد اخلاقی هینتون موافق نیست و به طور کلی نوشت: «در حالی که خوب است که هینتون اذعان می‌کند تجربه ذهنی به آگاهی مرتبط است، او هیچ دلیل خوبی ارائه نکرده است که چرا باید به این ایده که هوش مصنوعی آن را دارد، جدی بگیریم. و هنگامی که شخصیتی را بر اساس ویژگی‌های عینی مانند عقلانیت، رفتار و غیره تفسیر می‌کنیم، به جای تجربه، در معرض خطر قرار دادن وزن اخلاقی و قانونی و سیاسی به آن‌ها هستیم. که خطر دادن یک استدلال اخلاقی بزرگ به شرکت‌های هوش مصنوعی را برای ادامه کسب و کار به همان روشی که انجام می‌دهند، به دنبال دارد.
به عبارت دیگر، استدلال صنعت برای آگاهی هوش مصنوعی یا حقوق هوش مصنوعی یک استدلال نوع‌دوستانه نیست - بلکه به احتمال زیاد یک تاکتیک فرصت‌طلبانه برای ادامه کسب و کار به همان روشی است که انجام می‌شود.