تحقیقاتگر سابق آنتروپیک: اکنون زمان سرنوشت‌سازی برای بشریت است

جیکوب کاکسون، محقق سابق شرکت آنتروپیک، در مصاحبه‌ای با Wired، نگرانی‌های عمیق خود را در مورد توسعه سریع هوش مصنوعی و خطرات احتمالی آن برای بشریت ابراز کرده است. او که اخیراً از آنتروپیک استعفا داده، معتقد است که ما در "زمان بحرانی" قرار داریم و فرصت محدودی برای اطمینان از ایمنی سیستم‌های هوش مصنوعی باقی مانده است.

کاکسون، که در آنتروپیک روی مسائل مربوط به امنیت و هم‌راستایی هوش مصنوعی کار می‌کرد، این شرکت را به عنوان یک "پروژه مانهاتن کوچک" توصیف می‌کند. او معتقد است که تلاش‌های آنتروپیک برای ایجاد هوش مصنوعی ایمن و مفید، بسیار مهم است، اما هنوز با چالش‌های بزرگی روبرو است.

یکی از مهم‌ترین چالش‌ها، مسئله "هم‌راستایی" است. هم‌راستایی به این معناست که اطمینان حاصل شود که اهداف و ارزش‌های هوش مصنوعی با اهداف و ارزش‌های انسان‌ها همسو هستند. کاکسون هشدار می‌دهد که اگر این مسئله حل نشود، هوش مصنوعی می‌تواند به طور ناخواسته به بشریت آسیب برساند.

کاکسون همچنین معتقد است که آزمایشگاه‌های هوش مصنوعی تنها چند سال فرصت دارند تا سیستم‌های خود را ایمن کنند. او می‌گوید که با پیشرفت سریع هوش مصنوعی، خطر وقوع یک فاجعه افزایش می‌یابد. به همین دلیل، او از محققان و سیاست‌گذاران می‌خواهد که این مسئله را جدی بگیرند و اقدامات لازم را برای کاهش خطرات انجام دهند.

در این مصاحبه، کاکسون به جزئیات بیشتری در مورد کار خود در آنتروپیک و نگرانی‌های خود در مورد آینده هوش مصنوعی پرداخته است. او همچنین پیشنهاداتی برای بهبود امنیت و هم‌راستایی هوش مصنوعی ارائه کرده است.

این مصاحبه، هشداری جدی در مورد خطرات احتمالی هوش مصنوعی است. کاکسون معتقد است که ما باید به این خطرات توجه کنیم و اقدامات لازم را برای محافظت از بشریت انجام دهیم.