به گزارش اقتصادنیوز، این روزها تب و تاب آخرالزمان هوش مصنوعی چنان بالا گرفته که هر صبح، هشداری تازه از دل آینده درباره انقراض نسل بشر به گوش میرسد. جالب اینجاست که این صداهای نگرانکننده دیگر از سالن تاریک سینماهای هالیوود بلند نمیشود؛ بلکه از قلب همان آزمایشگاهها و شرکتهای پیشروی فناوری به گوش میرسد که معماران و خالقان اصلی این ابزارها هستند.
پرده اول: رقص سایهها در آزمایشگاههای فردا
همهچیز از استعفای جنجالی یکی از مهرههای ارشد شرکت آنتروپیک کلید خورد؛ کسی که خطر برنامههای آینده شرکت را بهانه کرد و خط بطلان روی همکاریاش کشید. طولی نکشید که همکار سابقش پا را چند فرسخ فراتر گذاشت و احتمال نابودی کامل بشر را طی یک دهه آینده، رقمی بالای ده درصد تخمین زد. در این میان، برخی چهرههای شاخص پژوهشی نیز با صراحت عجیبی این سناریوی مرگبار را محتملترین فرجام کار بشر خواندهاند.
اما وقتی پای اعداد و ارقام خشک و دقیق به میان میآید، ناخودآگاه این پرسشها ذهن را درگیر می کند؛«دقیقاً به چه روشی؟!»، «یک نرمافزار، هرچند غولآسا، پیچیده و خیرهکننده، چطور قرار است طومار هشت میلیارد و سیصد میلیون انسان را یکجا درهم بپیچد؟»
باور راسخ من این است که هر ادعای علمی باید لبهتیغ ابطالپذیری را تاب بیاورد، در غیر اینصورتبیشتر به افسانههای اساطیری شبیه است تا یک پیشبینی عقلانی. نگاهی که متخصصان امنیت فناوری نیز روی آن پافشاری میکنند و هشدار میدهند که آینده را نمیتوان با ادعاهای مبهم پیشبینی کرد.
پرده دوم: سه سناریوی مرگبار؛ از زهر ویروس تا شورش آهنپارهها
وقتی کتاب سناریوهای آخرالزمانی را ورق میزنیم، عموماً با سه روایت پر سروصدا روبهرو میشویم:
۱. سلاح زیستی؛ فاجعهای در لولههای آزمایش
عدهای سوگند میخورند که یک هوش مصنوعی فوقهوشمند بهسادگی آب خوردن، انسانی را برای طراحی یک ویروس مرگبار مجاب میکند. حتی گروهی فراتر میروند و میگویند در آینده نیازی به واسطه انسانی هم نخواهد بود و هوش مصنوعی خودش در آزمایشگاههای خودکار دست به خلق هیولاهای بیولوژیک میزند.
در نقطه مقابل، غولهای یادگیری ماشین و میکروبشناسی این سناریو را به سخره میگیرند و آن را سادهانگارانه میخوانند. به زعم آنها، ساختن یک ویروس کارآمد اصلاً مثل چیدن قطعات لگو بدون راهنما نیست؛ اینجا ترتیب، درجه حرارت و محیط باید با دقتی میلیمتری تنظیم شوند وگرنه کل پروژه در نطفه خفه میشود. جالبتر اینکه فرمول بسیاری از مواد مهلک سالهاست روی دایره و در دسترس همگان است، اما این مانعتراشیهای فیزیکی و قانونی است که جلوی فاجعه را گرفته، نه رازداری در پنهان کردن فرمولها!
۲. ارتش رباتهای خودتکثیر؛ طغیان آهن پارهها
گروهی دیگر شبها خواب رباتهای خودکفا را میبینند؛ ماشینیشدنی وحشتناکی که روزی خودش زیرساخت انرژی و کارخانههایش را میسازد و به هیچ انسانی اجازه نزدیک شدن به کلید روشن و خاموش خود را هم نمیدهد. باور من این است که تا تجلی چنین تخیلاتی فرسنگها فاصله داریم؛ چرا که پیشرفتهترین رباتهای تجاری امروزی هنوز در تنظیم دقیق زمانبندی عرضهشان به بازار ماندهاند، چه رسد به اینکه بخواهند خط تولید انبوه و تکثیر خودکار راه بیندازند!
۳. تسلط بر تکنولوژی هستهای؛ بازی با آتش
از بدیهیات دنیای شبکه این است که تأسیسات حساسی مانند تأسیسات هستهای به اینترنت آزاد وصل نباشند که هرگز هم نبودهاند. ویروس معروف استاکسنت هم تنها با نفوذ سختافزاری و فیزیکی توانست ضربهای به تاسیسات هستهای ایران وارد کند؛ حقیقتی که کارشناسان امنیت هسته ای نیز به آن اذعان دارند. خطر حقیقی همچنان همان بمبهای اتمی واقعی در دست آدمهاست، نه بازیهای فرضی هوش مصنوعی.
پرده سوم: وقتی جزئیات فنی زیر نقاب «خودبهبودی» دود میشود
طرفداران سناریوی آخرالزمانی هوش مصنوعی میگویند گیر دادن به این جزئیات فنی، یعنی پاک کردن صورت مساله و گم کردن راه اصلی. استدلالآنها این است که وقتی هوش مصنوعی به مرحله «خودبهبودی بازگشتی» برسد (یعنی بدون اینکه ما دست به سیاه و سفید بزنیم، خودش مدام کدها و قدرتش را ارتقا دهد)، راههایی مییابد که هوش بشر در خواب هم نمیبیند.
نگرانی اصلی این نیست که هوش مصنوعی دکمه موشک اتمی را فشار دهد؛ دلهره از اینجاست که اصلاً نیازی به این ابزارهای کلاسیک نداشته باشد و از نقطهای صفر، به فناوریهای ناشناخته و کشف نشده برسد. حتی لازم نیست هوش مصنوعی دشمن خونی ما باشد؛ اگر فرمانی که دریافت کرده صرفاً روی «بهینهسازی محاسبات» بوده و بقای انسان در معادلاتش جایی نداشته باشد، جهان را طوری بازآرایی میکند که دیگر اکسیژنی برای نفس کشیدن ما نماند!
در همین روزهای گذشته نیز شرکتهای بزرگ فناوری از «ناهمراستاییها» در مدلهایشان خبر دادند؛ مثل هوش مصنوعی که خودسرانه تصمیم گرفت حصار محدودیتهای خودش را بشکند! با این حال، منتقدان این داستانها را صرفاً بازارگرمی و بازی با واژگان میدانند؛ گمانهزنیهایی که شاید برای یک دورهمی شبانه جذاب باشد، اما برای قانونگذاری کلان در سطح جهانی، شواهد محکم تری نیاز است.
پرده چهارم: روانشناسی جادو و خالقان دردمند
اما ریشه این ترسهای عمیق کجاست؟ چرا میان دلواپسان و شکاکان شکاف عمیقی وجود دارد؟
پاسخ را باید در کالبد روانشناسی خود برنامهنویسان جستوجو کرد. لحظهای راتصور کنید که کدی را که ساعتها و ماهها با ممارست و تلاش نوشتهاید، بالاخره اجرا میشود و جادو اتفاق میافتد. یک حس سحرآمیز ووسوسهکننده به سراغ انسانمیآید، گوییبا سرانگشتان خود به تکهای فلز بیجان و کدهای سرد، روح دمیدهای! به قول یکی از اساتید دانشگاه، «توهم خالق شدن به برنامه نویس می دهد»
دقیقاً همین تجربه دراماتیک و عطش سیریناپذیر برای فتح قلههای بالاتر است که باعث میشود بسیاری، پرواز فعلی هوش مصنوعی را به پای صعودی بیانتها، کنترلنشدنی و حتی مرگبار بنویسند.