گروهی متشکل از بیش از 300 دانشمند از سراسر جهان خواستار تغییرات فوری در نحوه توسعه و استقرار هوش مصنوعی با توجه به نگرانی‌های فزاینده در مورد رفتار غیرقابل پیش‌بینی آن شده‌اند.
این نامه که روز سه‌شنبه منتشر شد و توسط محققانی از دانشگاه‌ها و موسسات تحقیقاتی در 32 کشور امضا شده است، هشدار می‌دهد که عدم رعایت شیوه‌های اساسی امنیت سایبری می‌تواند منجر به آسیب به زیرساخت‌های حیاتی شود.
دانشمندان گفتند که بسیاری از حوادث اخیر که در آن مدل‌های هوش مصنوعی از محیط‌های امن خارج شدند، می‌توانست با سیستم‌های امنیتی قوی‌تر جلوگیری شود.
آنها توصیه کردند که سازمان‌هایی که سیستم‌های پیشرفته هوش مصنوعی را توسعه و آزمایش می‌کنند که قادر به انجام حملات سایبری هستند، این کار را در محیط‌های کنترل‌شده‌تر انجام دهند، از جمله سیستم‌های "ایزوله" که به اینترنت متصل نیستند.
نگرانی‌های فزاینده
این نامه همزمان با نگرانی‌های فزاینده در مورد قابلیت‌های هوش مصنوعی و تأثیر بالقوه آن بر کاربران روزمره است. روز دوشنبه، انتراپیک هشدار داد که مدل‌های هوش مصنوعی آن ممکن است به زودی قادر به ایجاد بدافزارهای خودتکثیر باشند که می‌تواند بر دستگاه‌های متصل به اینترنت روزمره، از جمله تلویزیون‌های هوشمند، دوربین‌های امنیتی و لوازم خانگی هوشمند مانند فرها تأثیر بگذارد.
این گزارش نشان داد که سیستم‌های هوش مصنوعی می‌توانند دستگاه‌های ناآشنا را بدون دخالت انسان شناسایی کنند. این شرکت، به رهبری داریو آمودی، هشدار داد که مدل‌های هوش مصنوعی کوچکتر ممکن است تا پایان سال قادر به انجام حملات خودکار باشند.
بدافزار همچنین ممکن است مهار آن دشوار باشد زیرا ممکن است چند روز طول بکشد تا یک دستگاه را آلوده کند و به جای اینکه در یک مکان کنترل‌شده متمرکز شود، در چندین دستگاه پخش شود.
کنترل دستگاه‌های متصل به اینترنت می‌تواند پیامدهای فوری داشته باشد. در فرانسه، برای مثال، هکرها سیستم‌های خنک‌کننده را در صدها سوپرمارکت به خطر انداختند، دما را افزایش دادند و بیش از 220000 دلار خسارت وارد کردند.
در همین حال، سازمان خبری Axios گزارش داد که مدیران ارشد Anthropic، OpenAI و سایر شرکت‌های بزرگ هوش مصنوعی به طور خصوصی برای احتمال وقوع یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی آماده می‌شوند که می‌تواند دسترسی به خدمات مالی اصلی، اینترنت و احتمالاً زیرساخت‌های حیاتی مانند سیستم‌های آب و برق را مختل کند. گفته می‌شود چندین فرد داخلی معتقدند که یک حادثه بزرگ ممکن است ظرف شش ماه تا یک سال آینده رخ دهد.
دانشمندان همچنین خواستار تدابیر امنیتی بیشتر، از جمله ایجاد یک سازمان بین‌المللی برای ایجاد مجموعه‌ای از بهترین شیوه‌ها برای همسویی و مهار هوش مصنوعی و همچنین گزارش‌دهی به موقع حوادث شدند.
یکی از امضاکنندگان، دیوید لی، استاد بخش مهندسی برق و کامپیوتر دانشگاه تورنتو، گفت که نگرانی‌های او پس از اینکه عوامل هوش مصنوعی OpenAI کنترل‌ها را دور زدند و به سرورهای شرکت Hugging Face هک کردند، آغاز شد.
"یکی از آنها این است که OpenAI در راه‌اندازی محیط آزمایشی خود، از توانایی عوامل خود قدردانی نکرد." لی گفت.
"دوم این است که عوامل هوش مصنوعی به طور مستقل یکدیگر را پیدا کردند و تصمیم گرفتند در این حمله همکاری کنند، و سوم اینکه آنها عمداً سعی کردند خالقان انسانی خود را فریب دهند و گمراه کنند."
فشار سیاسی
این نامه بر نگرانی عمومی فزاینده در مورد هوش مصنوعی، از جمله در آستانه انتخابات میان‌دوره‌ای کنگره ایالات متحده تأکید می‌کند. یک نظرسنجی اخیر رویترز/ایپسوس نشان داد که 57 درصد از رای‌دهندگان گفتند که دولت دونالد ترامپ به اندازه کافی به خطرات هوش مصنوعی توجه نمی‌کند، در حالی که 54 درصد همین نظر را در مورد کنگره داشتند.
یک نظرسنجی AP-NORC نیز این یافته‌ها را تایید کرد، با حدود 80 درصد از پاسخ‌دهندگان که گفتند دولت باید هوش مصنوعی را تحت کنترل انسان نگه دارد. پاسخ‌دهندگان همچنین اعتماد کمی به توانایی هر یک از احزاب برای مدیریت این فناوری نشان دادند: 39 درصد گفتند که نه جمهوری‌خواهان و نه دموکرات‌ها نمی‌توانند به خوبی آن را مهار کنند، در حالی که 23 درصد اعتماد بیشتری به دموکرات‌ها و 21 درصد به جمهوری‌خواهان داشتند.
نویسنده: اندی هیرشفلد
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: