به گزارش ایتنا
رشد سریع سرمایهگذاری در هوش مصنوعی با چالش عدم توانایی نهادهای قانونگذار برای تنظیمگری این حوزه همراه شده است. این موضوع نگرانیهایی را در مورد ریسکهای احتمالی ایجاد کرده است.
هوش مصنوعی طی چند سال اخیر از یک فناوری نوظهور به یکی از بزرگترین مقاصد سرمایهگذاری جهانی و موتور بالقوه رشد اقتصادی بدل شده است. اما این رشد شتابان با یک واقعیت نگرانکننده همراه شده: نهادهای قانونگذار در سراسر جهان قادر نیستند با همان سرعت، چارچوبهای نظارتی متناسب وضع کنند. همین شکاف، تنظیمگری هوش مصنوعی را از یک بحث فنی و اخلاقی به یک معادله پیچیده اقتصادی تبدیل کرده است.
قوانین سختگیرانه میتوانند هزینه توسعه نمونههای اولیه را افزایش دهند، فرآیند عرضه محصولات را کند کنند و بار سنگینی بر دوش استارتآپها بگذارند. اما در سوی مقابل، نظارت ضعیف نیز هزینههای پنهانی دارد که میتواند در قالب کلاهبرداریهای گسترده، حملات سایبری پیچیدهتر، خطاهای خودکار در مقیاس میلیونی، فرسایش اعتماد عمومی و حتی بیثباتی در سیستم مالی خود را نشان دهد.
لایحه ریسک و هشدارهای بینالمللی
این بحث زمانی جدیتر شد که مقامات و پژوهشگران شرکتهای فعال در حوزه هوش مصنوعی نسبت به خطرات سیستمهای خودمختارتر هشدار دادند؛ هشدارهایی که همزمان با افشای حوادثی درباره استفاده از مدلهای پیشرفته در حملات سایبری و افزایش توانایی این سیستمها در انجام وظایف چندمرحلهای با حداقل دخالت انسانی مطرح شد.
در همین راستا، ولکر تورک، کمیسر عالی حقوق بشر سازمان ملل متحد، خودتنظیمی داوطلبانه شرکتها را ناکافی دانسته و خواستار گزارشدهی اجباری حوادث جدی، تأیید مستقل قابلیتهای مدلها و افزایش نظارت بر شرکتهای توسعهدهنده پیشرفتهترین سیستمها شده است.
نکته قابلتوجه این است که خطرات اقتصادی پیش رو، نیازی به سناریوهای دور از ذهن درباره هوش مصنوعی فوقپیشرفته ندارند. زیاد یوسف، استاد و مشاور مهندسی سیستمهای دیجیتال و هوشمند، در گفتوگو با الجزیره نت تأکید کرده که نخستین ریسک مشخص، امنیت سایبری و کلاهبرداری است؛ چرا که هوش مصنوعی میتواند توان تولید بدافزار، جعل صدا و هویت و اجرای حملات پیچیده را به شکل چشمگیری افزایش دهد. در این میان، بانکها، شرکتهای بیمه، مصرفکنندگان عادی و زیرساختهای حیاتی ممکن است هزینه اصلی این حملات را متحمل شوند.
خطر دیگری که یوسف به آن اشاره میکند، «تکرار گسترده یک تصمیم اشتباه» است. برای نمونه، اگر یک بانک از مدلی کنترلنشده برای ارزیابی اعتبار استفاده کند یا یک نهاد بهداشتی تصمیمات حساس را به الگوریتم بسپارد، یک خطای واحد میتواند به هزاران یا حتی میلیونها تصمیم نادرست خودکار تبدیل شود. او همچنین یادآور میشود که اعتماد، خود به یک دارایی اقتصادی تبدیل شده است؛ زیرا گسترش کاربرد این سیستمها مستلزم دسترسی آنها به دادههای حساس و انجام وظایف واقعی است، و کاهش اعتماد عمومی میتواند حتی با وجود پیشرفت مستمر قابلیتهای فنی، پذیرش فناوری را محدود کند.
خطراتی که به هم گره خوردهاند
محمد السویسی، متخصص فناوری، نیز امنیت سایبری را در صدر تهدیدهای اقتصادی قرار میدهد، زیرا فعالیتهای اقتصادی روزبهروز بیشتر به سمت سیستمهای دیجیتال حرکت میکنند و عاملان هوش مصنوعی وارد فرآیندهایی میشوند که پیشتر نیازمند مداخله مستقیم انسانی بود. به گفته او، وقتی این ریسکها به بانکها، بیمهها، نهادهای دولتی و شرکتهای بزرگ و کوچک مرتبط میشوند، حساسیت موضوع چند برابر میشود، چون هر نقض یا رفتار غیرمنتظره از سوی سیستمی با اختیارات گسترده میتواند به سرعت به سایر مؤسسات مرتبط سرایت کند.
السویسی مشکل را تنها به بحث امنیت محدود نمیکند و به چالش دیگری اشاره میکند: توانایی محدود بسیاری از اقتصادها و شرکتها در جذب این فناوری، به دلیل کمبود نیروی متخصص و هزینه بالای برخی مدلها و زیرساختهای لازم. او همچنین هشدار میدهد که وابستگی گسترده به تعداد محدودی از ارائهدهندگان مدلهای زبانی و محاسبات ابری، میتواند نوعی «وابستگی فناورانه» خطرناک ایجاد کند، بهویژه در مواردی که سازمانها دادههای حساس اقتصادی و تجاری خود را در اختیار سیستمهایی خارج از حوزه کنترل بازار داخلیشان قرار میدهند.
بُعد دیگر این معادله، بازار کار است. بر اساس برآورد صندوق بینالمللی پول، حدود ۴۰ درصد از مشاغل در سطح جهان، در درجات مختلف، تحت تأثیر هوش مصنوعی قرار خواهند گرفت؛ چه از طریق جایگزینی برخی وظایف و چه از طریق تغییر ماهیت شغل و الزامات مهارتی مورد نیاز.
هزینه ایمنی در برابر هزینه بیاحتیاطی
اجرای کنترلهای نظارتی، هزینههای اضافی قابل توجهی از جمله نمونهسازی اولیه با استانداردهای بالاتر، تقویت امنیت سایبری، مدیریت داده و همچنین مستندسازی، حسابرسی قانونی و نظارت مستمر پس از راهاندازی را بر شرکتها تحمیل میکند. در مواردی که ریسک سیستم بالاتر باشد، ممکن است پیش از عرضه به کاربران، ارزیابی مستقل نیز الزامی شود.
السویسی معتقد است این الزامات، حجم سرمایه لازم پیش از ورود به بازار را افزایش میدهد و به دلیل مراحل اضافی بازبینی و تأیید، میتواند زمانبندی عرضه محصولات را به تأخیر بیندازد؛ باری که شرکتهای بزرگ بهمراتب راحتتر از استارتآپها آن را تحمل میکنند. اما به باور او، این هزینه باید در کنار هزینههای احتمالی ناشی از بیاحتیاطی سنجیده شود؛ چراکه نقص در عملکرد، نشت داده، دعاوی حقوقی و حتی خروج اجباری یک محصول از بازار، میتواند بهمراتب پرهزینهتر از شناسایی زودهنگام نقصها باشد. یوسف نیز با این دیدگاه همنظر است و تأکید میکند که ایمنی در کوتاهمدت هزینه توسعه را بالا میبرد، اما در بلندمدت، بهویژه در مقیاسهای بزرگ، از هزینههای سنگینتر پس از استقرار جلوگیری میکند. به گفته این دو کارشناس، راهحل اصلی، «تناسب قوانین با سطح ریسک» است؛ به این معنا که یک اپلیکیشن با کاربرد محدود، نباید مشمول همان الزامات سختگیرانهای شود که برای سیستمهای تصمیمگیر در حوزه اعتبار، سلامت یا زیرساختهای حساس اعمال میشود.
اعتماد سرمایهگذار و رقابت جهانی
محیط نظارتی این روزها به عاملی تعیینکننده در تصمیمات سرمایهگذاری و تخصیص سرمایه بدل شده است. ایالات متحده رویکردی را در پیش گرفته که فضای بیشتری برای نوآوری و رقابت فنی فراهم میکند؛ اتحادیه اروپا مدلی مبتنی بر طبقهبندی سیستمها بر اساس سطح ریسک دنبال میکند و الزامات سختگیرانهتری را برای سیستمهای پرخطر وضع کرده است؛ و چین، مقررات فناوری را با تمرکز بر امنیت ملی و تقویت قابلیتهای داخلی ترکیب میکند.
یوسف بر این باور است که مقررات زمانی از سرمایهگذاری حمایت میکنند که پاسخهای شفافی درباره فعالیتهای مجاز، مسئولیت قانونی، آزمایشهای لازم و سطح ریسک قابل قیمتگذاری پیش از تزریق سرمایه ارائه دهند. اما قوانین مبهم، ناپایدار یا نامتناسب با سطح ریسک واقعی، میتوانند اثر معکوس داشته باشند و شرکتها را به انتقال توسعه یا عرضه محصولات به بازارهای دیگر سوق دهند. به گفته او، «سرمایه لزوماً از وجود قانون فرار نمیکند، بلکه از ابهام و بیثباتی آن میگریزد.» السویسی نیز معتقد است شفافیت قانونی، ابهام را کاهش میدهد و به سرمایهگذاران اجازه میدهد هزینه انطباق را از پیش محاسبه کنند، هرچند هشدار میدهد که رویههای پیچیده و پرهزینه میتوانند به مانعی جدی برای ورود رقبای تازهوارد تبدیل شوند.
خطر تثبیت سلطه غولهای فناوری
یکی از نگرانکنندهترین پیامدهای احتمالی مقررات سختگیرانه، تقویت ناخواسته موقعیت غولهای بزرگ فناوری است؛ شرکتهایی که توان مالی لازم برای پوشش هزینههای انطباق قانونی و نگهداری تیمهای حقوقی و مهندسی عظیم را دارند، در حالی که استارتآپها با همان الزامات و منابع بسیار محدودتر دستوپنجه نرم میکنند.
یوسف هشدار میدهد تحمیل هزینهای ثابت و بالا برای انطباق، صرفنظر از میزان واقعی ریسک، میتواند نتیجهای معکوس داشته باشد: هدف اصلی نهاد ناظر کاهش خطرات هوش مصنوعی است، اما نتیجه عملی آن ممکن است تثبیت هرچه بیشتر سلطه چند شرکت بزرگ باشد. راهکار پیشنهادی او، طراحی سطوح متفاوت نظارت است: الزامات پایه در حوزه حریم خصوصی، امنیت و شفافیت برای کاربردهای کمخطر، افزایش تدریجی سختگیری در حوزههای حساس مانند اعتبار، اشتغال و سلامت، و در نهایت آزمایش و نظارت دقیقتر بر مدلهایی که توان انجام حملات سایبری یا مدیریت سیستمهای حیاتی را دارند.
به باور یوسف، شرکتهای کوچکتر را میتوان از طریق سادهسازی الزامات مستندسازی، ایجاد محیطهای آزمایشی نظارتی (سندباکس)، دستورالعملهای استاندارد و امکانات ارزیابی مشترک یا یارانهای، حمایت کرد تا فشار هزینه ثابت انطباق بر منابع محدودشان کاهش یابد. السویسی نیز این رویکرد را تأیید میکند و تأکید دارد که نباید با ابزارهای سادهای مانند مترجمهای هوشمند یا دستیارهای اداری، همانگونه رفتار شود که با سیستمهای حساس مورد استفاده در بانکداری، بهداشت و اشتغال. به گفته او، سندباکسهای نظارتی میتوانند فرصتی به استارتآپها بدهند تا محصولات خود را پیش از پذیرش کامل مسئولیتهای قانونی، آزمایش کنند؛ چراکه هزینه بالای انطباق فراتر از ظرفیت شرکتهای کوچک، میتواند نوآوری را خفه کرده و سلطه بازیگران بزرگ را تشدید کند.
آینده مشاغل و مسیر پیش رو
پیامدهای اقتصادی مقررات هوش مصنوعی، به شرکتها محدود نمیماند و بهطور مستقیم به بازار کار نیز کشیده میشود. برآورد صندوق بینالمللی پول درباره تأثیرپذیری حدود ۴۰ درصد از مشاغل جهان، نشان میدهد سیاستگذاری عمومی تنها با این پرسش روبهرو نیست که چگونه از سیستمهای ناامن جلوگیری کند، بلکه باید پاسخ دهد که چطور یک گذار اقتصادی بزرگ را مدیریت کند؛ گذاری که قرار است درآمد، مهارت و فرصتها را میان بخشهای مختلف اقتصاد و نیروی کار بازتوزیع کند.
برخی تحلیلها هشدار میدهند که مدیریت ضعیف این تحول میتواند دستاوردهای بهرهوری ناشی از هوش مصنوعی را به عاملی برای گسترش نابرابری تبدیل کند، بهویژه اگر منافع اصلی نصیب صاحبان سرمایه و فناوری شود، در حالی که بار اصلی هزینههای بازآرایی مشاغل بر دوش کارگران بیفتد. در مقابل، محدودسازی بیشازحد فناوری نیز میتواند دستاوردهای بالقوه در بهرهوری و نوآوری را کند کند؛ به همین دلیل سیاستهای آموزش، بازآموزی مهارتی و تقویت شبکههای تأمین اجتماعی، نه جایگزین، بلکه مکمل ضروری مقررات هوش مصنوعی به شمار میروند.
بر اساس این گزارش که ابتدا در الجزیره منتشر شده، یوسف معتقد است موفقیت نهادهای ناظر را نباید تنها با تعداد قوانین وضعشده یا میزان جریمههای اعمالشده سنجید، بلکه معیار واقعی، توانایی آنها در برقراری تعادل میان مجموعهای از شاخصهای اقتصادی و فنی است؛ از جمله روند تحول حوادث سایبری، کلاهبرداریها و خسارات مرتبط با هوش مصنوعی، در کنار روند سرمایهگذاری خطرپذیر، تأسیس شرکتهای نوپا، نرخ پذیرش فناوری، بهرهوری، سطح رقابت در بازار، هزینه انطباق قانونی و میزان اعتماد کاربران. تداوم روند سرمایهگذاری، رشد بهرهوری و شکلگیری کسبوکارهای جدید، در کنار کاهش حوادث بزرگ و پرهزینه، میتواند نشانهای از موفقیت مقررات در ترکیب همزمان رشد اقتصادی و ایمنی فناوری باشد.
کارشناسان تأکید میکنند که تجربههای در حال شکلگیری در اتحادیه اروپا، ایالات متحده و چین، بهعنوان سه الگوی متفاوت نظارتی، در سالهای آینده معیار مهمی برای ارزیابی این خواهند بود که کدام رویکرد بهتر میتواند میان نوآوری، رقابتپذیری اقتصادی و کاهش ریسکهای سیستمی هوش مصنوعی، تعادل برقرار کند.
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: