ابداع روشی جدید برای رمزگشایی از افکار درونی مدل‌های هوش مصنوعی؛ ردپای مدل‌های آمریکایی در چین

پژوهشگران حوزه هوش مصنوعی به تازگی روشی نوآورانه برای رمزگشایی از فرآیندهای فکری مدل‌های زبانی بزرگ ابداع کرده‌اند که می‌تواند پرده از اسرار نحوه آموزش این سیستم‌ها بردارد. این تکنیک که امکان استخراج «ردپای استدلال» (reasoning traces) را از مدل‌های قدرتمندی نظیر کلود (Claude)، جی‌پی‌تی (GPT) و جمینای (Gemini) فراهم می‌کند، یافته‌های تأمل‌برانگیزی را در مورد منشأ داده‌های آموزشی برخی مدل‌های چینی به همراه داشته است.

استخراج افکار درونی مدل‌های هوش مصنوعی

این روش جدید به محققان اجازه می‌دهد تا به لایه‌های عمیق‌تر تصمیم‌گیری مدل‌های هوش مصنوعی نفوذ کرده و مراحلی را که یک مدل برای رسیدن به پاسخ نهایی طی می‌کند، مشاهده کنند. در حالی که شرکت‌های سازنده هوش مصنوعی معمولاً جزئیات دقیقی از نحوه آموزش و استدلال مدل‌های خود ارائه نمی‌دهند، این ابزار جدید می‌تواند شفافیت بیشتری در مورد عملکرد داخلی این سیستم‌ها ایجاد کند.

شواهدی از آموزش مدل‌های چینی با داده‌های آمریکایی

یافته‌های حاصل از این پژوهش نشان می‌دهد که برخی از مدل‌های هوش مصنوعی توسعه‌یافته در چین، ممکن است از طریق فرآیندی موسوم به «تقطیر» (distillation) یا روش‌های مشابه، با استفاده از خروجی‌ها یا داده‌های مدل‌های پیشرو آمریکایی آموزش دیده باشند. این موضوع از آن جهت اهمیت دارد که نشان می‌دهد دانش و توانمندی‌های مدل‌های پیشرفته آمریکایی، به طور غیرمستقیم در توسعه سیستم‌های هوش مصنوعی در سایر نقاط جهان نقش ایفا می‌کند.

اهمیت امنیت و شفافیت در هوش مصنوعی

این تحقیق که توسط متخصصان حوزه امنیت هوش مصنوعی انجام شده است، بار دیگر ضرورت نظارت دقیق‌تر بر زنجیره تأمین داده‌های آموزشی را برجسته می‌کند. با توجه به رقابت فشرده میان قدرت‌های جهانی در عرصه هوش مصنوعی، درک اینکه مدل‌ها چگونه آموزش می‌بینند و از چه منابعی تغذیه می‌کنند، به یکی از اولویت‌های اصلی نهادهای نظارتی و پژوهشی تبدیل شده است.

این روش جدید نه تنها به محققان کمک می‌کند تا رفتارهای مدل‌های هوش مصنوعی را بهتر پیش‌بینی کنند، بلکه ابزاری قدرتمند برای شناسایی سوگیری‌ها و نقاط ضعف احتمالی در مدل‌های تجاری فراهم می‌آورد. با این حال، استفاده از این تکنیک‌ها می‌تواند چالش‌های جدیدی را در زمینه مالکیت معنوی و امنیت داده‌ها برای شرکت‌های بزرگ فناوری مانند OpenAI و Anthropic ایجاد کند.

پژوهشگران معتقدند که این یافته‌ها تنها آغاز راه است و با پیشرفت تکنیک‌های استخراج اطلاعات، می‌توان انتظار داشت که در آینده نزدیک، جزئیات بیشتری از «جعبه سیاه» هوش مصنوعی برای عموم و جامعه علمی آشکار شود.