هوش مصنوعی PolicyLM-1.7B: تحولی در مدیریت محتوای شبکه‌های اجتماعی

با افزایش استفاده از مدل‌های تصمیم‌گیری در صنعت هوش مصنوعی، شرکت Musubi کاربرد تازه‌ای برای این فناوری پیشنهاد کرده است: مدیریت و تعدیل محتوا. این شرکت از مدل جدیدی به نام PolicyLM-1.7B رونمایی کرده که برای تعدیل بلادرنگ محتوا طراحی شده و وزن‌های آن نیز به‌صورت باز منتشر شده است. هدف Musubi این است که مدل بتواند یک سیاست محتوایی نوشته‌شده به زبان ساده انگلیسی را روی پیام‌های کاربران اعمال کند و نتیجه را در کمتر از ۵۰ میلی‌ثانیه ارائه دهد. به گفته این شرکت، PolicyLM-1.7B از نظر سرعت و هزینه می‌تواند با سیستم‌های طبقه‌بندی هوش مصنوعی مورد استفاده در بسیاری از پلتفرم‌های اجتماعی رقابت کند. تفاوت اصلی این مدل با سامانه‌های سنتی در انعطاف‌پذیری آن است. PolicyLM-1.7B با بهره‌گیری از قابلیت‌های معماری مدل‌های زبانی بزرگ می‌تواند سیاست‌های محتوایی پیچیده را بدون نیاز به آموزش اختصاصی برای هر سیاست اجرا کند.

تغییر سیاست، بدون آموزش دوباره مدل

یکی از ویژگی‌های مهم این رویکرد آن است که تغییر قوانین یک پلتفرم لزوماً به معنای آموزش دوباره مدل نیست. مدیران می‌توانند سیاست محتوایی را تغییر دهند و مدل همان دستورالعمل جدید را برای بررسی محتوا به کار بگیرد. این قابلیت می‌تواند برای پلتفرم‌هایی که قوانین محتوایی آنها مرتب تغییر می‌کند اهمیت زیادی داشته باشد. برای مثال، یک شبکه اجتماعی ممکن است تصمیم بگیرد تعریف خود از محتوای نامناسب، توهین‌آمیز یا ناقض قوانین را تغییر دهد. در یک سیستم سنتی، چنین تغییراتی می‌تواند نیازمند تنظیم یا آموزش مجدد مدل باشد، اما رویکرد Musubi تلاش می‌کند این فرآیند را ساده‌تر و سریع‌تر کند. فیلیپ یانکوویچ، یکی از بنیان‌گذاران و مدیر ارشد هوش مصنوعی Musubi، معتقد است این فناوری می‌تواند به مدیران پلتفرم‌ها کمک کند تصویری دقیق‌تر از محتوای منتشرشده در سرویس خود داشته باشند. او می‌گوید تیم‌های محصول به دنبال درک بهتر اتفاقاتی هستند که در پلتفرم‌هایشان رخ می‌دهد؛ به‌خصوص در شرایطی که حجم محتوا با سرعت زیادی در حال افزایش است. از نگاه او، امکان برچسب‌گذاری حجم بسیار زیادی از محتوا به روشی مقیاس‌پذیر و قابل تنظیم می‌تواند کاربردهای قابل توجهی داشته باشد.

مدل تصمیم‌گیری چیست؟

مدل‌های تصمیم‌گیری در ماه‌های اخیر به یکی از موضوعات مورد توجه در حوزه هوش مصنوعی تبدیل شده‌اند. این مدل‌ها به جای تولید متن، احتمال یا نتیجه یک تصمیم مشخص را ارائه می‌کنند. در مورد PolicyLM-1.7B، خروجی مدل ساده‌تر است و می‌تواند یک قضاوت دودویی ارائه دهد؛ یعنی مشخص کند محتوای مورد بررسی در یک دسته خاص قرار می‌گیرد یا خیر. محدود کردن خروجی مدل به مجموعه‌ای از انتخاب‌های مشخص، این امکان را فراهم می‌کند که مدل‌های تصمیم‌گیری سریع‌تر و کم‌هزینه‌تر از مدل‌های زبانی بزرگ عمومی اجرا شوند، در حالی که همچنان از انعطاف‌پذیری معماری ترنسفورمر بهره می‌برند. این ویژگی باعث شده است مدل‌های تصمیم‌گیری در کاربردهایی که سرعت و هزینه اهمیت زیادی دارند، مورد توجه قرار بگیرند.

از کنترل عوامل هوش مصنوعی تا مدیریت رفتار کاربران

یکی از کاربردهای اولیه مدل‌های تصمیم‌گیری، شناسایی و کنترل رفتارهای نامناسب عوامل هوش مصنوعی بوده است. بنابراین استفاده از همین فناوری برای شناسایی رفتارهای نامناسب کاربران انسانی نیز مسیر چندان دور از انتظاری نیست. با این حال، یانکوویچ می‌گوید علاقه Musubi به این دسته از مدل‌ها به موج اخیر توجه به آنها محدود نمی‌شود. به گفته او، این علاقه به پروژه‌ای در سال ۲۰۲۴ با نام GLiNER بازمی‌گردد؛ پروژه‌ای که برای تشخیص موجودیت‌های نام‌گذاری‌شده طراحی شده بود و از برخی تکنیک‌های مشابه استفاده می‌کرد. Musubi اکنون تلاش می‌کند توجه ایجادشده پیرامون مدل‌های تصمیم‌گیری را به حوزه مدیریت محتوا نیز گسترش دهد. این شرکت PolicyLM-1.7B را به‌عنوان مدلی معرفی می‌کند که به‌طور مشخص برای تعدیل محتوا آموزش دیده و امکان اجرای آن برای کاربران نیز فراهم شده است. براساس نوشته Techcrunch، در صورت موفقیت این رویکرد، مدل‌های تصمیم‌گیری می‌توانند بخشی از فرآیند مدیریت محتوا را از سامانه‌های ثابت و کم‌انعطاف به سیستم‌هایی تبدیل کنند که سیاست‌های آنها با سرعت بیشتری تغییر می‌کند و بدون نیاز به آموزش مجدد، با قوانین جدید پلتفرم‌ها سازگار می‌شوند. البته میزان دقت چنین مدل‌هایی و عملکرد آنها در برابر سیاست‌های پیچیده و موارد مرزی، از عوامل مهم در ارزیابی کاربرد عملی این فناوری خواهد بود.