هزینه بالای AI دردسرساز شد
متا پس از تشویق گسترده کارکنان به استفاده از هوش مصنوعی، اکنون با هدف کنترل هزینههای پردازش، مصرف AI Tokenها را مدیریت میکند؛ تغییری که چالش هزینههای هوش مصنوعی را برجسته میسازد.
شرکت متا که طی یک سال گذشته کارکنان خود را به استفاده گسترده از ابزارهای هوش مصنوعی تشویق میکرد، اکنون رویکرد متفاوتی در پیش گرفته است. بر اساس گزارشهای منتشرشده، این شرکت از کارمندان خواسته مصرف توکنهای هوش مصنوعی (AI Token ها) را مدیریت کنند تا از افزایش بیرویه هزینههای پردازش جلوگیری شود.
به گزارش
ایتنا به نقل از TechSpot، توکنها واحد محاسبه هزینه در مدلهای هوش مصنوعی مولد هستند و هرچه حجم ورودی، خروجی یا پردازش مدل بیشتر باشد، تعداد توکنهای مصرفی نیز افزایش پیدا میکند. با رشد استفاده کارکنان از ابزارهای مبتنی بر هوش مصنوعی، هزینههای عملیاتی متا نیز به شکل قابلتوجهی افزایش یافته است.
این تغییر سیاست از آن جهت قابل توجه است که متا در ماههای گذشته سرمایهگذاری سنگینی روی توسعه هوش مصنوعی انجام داده و حتی استفاده از ابزارهای AI را به بخشی از فرهنگ کاری خود تبدیل کرده بود. این شرکت میلیاردها دلار برای توسعه خانواده مدلهای Llama و زیرساختهای پردازشی اختصاص داده و مدیرعامل آن، مارک زاکربرگ، بارها هوش مصنوعی را مهمترین حوزه آینده متا توصیف کرده است.
طبق گزارشها، متا در حال راهاندازی ابزارهایی برای پایش مصرف توکنها، تعیین بودجه برای تیمها و ارسال هشدار در صورت افزایش غیرعادی هزینهها است. هدف این اقدامات، کنترل هزینهها بدون کاهش بهرهوری کارکنان عنوان شده است.
کارشناسان معتقدند این تصمیم نشان میدهد حتی بزرگترین شرکتهای فناوری نیز با چالش هزینه بالای استفاده از مدلهای هوش مصنوعی مولد روبهرو هستند. هرچند این فناوری میتواند بهرهوری را افزایش دهد، اما در صورت نبود مدیریت مصرف، هزینه پردازش میلیونها درخواست روزانه به سرعت افزایش مییابد.
این موضوع تنها به متا محدود نیست و بسیاری از شرکتهای بزرگ فناوری نیز به دنبال ایجاد سیاستهایی برای بهینهسازی مصرف منابع هوش مصنوعی هستند. در نتیجه، مدیریت هزینه توکنها احتمالاً به یکی از مهمترین موضوعات سازمانهایی تبدیل خواهد شد که بهطور گسترده از مدلهای زبانی و ابزارهای هوش مصنوعی استفاده میکنند.
📡منبـع خبـر:
www.itna.ir
ایتنا
🏹لـینـک کـوتـاه:
halohava.top/ebkYZE
شمـا اولیـن نفـر هستـید کـه نظـر خـود را ثبـت مـی کنیـد.
🗩ثبـت نظر: