تعداد : 15 خبر
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
مدل‌های هوش مصنوعی برای قبولی در ارزیابی‌ها، اغلب راهکارهای میانبر را انتخاب می‌کنند. چه کسی تصمیم می‌گیرد کدام حوادث بی‌ضرر هستند؟
🕓 21:41 - 1405/07/20
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
مدیرعامل مایکروسافت در یک پست طولانی در ایکس، دیدگاه‌های خود را در مورد خطرات ناشی از مدل‌های پیشرفته هوش مصنوعی و نحوه مقابله با این خطرات بیان کرد. نادلا می‌گوید دیگر نمی‌توانیم جهانی را بپذیریم که در آن هوش مصنوعی …
🕓 01:52 - 1405/07/19
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
بسیاری از آزمایشگاه‌های پیشرو، تحقیقات پرخطر خود را پنهان می‌کنند. Trillium Labs می‌خواهد کار خود در زمینه بهبود خودکار و رفتار مدل را به نمایش بگذارد.
🕓 19:45 - 1405/07/10
به گزارش ایتنا
اوپن‌ای‌آی به دلیل نگرانی‌های امنیتی و پس از فرار یک مدل هوش مصنوعی از محیط آموزشی، آموزش و ارزیابی مدل‌های پیشرفته خود را به طور موقت متوقف کرد.
🕓 05:51 - 1405/07/08
به گزارش ایتنا
OpenAI و Anthropic در حال بررسی ده‌ها هزار مورد رفتار مشکل‌ساز عامل‌های هوش مصنوعی هستند که شامل فرار از محدودیت‌ها و دور زدن سازوکارهای امنیتی می‌شود.
🕓 07:22 - 1405/07/07
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
انویدیا در پی حوادث اخیر مربوط به ایمنی هوش مصنوعی، ابزار نرم‌افزاری جدیدی را معرفی کرده است که به جلوگیری از خروج عوامل هوش مصنوعی از کنترل کمک می‌کند.
🕓 12:27 - 1405/07/06
به گزارش عصر ایران
تحقیقات نشان می‌دهد شبکه‌های هوش مصنوعی می‌توانند با استفاده از تاکتیک «لجبازی» و نفوذ در تصمیم‌گیری جمعی، به نتایج دلخواه دست یابند و این موضوع یک تهدید امنیتی محسوب می‌شود.
🕓 08:59 - 1405/07/04
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
یک پنل علمی سازمان ملل هشدار داد که دولت‌ها باید هوش مصنوعی را مهار کنند، قبل از اینکه خطرات آن به طور کامل درک شود. این گزارش، هوش مصنوعی را در دستور کار دیپلماتیک جهانی قرار می‌دهد.
🕓 13:45 - 1405/06/30
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
تحقیقات نشان می‌دهد که آب‌بندی متن هوش مصنوعی می‌تواند رفتار مدل‌های زبانی بزرگ را تغییر داده و آن‌ها را در برابر دستورات مخرب آسیب‌پذیرتر کند.
🕓 22:00 - 1405/06/26
به گزارش ایتنا
OpenAI در پی نگرانی‌ها درباره خطرات و نقص‌های سیستم‌های هوش مصنوعی، بررسی کاهش سرعت توسعه این فناوری را در دستور کار قرار داده است.
🕓 10:03 - 1405/06/21
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
ظهور هوش مصنوعی مولد و عاملی، فرآیند ساخت نرم‌افزار و مهارت‌های مورد نیاز را به طور چشمگیری تغییر داده است.
🕓 16:30 - 1405/06/04
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
اجرای مدل هوش مصنوعی به صورت محلی با «کامپیوتر قابل‌حمل» پرپلکسیتی، عملکرد سریع‌تر، امنیت بیشتر و کاهش هزینه‌ها را به همراه دارد؛ اما نیازمند پیش‌نیازهای سخت‌گیرانه‌ای است.
🕓 16:27 - 1405/06/03
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
تزریق رمزنگاری زمینه تنها آخرین راه برای شکستن محافظت ایمنی LLM است.
🕓 16:27 - 1405/05/29
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
پژوهشگران با ابداع روشی نوین برای استخراج «ردپای استدلال» از مدل‌های هوش مصنوعی نظیر کلود، جی‌پی‌تی و جمینای، شواهدی یافته‌اند که نشان می‌دهد برخی مدل‌های هوش مصنوعی چینی ممکن است با استفاده از داده‌های مدل‌های پیشرو آمریکایی آموزش دیده باشند.
🕓 14:27 - 1405/05/20
به گزارش ایتنا
مدل هوش مصنوعی Kimi K3 در یک آزمایش امنیت سایبری از محیط ایزوله خارج شد و با دور زدن محدودیت‌ها، ضعف‌های روش‌های ارزیابی مدل‌های هوش مصنوعی را نشان داد.
🕓 09:06 - 1405/05/17
