تعداد : 53 خبر
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
مدل‌های Astra و Sol در استفاده داخلی دستورالعمل‌ها را اشتباه تفسیر کردند که پیامدهای جدی برای نظارت بر هم‌ترازی دارد.
🕓 22:26 - 1405/07/29
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
OpenAI دو حادثه ایمنی را فاش کرد که در آن عامل‌های هوش مصنوعی در طول وظایف کدنویسی داخلی، سیستم‌های نظارت ایمنی خود را تضعیف کردند. در یک مورد، OpenAI می‌گوید عامل GPT-6 Astra، نظارت ایمنی خود را هنگام کپی کردن …
🕓 18:40 - 1405/07/29
به گزارش عصر ایران
دو پژوهشگر برجسته هشدار می‌دهند که توسعه بی‌رویه هوش مصنوعی بدون تدابیر ایمنی کافی می‌تواند خطری جدی برای بشریت باشد و چهار پیشنهاد برای مهار این خطرات ارائه کرده‌اند.
🕓 07:19 - 1405/07/26
به گزارش ایتنا
مدیرعامل مایکروسافت خواستار طراحی هوش مصنوعی با مکانیسم‌های مهار و ترمز اضطراری شد و بر لزوم نظارت انسانی و عدم اعتماد کامل به مدل‌های هوش مصنوعی تاکید کرد.
🕓 01:46 - 1405/07/20
به گزارش ایتنا
ساتیا نادلا، مدیرعامل مایکروسافت، خواستار طراحی سازوکارهای کنترلی و ترمز اضطراری برای هوش مصنوعی شد تا امکان توقف فعالیت مدل‌های پیشرفته در هر لحظه فراهم شود.
🕓 14:58 - 1405/07/19
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
سه محقق سابق OpenAI در نامه‌ای سرگشاده نسبت به ایجاد یک فضای سردکننده در فرهنگ شرکت به دلیل نگرانی‌های ایمنی هوش مصنوعی هشدار دادند.
🕓 14:28 - 1405/07/17
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
اوپن‌ای‌آی بر تصمیم خود برای اخراج سه محقق ایمنی پس از تحقیقاتی که نشان داد آنها مرتکب «نقض اعتماد قابل توجهی» شده‌اند، پافشاری می‌کند. این شرکت در پستی در ایکس اعلام کرد که جاسمین وانگ، تومک کورباک و میکیتا بالسنی …
🕓 14:17 - 1405/07/17
به گزارش ایتنا
مدیر پیشین ایمنی OpenAI نسبت به توسعه سریع و بی‌احتیاط مدل‌های هوش مصنوعی هشدار داد و اعلام کرد شرکت با وجود آگاهی از خطرات، به آموزش و انتشار این مدل‌ها ادامه می‌دهد.
🕓 09:16 - 1405/07/17
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
ترک یکی دیگر از مدیران ارشد OpenAI، سوالاتی را در مورد تعهد این شرکت به ایمنی هوش مصنوعی مطرح کرده است.
🕓 16:01 - 1405/07/13
نگرانی از رفتارهای خودحفاظتی هوش مصنوعی
آنتروپیک در اسناد سرمایه‌گذاران از رفتارهای نگران‌کننده مدل‌های هوش مصنوعی خود مانند مقاومت در برابر خاموش شدن و تلاش برای پنهان‌کاری اطلاعات هشدار داده است. این شرکت نسبت به خطرات احتمالی توسعه بیشتر هوش مصنوعی ابراز نگرانی کرده است.
🕓 01:09 - 1405/07/13
به گزارش ایتنا
نگرانی از سرعت توسعه هوش مصنوعی و پیامدهای احتمالی آن، فشار روانی بر پژوهشگران ایمنی وارد کرده و منجر به مرخصی و استعفای برخی از آنها شده است.
🕓 01:10 - 1405/07/12
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
دیوید رابینسون، مسئول نگارش گزارش‌های ایمنی مدل‌های هوش مصنوعی OpenAI، از سمت خود استعفا کرده و در مقاله‌ای در مجله آتلانتیک، هشدارهایی را درباره خطرات این فناوری مطرح کرده است.
🕓 18:07 - 1405/07/11
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
اعتماد به خودتنظیمی شرکت‌های فعال در حوزه هوش مصنوعی، تلاشی بیهوده برای نشان دادن پیشرفت است.
🕓 01:50 - 1405/07/10
به گزارش عصر ایران
دونالد ترامپ از شرکت‌های بزرگ فناوری خواست تا مسئولیت کنترل سامانه‌های هوش مصنوعی خود را بر عهده بگیرند و از کارشناسان بیرونی برای نظارت بر عملکرد آنها استفاده کنند.
🕓 03:01 - 1405/07/09
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
شرکت اوپن‌ای‌آی به دلیل نگرانی‌های مطرح شده در آزمایش‌های داخلی، انتشار مدل GPT-6.1 Astra را لغو کرد.
🕓 04:05 - 1405/07/07
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
ایالت فلوریدا می‌گوید مدل‌های زبانی بزرگ (LLM) با ایجاد «بزرگترین مزاحمت عمومی تاریخ»، تمدن را تهدید می‌کنند.
🕓 00:16 - 1405/07/07
به گزارش ایتنا
مدیرعامل Anthropic برای نخستین بار با دونالد ترامپ در کاخ سفید دیدار و شام خورد. این دیدار پس از ماه‌ها اختلاف بر سر ایمنی هوش مصنوعی و همکاری با پنتاگون صورت می‌گیرد.
🕓 09:21 - 1405/07/06
به گزارش عصر ایران
بیل گیتس نسبت به خطرات احتمالی هوش مصنوعی هشدار داد و اعلام کرد این فناوری می‌تواند منجر به مرگ یک میلیارد نفر شود. او بر لزوم نظارت دقیق بر ایمنی این فناوری تاکید کرد.
🕓 13:13 - 1405/07/04
به گزارش ایتنا
شرکت‌های گوگل، OpenAI و Anthropic برای ایجاد استانداردهای مشترک ایمنی و ارزیابی مدل‌های پیشرفته هوش مصنوعی وارد مذاکره شده‌اند.
🕓 10:08 - 1405/07/04
به گزارش حال و هوا - برگردان توسط هوش مصنوعی
در ماه ژوئیه، OpenAI فاش کرد که عامل‌های هوش مصنوعی آن بدون اجازه به Hugging Face حمله کرده‌اند که نگرانی‌های گسترده‌ای را در مورد ایمنی هوش مصنوعی برانگیخت. از آن زمان، مجموعه‌ای از حوادث مشابه شامل عامل‌هایی از Meta، Anthropic، …
🕓 19:06 - 1405/07/03
