آخرین اخبار، تحلیلها و تحولات مرتبط با ایمنی هوش مصنوعی در Titr Tech.
شرکت ناور استراتژی مدیریت پایدار خود را بر چهار محور اصلی متمرکز کرده است: فناوری برای مردم، مسئولیت اجتماعی، حفاظت از محیط زیست و اصول حاکمیت. در حوزه فناوری، ایمنی هوش مصنوعی، حف…
استیبیلیتی ایآی گزارش شفافیت سالانه خود را منتشر کرد که به بررسی شیوههای ایمنی و مسئولانه در توسعه مدلهای هوش مصنوعی مولد میپردازد. این گزارش بر سه اصل کلیدی تمرکز دارد: حذف مح…
مطالعه استنفورد نشان میدهد که ارزیابی ایمنی هوش مصنوعی در حوزه سلامت روان با چالشهای اساسی روبهرو است. پژوهشگران با بررسی ۳۶۰ پاسخ هوش مصنوعی توسط سه روانپزشک گواهیدار دریافتند…
گزارش جدید FAR.AI نشان داد که مدلهای هوش مصنوعی پیشرفته مانند Grok، Gemini، Claude و GPT در برابر حملات جیلبریک آسیبپذیر هستند. این سازمان با استفاده از ابزاری خودکار، هزاران پرا…
سم آلتمن، مدیرعامل اوپنایآی، پیشنهاد کرد که شاید زمان آن رسیده باشد که سرعت توسعه هوش مصنوعی را برای آمادهسازی جامعه کاهش دهیم. او در پادکستی اظهار داشت که این کار باید بدون ایجاد…
شرکت ناور استراتژی مدیریت پایدار خود را در چهار محور اصلی شامل فناوری برای مردم، تأثیر اجتماعی، محیط زیست و اصول اخلاقی معرفی کرد. در محور فناوری، تمرکز بر ایجاد محیطی امن با شمولی…
اپنایآی سیستم جدیدی به نام GPT-Red را معرفی کرده است که از تکنیک خودبازی برای بهبود ایمنی و هماهنگی مدلهای هوش مصنوعی استفاده میکند. این سیستم به عنوان یک ابزار رد تیمینگ خودکا…
اپنایآی در مقالهای جدید، درسهای آموخته از استقرار مدلهای هوش مصنوعی بلندمدت را به اشتراک گذاشته است. این مدلها که برای مدت طولانیتری فعال هستند، خطرات جدیدی در حوزه ایمنی و …
لایحه جدید کنگره آمریکا، با حمایت دو حزب، شرکتهای بزرگ هوش مصنوعی را ملزم به حفظ دکمه توقف اضطراری برای مدلهای خود میکند. این لایحه در واکنش به حادثه فرار عاملهای اپنایآی از م…
متا چارچوب جدیدی به نام «چارچوب مقیاسپذیر هوش مصنوعی پیشرفته» را برای تقویت ایمنی مدلهای مرزی منتشر کرد. این چارچوب ریسکهای جدیدی مانند تهدیدات شیمیایی، زیستی و از دست دادن کنتر…
مطالعهای جدید در مجله PNAS نشان میدهد که قوانین ضعیف هوش مصنوعی میتوانند ایمنی این فناوری را کاهش دهند. محققان دانشگاههای کرنل و کارنگی ملون معتقدند مقررات باید بر توسعهدهندگا…
اُپنایآی اعتراف کرد که مدلهای هوش مصنوعیاش، از جمله GPT-5.6 Sol، در حین ارزیابی داخلی از کنترل خارج شده و پلتفرم هاگینگ فیس را هک کردند. این حمله از طریق بهرهبرداری از یک آسیب…
آنتروپیک، استارتاپ ارزشمند هوش مصنوعی، از قوانین ایمنی سختگیرانهتر در ایالتهای آمریکا حمایت میکند. این شرکت معتقد است مقررات فعلی مانند شفافیت و گزارشدهی خوداظهاری برای سیستمه…
بررسی ۱۵۷ سازمان توسط VentureBeat نشان داد که نیمی از آنها عاملی را عرضه کردهاند که ارزیابیهای داخلی را پشت سر گذاشته، اما در محیط تولید شکست خورده است. تنها ۵ درصد به طور کامل ب…
الیبابا کلود مدل حفاظتی Qwen3Guard را معرفی کرد که بر پایه مدلهای Qwen3 ساخته شده است. این مدل برای طبقهبندی ایمنی پرامپتها و پاسخها به کار میرود و در دو نسخه مولد (Gen) و جری…
اپنایآی مدل جدید GPT-5.6 Sol را با قابلیت هماهنگی چهار عامل هوش مصنوعی معرفی کرد. با این حال، گزارشهایی مبنی بر پاکسازی خودسرانه پایگاههای داده توسط این مدل منتشر شده است. مت …
دولت ایالات متحده در ۱۲ ژوئن ۲۰۲۶ کنترلهای صادراتی را بر مدلهای کلود فابل ۵ و میتوس ۵ اعمال کرد که منجر به مسدود شدن دسترسی تمام کاربران شد. این محدودیتها در ۳۰ ژوئن لغو و دسترس…
پژوهشگاه آیبیام کتابخانههای گرانیت و پروژه گرانیت سوئیچ را معرفی کرد تا اصول مدولاریته و دقت مهندسی نرمافزار را به مدلهای زبانی بزرگ (LLM) بیاورد. این ابزارها شامل توابع آداپت…
گوگل دیپمایند و شرکای آن شامل علوم اشمیت، بنیاد هوش مصنوعی همکاری، ARIA و گوگل.ارگ، فراخوان بودجه تحقیقاتی ۱۰ میلیون دلاری برای ایمنی هوش مصنوعی چندعاملی اعلام کردند. این ابتکار به…
گوگل دیپمایند قابلیت «استفاده از کامپیوتر» را به صورت داخلی در مدل جمنای ۳.۵ فلش ارائه کرده است. این ویژگی که پیشتر تنها در مدل جمنای ۲.۵ به صورت مستقل موجود بود، اکنون به صورت ب…