کرم خودتکثیر در Word که Microsoft Copilot را ربایش میکند!
پژوهشگر امنیتی Håkon Måløy کرم خودتکثیری را توسعه داد که در سندهای Word پنهان میشود و Microsoft Copilot را تحت کنترل میگیرد. این حمله از طریق تزریق پرامپت انجام میشود، جایی که د…
آخرین اخبار تزریق پرامپت
گیتهاب چگونه امنیت VS Code را در برابر تزریق پرامپت بهبود میبخشد؟
گیتهاب با تحلیل بیش از ۱۴ هزار مخزن، مالکیت را به عنوان پایه امنیت قرار داد و در کمتر از ۴۵ روز مالک تأییدشدهای به هر مخزن فعال اختصاص داد. این شرکت همچنین بیش از ۲۰ هزار هشدار اس…
هشدار: بدافزار جدید macOS.Gaslight تحلیلگران امنیتی را فریب میدهد!
محققان SentinelOne یک بدافزار جدید برای macOS با نام macOS.Gaslight را شناسایی کردهاند که با زبان Rust نوشته شده است. این بدافزار حاوی پیامهای ساختگی سیستمی است که برای فریب ابزا…
GPT-Red: انقلاب اپنایآی در ایمنی هوش مصنوعی با رد تیمینگ خودکار
اپنایآی سیستم جدیدی به نام GPT-Red را معرفی کرده است که از تکنیک خودبازی برای بهبود ایمنی و هماهنگی مدلهای هوش مصنوعی استفاده میکند. این سیستم به عنوان یک ابزار رد تیمینگ خودکا…
F5 پلتفرم امنیتی هوش مصنوعی جدیدی را رونمایی کرد
شرکت F5 پلتفرم امنیتی هوش مصنوعی جدیدی به نام F5 AI Security Platform را رونمایی کرد. این پلتفرم برای تأمین امنیت استفاده از هوش مصنوعی در سازمانها طراحی شده و شامل دید، حاکمیت و …
اولین حمله زنجیره تامین با تزریق پرامپت در jqwik 1.10.0
نگهدارنده کتابخانه jqwik نسخه ۱.۱۰.۰ را با دستوری پنهان برای عاملهای هوش مصنوعی منتشر کرد که به آنها دستور حذف تستها و کدها را میداد. این پیام با کدهای ANSI پنهان شده بود، اما …
⚠️ حمله Ghostcommit: چگونه تصاویر میتوانند هوش مصنوعی را فریب دهند؟
حمله Ghostcommit نشان میدهد که دستیاران هوش مصنوعی بررسیکننده کد میتوانند توسط دستورالعملهای مخفی در تصاویر فریب بخورند. گروه ASSET با جاسازی دستورالعملها در فایلهای تصویر و …
تزریق پرامپت: XSS عصر جدید عاملهای وب + راهکار Prismata
پژوهشگران دانشگاه برکلی مفهوم «Cross-Site Prompting» (XSP) را به عنوان معادل حمله XSS در عصر عاملهای وب معرفی کردند. عاملهای وب خودمختار تمام محتواهای صفحه از جمله نظرات کاربران …
توسعه عاملمحور: لایه جدید ریسک در زنجیره تأمین نرمافزار
تحقیقات سنیک بر روی 10 هزار محیط توسعه نشان میدهد که توسعه عاملمحور لایههای جدیدی از ریسک در زنجیره تأمین نرمافزار ایجاد کرده است. ۴۳ درصد توسعهدهندگان از دو یا چند محیط کدگذار…
GPT-Red: هوش مصنوعی اُپنایآی که چتجیپیتی را هک میکند تا آن را امنتر کند!
اُپنایآی مدل هوش مصنوعی جدیدی به نام GPT-Red را رونمایی کرد که برای شناسایی آسیبپذیریهای امنیتی در سیستمهای خود طراحی شده است. این ابزار با شبیهسازی حملات سایبری، به ویژه تزریق…
گارددیوتی AWS حفاظت از هوش مصنوعی را معرفی کرد!
آمازون گارددیوتی سرویس جدید «حفاظت از هوش مصنوعی» را برای بارهای کاری AI در AWS معرفی کرد. این سرویس تشخیص تهدید را به خدمات هوش مصنوعی مانند آمازون بدراک و سیجمیکر گسترش میدهد و …
اُپنایآی مدل جیپیتی-رد را ساخت که مدلهای خودش را هک میکند — اما منتشر نخواهد کرد
اُپنایآی مدلی به نام جیپیتی-رد توسعه داده که برای یافتن آسیبپذیریهای مدلهای خودش از طریق حملات تزریق پرامپت طراحی شده است. این مدل در یک حلقه خودآموزی با مدلهای دفاعی رقابت…
GPT-Red: هکر هوش مصنوعی OpenAI که مدلها را به چالش میکشد
OpenAI مدل GPT-Red را به عنوان یک هکر هوشمند برای تست امنیت مدلهای زبانی خود توسعه داده است. این مدل با استفاده از روش «red-teaming» خودکار، آسیبپذیریها را پیش از انتشار عمومی ش…
⚠️ اکسپلویتهای جدید متاسپلویت: خطرات جدی برای FlowiseAI و کاربران macOS
بهروزرسانی جدید متاسپلویت شامل سه اکسپلویت مهم است: تزریق پرامپت RCE در Flowise CSV Agent (CVE-2026-41264)، افزایش دسترسی در macOS PackageKit (CVE-2024-27822) و پایداری از طریق فا…
چرا نشت پرامپت سیستم در هوش مصنوعی مولد اجتنابناپذیر است؟
پرامپتهای سیستم در برنامههای هوش مصنوعی مولد نقش کلیدی دارند و حاوی اطلاعات اختصاصی مانند دستورالعملها، تعاریف ابزارها و متادیتا هستند. نشت این پرامپتها، که در لیست OWASP LLM 2…