حمله تزریق داده به عامل‌های هوش مصنوعی: فریب AI برای کلیک اشتباه یا اجرای دستورات مهاجم

شرح خبر

محققان دانشگاه ملی سئول، دانشگاه ایلینوی اوربانا-شامپین و شرکت Largosoft در تحقیقی که روز ۶ ژوئیه ۲۰۲۶ منتشر کردند، نوع جدیدی از حمله سایبری به نام «تزریق داده عامل» (ADI) را معرفی کردند. در این حمله، مهاجم با تزریق داده‌های جعلی به عامل هوش مصنوعی، آن را وادار به انجام اقدامات مخرب می‌کند. برای مثال، یک نظر جعلی در صفحه محصول می‌تواند عامل را فریب دهد تا به جای کلیک روی «بیشتر بخوانید»، روی «خرید حالا» کلیک کند. یا یک کامنت جعلی در GitHub می‌تواند عامل کد را وادار به اجرای دستوری مخرب روی ماشین توسعه‌دهنده کند. این حمله با موفقیت‌آمیزی ۳۱ تا ۵۰ درصد روی مدل‌های پیشرفته‌ای مانند GPT-5.2، Claude Opus 4.5 و Gemini 3 Pro آزمایش شده است. دفاع‌های فعلی که برای حمله‌های تزریق دستور (Prompt Injection) طراحی شده‌اند، در برابر ADI کمتر مؤثر هستند. محققان حمله سایبری جدیدی به نام «تزریق داده عامل» (ADI) را کشف کردند که در آن داده‌های جعلی به عامل‌های هوش مصنوعی تزریق می‌شود تا آن‌ها را وادار به انجام اقدامات مخرب کند. این حمله با دستکاری داده‌های مورد اعتماد مانند نام فرستنده، شناسه دکمه یا نتیجه ابزار، عامل را فریب می‌دهد. مکانیسم حمله بر اساس «تزریق جداکننده احتمالی» است که در آن نشانه‌های نگارشی جعلی مانند گیومه یا براکت، ساختار داده‌ها را دستکاری می‌کنند. این حمله روی ابزارهای واقعی مانند عامل‌های وب، دستیارهای کد و درخواست‌های ادغام با موفقیت‌آمیزی ۳۱ تا ۵۰ درصد آزمایش شده است. دفاع‌های موجود در برابر این حمله کمتر مؤثر هستند و راهکارهای دفاعی پیشنهادی ممکن است کارایی عامل‌ها را کاهش دهند. این حمله نشان می‌دهد که عامل‌های هوش مصنوعی نه تنها در برابر دستکاری مستقیم دستورالعمل‌ها، بلکه در برابر دستکاری داده‌های ورودی نیز آسیب‌پذیر هستند. این موضوع اهمیت امنیت در طراحی و پیاده‌سازی عامل‌های هوش مصنوعی را برجسته می‌کند، زیرا آن‌ها به طور فزاینده‌ای در وظایف حساس مانند توسعه نرم‌افزار و مدیریت داده‌ها مورد استفاده قرار می‌گیرند. علاوه بر این، موفقیت این حمله در برابر مدل‌های پیشرفته هوش مصنوعی نشان می‌دهد که دفاع‌های فعلی کافی نیستند و نیاز به راهکارهای جدیدی برای مقابله با چنین حمله‌هایی وجود دارد. این حمله می‌تواند منجر به خسارات مالی و اعتباری برای کسب‌وکارها شود، به ویژه آن‌هایی که از عامل‌های هوش مصنوعی برای اتوماسیون فرآیندها استفاده می‌کنند. برای مثال، کلیک اشتباه روی دکمه «خرید حالا» می‌تواند منجر به خریدهای غیرمجاز شود. همچنین، اجرای دستورات مخرب در محیط‌های توسعه نرم‌افزار می‌تواند منجر به افشای داده‌ها یا آسیب به زیرساخت‌ها شود. در ایران، که استفاده از هوش مصنوعی در حال رشد است، این حمله می‌تواند بر شرکت‌ها و سازمان‌هایی که از عامل‌های هوش مصنوعی برای اتوماسیون فرآیندها استفاده می‌کنند، تأثیر بگذارد. به ویژه، سازمان‌هایی که از دستیارهای کد برای توسعه نرم‌افزار استفاده می‌کنند، ممکن است در معرض خطر اجرای دستورات مخرب قرار گیرند. این حمله می‌تواند منجر به تغییرات در قوانین و مقررات مربوط به امنیت سایبری و هوش مصنوعی شود. شرکت‌ها ممکن است مجبور شوند استانداردهای امنیتی سخت‌گیرانه‌تری را برای عامل‌های هوش مصنوعی پیاده‌سازی کنند. علاوه بر این، این حمله می‌تواند منجر به توسعه فناوری‌های دفاعی جدیدی شود که قادر به تشخیص و جلوگیری از تزریق داده‌های جعلی باشند. این حمله می‌تواند توسط بازیگران دولتی یا گروه‌های هکری برای هدف قرار دادن زیرساخت‌های حیاتی یا شرکت‌های بزرگ در کشورهای مختلف استفاده شود. به ویژه، کشورهایی که در توسعه هوش مصنوعی پیشرو هستند، ممکن است هدف اصلی چنین حمله‌هایی باشند. فنی و امنیتی محققان حمله «تزریق داده عامل» (ADI) را کشف کردند که عامل‌های هوش مصنوعی را وادار به انجام اقدامات مخرب می‌کند. این حمله روی مدل‌های پیشرفته با موفقیت‌آمیزی ۳۱ تا ۵۰ درصد آزمایش شده است.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.