پژوهشگر امنیتی کرم خودتکثیری ساخت که در سندهای Word پنهان می‌شود و Microsoft Copilot را ربایش می‌کند

شرح خبر

یک پژوهشگر امنیتی به نام Håkon Måløy موفق به ساخت کرم خودتکثیری شد که در سندهای Word پنهان می‌شود و قادر است Microsoft Copilot را ربایش کند. این حمله از طریق تزریق پرامپت (prompt injection) انجام می‌شود، جایی که دستورالعمل‌های مخرب با استفاده از متن سفید روی زمینه سفید و اندازه فونت بسیار کوچک در سند مخفی می‌شوند. کاربران این متن‌ها را نمی‌بینند، اما Copilot آنها را تشخیص می‌دهد؛ زیرا قبل از پردازش، ویژگی‌های ظاهری مانند رنگ و اندازه فونت را حذف می‌کند. هنگامی که سند آلوده به‌عنوان منبع استفاده شود، Copilot دستورالعمل‌های پنهان را اجرا کرده و آنها را در فایل جدید کپی می‌کند، که به نوبه خود به یک ناقل جدید تبدیل می‌شود. Microsoft این رفتار را در ۳۱ مارس تأیید کرد، اما دو تلاش برای اصلاح آن با شکست مواجه شد. پس از ۱۴۴ روز، Måløy یافته‌های خود را بدون ارائه اصلاحی منتشر کرد، هرچند متن payload را افشا نکرد. پژوهشگر امنیتی Håkon Måløy کرم خودتکثیری را توسعه داد که در سندهای Word پنهان می‌شود و Microsoft Copilot را تحت کنترل می‌گیرد. این حمله از طریق تزریق پرامپت انجام می‌شود، جایی که دستورالعمل‌های مخرب با متن سفید روی زمینه سفید و فونت بسیار کوچک مخفی می‌شوند. کاربران این متن‌ها را نمی‌بینند، اما Copilot آنها را پردازش می‌کند. هنگامی که سند آلوده به‌عنوان منبع استفاده شود، دستورالعمل‌ها در فایل جدید کپی شده و گسترش می‌یابند. Microsoft این رفتار را تأیید کرد، اما نتوانست آن را اصلاح کند. پس از ۱۴۴ روز، یافته‌ها منتشر شدند، اما متن payload افشا نشد. این حمله نشان می‌دهد که سیستم‌های هوش مصنوعی مانند Copilot می‌توانند به‌صورت خودکار دستورات مخرب را اجرا کنند، حتی اگر کاربران آنها را نبینند. این موضوع خطرات امنیتی جدیدی را در حوزه AI مطرح می‌کند که می‌تواند منجر به انتشار گسترده اطلاعات نادرست یا دستکاری داده‌ها شود. علاوه بر این، عدم توانایی Microsoft در اصلاح این آسیب‌پذیری در مدت زمان طولانی، نگرانی‌هایی را درباره آمادگی شرکت‌ها برای مقابله با تهدیدات امنیتی در سیستم‌های AI ایجاد می‌کند. شرکت‌ها و سازمان‌هایی که از Microsoft Copilot برای پردازش اسناد استفاده می‌کنند، در معرض خطر دستکاری داده‌ها و انتشار اطلاعات نادرست قرار دارند. این موضوع می‌تواند منجر به تصمیم‌گیری‌های اشتباه، آسیب به اعتبار برند و زیان‌های مالی شود. علاوه بر این، گسترش خودکار این حمله می‌تواند زنجیره‌ای از اسناد آلوده را ایجاد کند که تشخیص و کنترل آنها دشوار باشد. در ایران، سازمان‌ها و شرکت‌هایی که از ابزارهای هوش مصنوعی مانند Copilot استفاده می‌کنند، ممکن است در معرض این آسیب‌پذیری قرار بگیرند. این موضوع می‌تواند منجر به نشت اطلاعات حساس، دستکاری گزارش‌ها و آسیب به فرآیندهای کسب‌وکار شود. علاوه بر این، عدم دسترسی به اصلاحات امنیتی به‌روز می‌تواند خطرات را افزایش دهد. این حمله نشان می‌دهد که قوانین و مقررات فعلی در حوزه امنیت سایبری ممکن است برای مقابله با تهدیدات جدید در سیستم‌های AI کافی نباشند. شرکت‌ها ممکن است نیاز به بازنگری در سیاست‌های امنیتی خود داشته باشند تا از چنین حمله‌هایی جلوگیری کنند. علاوه بر این، این موضوع می‌تواند منجر به ایجاد استانداردهای جدیدی برای امنیت در هوش مصنوعی شود. این حمله می‌تواند توسط بازیگران بدخیم برای دستکاری اطلاعات در سطح بین‌المللی استفاده شود. کشورهایی که از ابزارهای هوش مصنوعی در بخش‌های حساس مانند دفاع یا اقتصاد استفاده می‌کنند، ممکن است در معرض خطرات امنیتی جدید قرار بگیرند. The Decoder پژوهشگر امنیتی موفق به ساخت کرم خودتکثیری شد که در سندهای Word پنهان می‌شود و Microsoft Copilot را تحت کنترل می‌گیرد. این حمله از طریق تزریق پرامپت انجام می‌شود.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.