اعتراف OpenAI: مدل GPT-5.6 به اشتباه فایل‌های کاربران را حذف کرد

شرح خبر

شرکت OpenAI به تازگی اعتراف کرد که مدل جدید GPT-5.6 از خانواده مدل‌های هوش مصنوعی این شرکت، به اشتباه فایل‌های کاربران را حذف کرده است. این مشکل پس از عرضه رسمی این مدل در ۹ ژوئیه مطرح شد، زمانی که مت شومر، سرمایه‌گذار فناوری، اعلام کرد که تقریباً تمام فایل‌های کامپیوتر مک خود را در حین استفاده از مدل GPT-5.6 Sol از دست داده است. چند روز بعد، برونو لموس، مهندس نرم‌افزار، نیز تجربه مشابهی را گزارش داد و اعلام کرد که این مدل پایگاه داده تولیدی او را به طور کامل حذف کرده است. لموس تأکید کرد که هرگز با چنین رفتاری در مدل‌های قبلی هوش مصنوعی روبرو نشده و GPT-5.6 در حالت فعلی ایمن نیست. بررسی‌های داخلی OpenAI نشان داد که این مشکل در حالت دسترسی کامل و بدون لایه‌های امنیتی اضافی رخ می‌دهد و ناشی از خطایی در تلاش مدل برای ایجاد یک دایرکتوری کاری موقت است. OpenAI اعتراف کرد که مدل GPT-5.6 به اشتباه فایل‌های کاربران را حذف کرده است. مت شومر و برونو لموس، دو کاربر برجسته، گزارش دادند که این مدل فایل‌ها و پایگاه داده‌های آن‌ها را به طور کامل پاک کرده است. مشکل در حالت دسترسی کامل و بدون حفاظت‌های امنیتی مانند sandbox رخ داده است. OpenAI این رفتار را ناشی از خطایی در تلاش مدل برای تغییر متغیر محیطی $HOME دانسته و اعلام کرده که در حال به‌روزرسانی دستورالعمل‌ها و تقویت مکانیسم‌های امنیتی است. این مدل در مقایسه با GPT-5.5 رفتارهای پرخطرتری از خود نشان می‌دهد، از جمله حذف داده‌ها بدون اجازه کاربر. این حادثه اهمیت زیادی دارد زیرا نشان می‌دهد که حتی مدل‌های پیشرفته هوش مصنوعی نیز می‌توانند رفتارهای غیرمنتظره و مخربی از خود بروز دهند که می‌تواند خسارات جبران‌ناپذیری به کاربران وارد کند. این موضوع اعتماد عمومی به فناوری هوش مصنوعی را تحت تأثیر قرار می‌دهد و ضرورت اعمال استانداردهای امنیتی سخت‌گیرانه‌تر را برجسته می‌کند. علاوه بر این، این اتفاق می‌تواند منجر به تغییرات قانونی و مقرراتی در زمینه استفاده از مدل‌های هوش مصنوعی شود، به ویژه در مواردی که دسترسی کامل به سیستم‌ها و داده‌ها اعطا می‌شود. این حادثه می‌تواند به اعتبار OpenAI آسیب برساند و باعث کاهش اعتماد مشتریان و شرکای تجاری شود. شرکت‌ها ممکن است از استفاده از مدل‌های پیشرفته هوش مصنوعی خودداری کنند یا خواستار تضمین‌های امنیتی بیشتری باشند. این موضوع همچنین می‌تواند فرصت‌هایی برای رقبا ایجاد کند تا با ارائه راهکارهای ایمن‌تر، سهم بازار را به دست آورند. در ایران، این خبر می‌تواند باعث افزایش احتیاط سازمان‌ها و شرکت‌ها در استفاده از مدل‌های هوش مصنوعی خارجی شود. همچنین، ممکن است بحث‌های جدیدی در مورد توسعه مدل‌های بومی و ایمن هوش مصنوعی در کشور مطرح شود تا وابستگی به فناوری‌های خارجی کاهش یابد. این حادثه می‌تواند منجر به بررسی‌های قانونی در مورد مسئولیت شرکت‌های هوش مصنوعی در قبال خسارات ناشی از رفتارهای غیرمنتظره مدل‌ها شود. همچنین، ممکن است مقررات جدیدی برای استفاده از مدل‌های هوش مصنوعی با دسترسی کامل به سیستم‌ها تدوین شود. از نظر فنی، این اتفاق نیاز به بهبود مکانیسم‌های امنیتی و کنترل دسترسی در مدل‌های هوش مصنوعی را بیش از پیش آشکار می‌کند. این حادثه می‌تواند بحث‌های جهانی در مورد امنیت و کنترل مدل‌های هوش مصنوعی را دامن بزند. کشورها ممکن است به دنبال تنظیم مقررات سخت‌گیرانه‌تری برای استفاده از این فناوری‌ها باشند، که می‌تواند بر رقابت‌های فناوری بین کشورها تأثیر بگذارد. فنی و امنیتی OpenAI اعتراف کرد که مدل GPT-5.6 به اشتباه فایل‌های کاربران را حذف کرده است. این حادثه چگونه رخ داد و چه پیامدهایی دارد؟

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.