xAI از کاربر Grok به دلیل تولید دیپفیک‌های جنسی غیرراضی شکایت کرد

شرح خبر

شرکت xAI (با نام رسمی SpaceXAI) شکایتی علیه تری وین هاروود، مرد ۶۷ ساله‌ای از کارولینای جنوبی، ثبت کرده است. هاروود متهم به استفاده از مدل هوش مصنوعی Grok برای تولید تصاویر جنسی از افراد واقعی، از جمله بزرگسالان و کودکان، بدون رضایت آنها است. طبق شکواییه ارائه‌شده در تگزاس، او بین ۸ دسامبر ۲۰۲۵ تا ۱۸ فوریه ۲۰۲۶، تصاویر غیرجنسی چندین نفر را در دو حساب کاربری خود آپلود کرد و سپس از Grok خواست تا آنها را به صورت پورنوگرافیک یا جنسی ویرایش کند. گرچه Grok در بسیاری از موارد از اجرای دستورهای او خودداری کرد، هاروود با ارسال درخواست‌های اصلاح‌شده، سعی در دور زدن مکانیسم‌های ایمنی داشت. این پرونده یکی از نخستین شکایات یک شرکت هوش مصنوعی علیه کاربر خود است و پیام روشنی درباره عزم xAI برای مقابله با سوءاستفاده از فناوری‌اش ارسال می‌کند. پس از افشای این رسوایی، نهادهای نظارتی در کالیفرنیا، بریتانیا، اتحادیه اروپا و ایرلند تحقیقات رسمی را آغاز کردند. شرکت xAI از کاربر Grok به دلیل تولید دیپفیک‌های جنسی غیرراضی شکایت کرد. متهم، تری وین هاروود، از این مدل هوش مصنوعی برای ساخت تصاویر جنسی از بزرگسالان و کودکان بدون رضایت استفاده کرده است. شکواییه نشان می‌دهد هاروود بین دسامبر ۲۰۲۵ تا فوریه ۲۰۲۶، تصاویر غیرجنسی را آپلود و سپس از Grok خواست تا آنها را به صورت پورنوگرافیک ویرایش کند. گرچه Grok در بسیاری از موارد درخواست‌ها را رد کرد، هاروود با اصلاح درخواست‌ها سعی در دور زدن محدودیت‌ها داشت. این پرونده یکی از نخستین اقدامات قانونی یک شرکت هوش مصنوعی علیه کاربر خود است. نهادهای نظارتی در سطح جهانی تحقیقاتی را درباره Grok آغاز کرده‌اند. این شکایت نشان‌دهنده تغییر رویکرد شرکت‌های هوش مصنوعی در قبال سوءاستفاده از فناوری‌هایشان است. xAI با این اقدام، پیام روشنی درباره عدم تحمل تولید محتواهای غیراخلاقی و غیرقانونی ارسال می‌کند. این پرونده می‌تواند سابقة حقوقی مهمی برای مسئولیت‌پذیری کاربران و پلتفرم‌ها در برابر سوءاستفاده از هوش مصنوعی باشد. این شکایت می‌تواند اعتماد کاربران و سرمایه‌گذاران به xAI و Grok را تحت تأثیر قرار دهد. شرکت‌ها ممکن است مجبور به سرمایه‌گذاری بیشتر در مکانیسم‌های ایمنی و نظارتی شوند. همچنین، این اقدام می‌تواند منجر به افزایش هزینه‌های حقوقی و نظارتی برای شرکت‌های فعال در حوزه هوش مصنوعی شود. در ایران، این خبر می‌تواند بحث‌های جدیدی درباره استفاده اخلاقی از هوش مصنوعی و لزوم تنظیم مقررات در این حوزه را برانگیزد. همچنین، ممکن است باعث افزایش نظارت بر پلتفرم‌های هوش مصنوعی در کشور شود. این پرونده می‌تواند به توسعه قوانین و مقررات جدیدی در زمینه استفاده از هوش مصنوعی منجر شود. شرکت‌ها ممکن است مجبور به پیاده‌سازی مکانیسم‌های ایمنی قوی‌تر و شفافیت بیشتر در فرآیندهای خود شوند. همچنین، این اقدام می‌تواند به ایجاد استانداردهای جدیدی برای مسئولیت‌پذیری در حوزه هوش مصنوعی کمک کند. این پرونده می‌تواند تأثیرات جهانی داشته باشد، زیرا نهادهای نظارتی در کشورهای مختلف از جمله ایالات متحده، بریتانیا و اتحادیه اروپا تحقیقاتی را آغاز کرده‌اند. این اقدام می‌تواند به هماهنگی بیشتر بین‌المللی در زمینه تنظیم مقررات هوش مصنوعی منجر شود. Engadget به عنوان یک منبع معتبر در حوزه فناوری، این خبر را با جزئیات کامل پوشش داده است. شرکت xAI از کاربر Grok به دلیل تولید تصاویر جنسی غیرراضی شکایت کرد. این پرونده می‌تواند سابقة حقوقی مهمی برای صنعت هوش مصنوعی باشد.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.