Hugging Face میزبان صدها ابزار تولید محتواهای جنسی غیررضایت‌آمیز است

شرح خبر

پلتفرم Hugging Face، که میزبان میلیون‌ها مدل هوش مصنوعی و هزاران مجموعه داده است، طبق تحقیقات سازمان غیردولتی AI Forensics هیچ مکانیسمی برای مدارا یا مسدودسازی ابزارها و روش‌های مرتبط با تولید محتواهای جنسی غیررضایت‌آمیز پیاده‌سازی نکرده است. تحقیقات نشان می‌دهد که ۷۳ درصد از درخواست‌های کاربران در این پلتفرم مربوط به محتواهای جنسی و ۶۰ درصد آن‌ها به محتواهای غیررضایت‌آمیز اختصاص دارد. اتحادیه اروپا در حال تدوین مقررات هوش مصنوعی است و ممنوعیت صریح سیستم‌های «nudification» را در AI Act گنجانده، به ویژه زمانی که این ابزارها بدون رضایت افراد استفاده شوند. بنیاد Internet Watch Foundation نیز اواسط مارس نسبت به افزایش تصاویر و ویدئوهای جنایی کودکان تولیدشده توسط هوش مصنوعی هشدار داده بود. پلتفرم Hugging Face، یکی از برترین شرکت‌های حوزه هوش مصنوعی، میزبان صدها ابزار تولید محتواهای جنسی غیررضایت‌آمیز است. تحقیقات AI Forensics نشان می‌دهد که این پلتفرم هیچ مکانیسم مدارا یا مسدودسازی برای چنین ابزارهایی ندارد. ۷۳ درصد از درخواست‌های کاربران در این پلتفرم جنسی و ۶۰ درصد آن‌ها غیررضایت‌آمیز هستند. اتحادیه اروپا ممنوعیت سیستم‌های nudification را در AI Act اضافه کرده است. بنیاد IWF نیز نسبت به افزایش تصاویر و ویدئوهای جنایی کودکان تولیدشده توسط IA هشدار داده است. تشخیص این محتواها از تصاویر واقعی دشوار است و باعث اتلاف وقت تیم‌های پلیسی می‌شود. افزایش محتواهای جنسی غیررضایت‌آمیز تولیدشده توسط هوش مصنوعی نه تنها چالش‌های حقوقی و اخلاقی جدیدی را ایجاد می‌کند، بلکه می‌تواند به عادی‌سازی خشونت‌های جنسی کمک کند. تشخیص این محتواها از تصاویر واقعی دشوار است و منابع پلیسی را هدر می‌دهد. علاوه بر این، عدم نظارت بر چنین ابزارهایی در پلتفرم‌های بزرگ مانند Hugging Face می‌تواند به سوءاستفاده گسترده‌تر منجر شود. این موضوع می‌تواند به آسیب دیدن شهرت Hugging Face و سایر پلتفرم‌های مشابه منجر شود. شرکت‌ها ممکن است با فشارهای قانونی و تنظیم‌گری مواجه شوند، به ویژه در اتحادیه اروپا که مقررات سخت‌گیرانه‌ای را در حال تدوین است. همچنین، سرمایه‌گذاران ممکن است از حمایت از شرکت‌هایی که در معرض چنین ریسک‌هایی هستند، خودداری کنند. در ایران، این موضوع می‌تواند به بحث‌های بیشتری درباره نظارت بر محتواهای دیجیتال و استفاده از هوش مصنوعی منجر شود. با توجه به محدودیت‌های اینترنتی و فیلترینگ، ممکن است دولت ایران اقدامات سخت‌گیرانه‌تری را برای کنترل چنین محتواهایی اعمال کند. اتحادیه اروپا در حال تدوین مقررات جدیدی برای ممنوعیت سیستم‌های nudification در AI Act است. این موضوع می‌تواند به ایجاد استانداردهای جدیدی برای پلتفرم‌های هوش مصنوعی منجر شود. همچنین، سازمان‌های غیردولتی مانند AI Forensics و IWF نقش مهمی در شناسایی و گزارش چنین محتواهایی ایفا می‌کنند. اتحادیه اروپا در حال تدوین مقررات جدیدی برای هوش مصنوعی است که می‌تواند تأثیرات جهانی داشته باشد. این مقررات ممکن است باعث تغییر در سیاست‌های شرکت‌های فناوری در سراسر جهان شود. Next INpact پلتفرم Hugging Face هیچ مکانیسمی برای مدارا با ابزارهای تولید محتواهای جنسی غیررضایت‌آمیز ندارد. تحقیقات نشان می‌دهد ۷۳ درصد درخواست‌ها جنسی هستند.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.