تصویر مرتبط با خبر: Apple and Google ordered by San Francisco attorney to take action against 'nudify' apps - Engadget
خلاصه سریع
اصل خبر در چند خط
دادستان سانفرانسیسکو از اپل و گوگل خواسته است تا ۱۳ برنامه «برهنهسازی» مبتنی بر هوش مصنوعی را از فروشگاههای خود حذف کنند.
این برنامهها امکان ساخت تصاویر دیپفیک برهنه را فراهم میکنند و با انتقادات گستردهای به دلیل نقض حریم خصوصی مواجه شدهاند.
گزارشها نشان میدهد که برخی از این برنامهها با رتبهبندی نامناسب برای کودکان در دسترس بودهاند.
اپل و گوگل اعلام کردهاند که اقداماتی برای حذف این برنامهها انجام دادهاند، اما کارشناسان بر نیاز به نظارت بیشتر تأکید دارند.
این موضوع بخشی از چالشهای گستردهتر پلتفرمها در مقابله با سوءاستفاده از دیپفیکها است.
متن خبر
شرح خبر
دیوید چیو، دادستان شهر سانفرانسیسکو، با ارسال نامههای توقف و منع فعالیت به اپل و گوگل، این دو شرکت را موظف کرده است تا ۱۳ برنامه مبتنی بر هوش مصنوعی «برهنهسازی» را از فروشگاههای اپلیکیشن خود حذف کنند.
این برنامهها که امکان ساخت تصاویر دیپفیک برهنه را فراهم میکنند، با انتقادات گستردهای به دلیل نقض حریم خصوصی و سوءاستفاده از تصاویر افراد، بهویژه زنان و دختران، مواجه شدهاند.
طبق گزارش وایرد، چیو پیشتر نیز علیه ۱۶ وبسایت مشابه شکایت کرده بود که به کاربران اجازه میدادند تصاویر واقعی را به پورنوگرافی تبدیل کنند.
او تأکید کرد که اپل و گوگل احتمالاً از پرداختهای درونبرنامهای این اپلیکیشنها میلیونها دلار درآمد کسب کردهاند و نظارت ناکافی فروشگاههای آنها باعث تأیید این برنامهها شده است.
گزارش پروژه شفافیت فناوری (TTP) نشان داد که بسیاری از این برنامهها با وجود ممنوعیت محتوای جنسی در سیاستهای اپل و گوگل، از فیلترهای نظارتی عبور کرده و حتی با رتبه «E» برای همه سنین عرضه شدهاند.
این موضوع امکان دسترسی کودکان به این برنامهها را فراهم کرده و نگرانیهای جدی درباره سوءاستفاده از فناوری هوش مصنوعی ایجاد کرده است.
هر دو شرکت اعلام کردهاند که اقداماتی برای حذف این برنامهها انجام دادهاند؛
گوگل از حذف صدها برنامه خبر داد و اپل نیز سه برنامه مورد اشاره را حذف و حساب توسعهدهندگان آنها را مسدود کرده است.
با این حال، کارشناسان معتقدند که نیاز به نظارت دقیقتر و سیاستهای سختگیرانهتر برای مقابله با سوءاستفاده از دیپفیکها وجود دارد.
این صفحه خلاصه و تحلیل فارسی خبر را نمایش میدهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.
تحلیل تحریریه
ابعاد مهم خبر
چرا مهم است؟
این اقدام نشاندهنده افزایش فشارهای قانونی بر شرکتهای فناوری برای مقابله با سوءاستفاده از هوش مصنوعی است.
برنامههای «برهنهسازی» نه تنها حریم خصوصی افراد را نقض میکنند، بلکه میتوانند به گسترش محتوای غیراخلاقی و آسیبهای اجتماعی منجر شوند.
همچنین، این موضوع اهمیت نظارت دقیقتر بر فروشگاههای اپلیکیشن و مسئولیتپذیری پلتفرمها در قبال محتوای منتشرشده را برجسته میکند.
اثر کسبوکاری
این دستور ممکن است منجر به تغییرات در سیاستهای نظارتی اپل و گوگل شود و هزینههای بیشتری را برای بررسی و حذف برنامههای مخرب به دنبال داشته باشد.
همچنین، این موضوع میتواند بر درآمدهای حاصل از پرداختهای درونبرنامهای تأثیر بگذارد و اعتماد کاربران به فروشگاههای اپلیکیشن را تحتالشعاع قرار دهد.
اثر احتمالی برای ایران
اگرچه این دستور در ایالات متحده صادر شده، اما میتواند الگویی برای سایر کشورها، از جمله ایران، باشد تا قوانین سختگیرانهتری برای مقابله با سوءاستفاده از هوش مصنوعی و دیپفیکها وضع کنند.
همچنین، این موضوع میتواند بر توسعهدهندگان ایرانی که در حوزه هوش مصنوعی فعالیت میکنند، تأثیرگذار باشد و نیاز به رعایت استانداردهای بینالمللی را بیشتر کند.
ارتباط با LegalTech
این اقدام میتواند منجر به تقویت قوانین مربوط به محتوای دیجیتال و مسئولیتپذیری پلتفرمها شود.
همچنین، ممکن است شرکتهای فناوری را ملزم به توسعه ابزارهای پیشرفتهتر برای شناسایی و حذف محتوای غیرمجاز کند.
زاویه رسانه/کشور منبع
این خبر از دیدگاه حقوقی و نظارتی بر پلتفرمهای فناوری بزرگ تمرکز دارد و به چالشهای قانونی و اخلاقی مرتبط با دیپفیکها میپردازد.
