تصویر مرتبط با خبر: Automated Moderation Is Here to Stay—Accountability Must Keep Pace
خلاصه سریع
اصل خبر در چند خط
افشای اسناد متا در سال ۲۰۲۰ نشان داد که الگوریتمهای این شرکت ۷۷ درصد از محتواهای غیرخشونتآمیز عربی را به اشتباه حذف میکنند، در حالی که در شناسایی گفتار تنفرآمیز ناکام میمانند.
پنج سال بعد، پژوهشگران گزارش میدهند که میانهروی خودکار هنوز در زبانهای کممنابع مانند عربی مغربی و سواحلی با شکست مواجه است.
این سیستمها علاوه بر نابرابریهای زبانی، باعث سرکوب محتواهای فلسطینی و طبقهبندی نادرست محتواهای جامعه الجیبیتیکیو+ میشوند.
با این حال، میانهروی خودکار میتواند در مقیاس بزرگتر کارایی داشته باشد، اما تعصبات موجود را تکرار کرده و جوامع آسیبپذیر را تحت تأثیر قرار میدهد.
اصول سانتا کلارا ۲.۰ و استانداردهای بینالمللی حقوق بشر راهکارهایی برای بهبود مسئولیتپذیری و شفافیت در این سیستمها ارائه میدهند.
متن خبر
شرح خبر
بخش دوم از مجموعه مقالات درباره میانهروی خودکار محتوا نشان میدهد که الگوریتمهای شرکتهایی مانند متا در تشخیص محتواهای تروریستی، ۷۷ درصد از محتواهای غیرخشونتآمیز به زبان عربی را به اشتباه حذف میکنند، در حالی که در شناسایی گفتار تنفرآمیز ناکام میمانند.
پنج سال پس از افشای اسناد توسط فرانسیس هاگن، پژوهشگران گزارش میدهند که میانهروی بیش از حد هنوز مشکلساز است و راههای جبران خسارت تقریباً از بین رفتهاند.
سیستمهای خودکار در زبانهای کممنابع مانند عربی مغربی و سواحلی به دلیل عدم استخدام کافی افراد بومیزبان و تغییرات زبانی، با ناهماهنگیها، تعصبات و ناکارآمدیهای زیادی مواجه هستند.
این مشکلات نه تنها در زبان عربی، بلکه در سرکوب سیستماتیک محتواهای فلسطینی و طبقهبندی نادرست محتواهای جامعه الجیبیتیکیو+ به عنوان محتواهای بزرگسال نیز مشهود است.
با این حال، میانهروی خودکار میتواند در مقیاس بزرگتر و با کاهش بار روانی بر میانهروهای انسانی، کارایی بهتری داشته باشد.
اما این سیستمها تعصبات موجود را تکرار میکنند و اغلب اشتباهاتی مرتکب میشوند که جوامع آسیبپذیر را تحت تأثیر قرار میدهد.
افشای اسناد متا در سال ۲۰۲۰ نشان داد که الگوریتمهای این شرکت ۷۷ درصد از محتواهای غیرخشونتآمیز عربی را به اشتباه حذف میکنند، در حالی که در شناسایی گفتار تنفرآمیز ناکام میمانند.
پنج سال بعد، پژوهشگران گزارش میدهند که میانهروی خودکار هنوز در زبانهای کممنابع مانند عربی مغربی و سواحلی با شکست مواجه است.
این سیستمها علاوه بر نابرابریهای زبانی، باعث سرکوب محتواهای فلسطینی و طبقهبندی نادرست محتواهای جامعه الجیبیتیکیو+ میشوند.
با این حال، میانهروی خودکار میتواند در مقیاس بزرگتر کارایی داشته باشد، اما تعصبات موجود را تکرار کرده و جوامع آسیبپذیر را تحت تأثیر قرار میدهد.
اصول سانتا کلارا ۲.۰ و استانداردهای بینالمللی حقوق بشر راهکارهایی برای بهبود مسئولیتپذیری و شفافیت در این سیستمها ارائه میدهند.
میانهروی خودکار با وجود مزایایی مانند پردازش مقیاسپذیر محتوا، میتواند تعصبات سیستماتیک را تقویت کرده و حقوق جوامع آسیبپذیر را نقض کند.
عدم شفافیت و مسئولیتپذیری در این سیستمها میتواند به سرکوب صدای فعالان، روزنامهنگاران و اقلیتها منجر شود.
علاوه بر این، عدم توجه به زبانهای کممنابع و جوامع حاشیهای، نابرابریهای دیجیتالی را عمیقتر میکند و اعتماد عمومی به پلتفرمها را کاهش میدهد.
شرکتهای فناوری با عدم شفافیت در میانهروی خودکار، ممکن است با جریمههای قانونی، از دست دادن اعتماد کاربران و آسیب به برند خود مواجه شوند.
از سوی دیگر، پیادهسازی سیستمهای مسئولیتپذیر میتواند هزینههای عملیاتی را کاهش داده و کارایی را افزایش دهد.
در ایران، میانهروی خودکار میتواند به سانسور بیشتر محتواهای فارسی و سرکوب فعالان و روزنامهنگاران منجر شود.
عدم شفافیت در این فرآیندها میتواند باعث افزایش نارضایتی عمومی و کاهش اعتماد به پلتفرمهای بینالمللی شود.
این خبر بر اهمیت تنظیم مقررات بینالمللی برای میانهروی خودکار و لزوم رعایت حقوق بشر در طراحی الگوریتمها تأکید میکند.
اصول سانتا کلارا ۲.۰ و استانداردهای حقوق بشر میتوانند چارچوبی برای مسئولیتپذیری شرکتها در قبال تصمیمات خودکار فراهم کنند.
میانهروی خودکار و تعصبات الگوریتمی میتواند تأثیرات ژئوپلیتیکی داشته باشد، به ویژه در مناطقی مانند خاورمیانه که با سرکوب محتواهای محلی و زبانی مواجه هستند.
EFF به عنوان یک سازمان مدافع حقوق دیجیتال، بر لزوم مسئولیتپذیری و شفافیت در میانهروی خودکار تأکید میکند.
الگوریتمهای متا ۷۷ درصد محتواهای غیرخشونتآمیز عربی را اشتباه حذف میکنند.
میانهروی خودکار چگونه میتواند جوامع آسیبپذیر را تحت تأثیر قرار دهد؟
این صفحه خلاصه و تحلیل فارسی خبر را نمایش میدهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.
تحلیل تحریریه
ابعاد مهم خبر
چرا مهم است؟
میانهروی خودکار با وجود مزایایی مانند پردازش مقیاسپذیر محتوا، میتواند تعصبات سیستماتیک را تقویت کرده و حقوق جوامع آسیبپذیر را نقض کند.
عدم شفافیت و مسئولیتپذیری در این سیستمها میتواند به سرکوب صدای فعالان، روزنامهنگاران و اقلیتها منجر شود.
علاوه بر این، عدم توجه به زبانهای کممنابع و جوامع حاشیهای، نابرابریهای دیجیتالی را عمیقتر میکند و اعتماد عمومی به پلتفرمها را کاهش میدهد.
اثر کسبوکاری
شرکتهای فناوری با عدم شفافیت در میانهروی خودکار، ممکن است با جریمههای قانونی، از دست دادن اعتماد کاربران و آسیب به برند خود مواجه شوند.
از سوی دیگر، پیادهسازی سیستمهای مسئولیتپذیر میتواند هزینههای عملیاتی را کاهش داده و کارایی را افزایش دهد.
اثر احتمالی برای ایران
در ایران، میانهروی خودکار میتواند به سانسور بیشتر محتواهای فارسی و سرکوب فعالان و روزنامهنگاران منجر شود.
عدم شفافیت در این فرآیندها میتواند باعث افزایش نارضایتی عمومی و کاهش اعتماد به پلتفرمهای بینالمللی شود.
ارتباط با LegalTech
این خبر بر اهمیت تنظیم مقررات بینالمللی برای میانهروی خودکار و لزوم رعایت حقوق بشر در طراحی الگوریتمها تأکید میکند.
اصول سانتا کلارا ۲.۰ و استانداردهای حقوق بشر میتوانند چارچوبی برای مسئولیتپذیری شرکتها در قبال تصمیمات خودکار فراهم کنند.
زاویه رسانه/کشور منبع
EFF به عنوان یک سازمان مدافع حقوق دیجیتال، بر لزوم مسئولیتپذیری و شفافیت در میانهروی خودکار تأکید میکند.
