مطالعه دانشگاه پرینستون: چرا مدل‌های KI، انتخاب‌کنندگان بدتری نسبت به انسان‌ها هستند

شرح خبر

مطالعه جدیدی از دانشگاه پرینستون نشان می‌دهد که مدل‌های زبانی بزرگ (LLMs) نه تنها تعصبات انسانی را از داده‌های آموزشی خود به ارث می‌برند، بلکه می‌توانند از تجربیات کاری خود نیز تعصبات جدیدی توسعه دهند. این سیستم‌ها، به ویژه KI عامل‌محور، متقاضیان شغلی را بیش از انسان‌ها کلیشه‌ای قضاوت می‌کنند. با افزایش استفاده شرکت‌ها از LLM‌ها برای پیش‌فیلتر کردن رزومه‌ها، نگرانی‌ها درباره بی‌عدالتی در فرآیند استخدام شدت گرفته است. پژوهشگران هشدار می‌دهند که این تعصبات می‌تواند به تبعیض سیستماتیک در استخدام منجر شود. مطالعه دانشگاه پرینستون نشان می‌دهد که مدل‌های KI در فرآیند استخدام، تعصبات بیشتری نسبت به انسان‌ها از خود بروز می‌دهند. این مدل‌ها نه تنها تعصبات موجود در داده‌های آموزشی را حفظ می‌کنند، بلکه از تجربیات کاری خود نیز تعصبات جدیدی می‌آموزند. استفاده روزافزون شرکت‌ها از LLM‌ها برای پیش‌فیلتر کردن رزومه‌ها، نگرانی‌هایی درباره بی‌عدالتی در ارزیابی متقاضیان ایجاد کرده است. پژوهشگران بر این باورند که KI عامل‌محور می‌تواند متقاضیان را به صورت کلیشه‌ای‌تری نسبت به انسان‌ها قضاوت کند. این موضوع می‌تواند به تبعیض سیستماتیک در فرآیند استخدام منجر شود. این مطالعه اهمیت دارد زیرا نشان می‌دهد که استفاده از KI در فرآیند استخدام می‌تواند تبعیض را تشدید کند. برخلاف انسان‌ها، مدل‌های KI قادرند تعصبات را به صورت سیستماتیک و در مقیاس بزرگ‌تری اعمال کنند. این امر می‌تواند به نابرابری‌های ساختاری در بازار کار منجر شود و فرصت‌های شغلی را برای گروه‌های خاصی محدود کند. شرکت‌ها ممکن است با چالش‌های حقوقی و شهرتی روبرو شوند اگر استفاده از KI در استخدام منجر به تبعیض شود. همچنین، این امر می‌تواند به از دست رفتن استعدادهای بالقوه و کاهش تنوع در محیط کار منجر شود. در ایران، استفاده از KI در فرآیند استخدام هنوز در مراحل اولیه است، اما این مطالعه می‌تواند هشداردهنده‌ای برای شرکت‌ها و سازمان‌ها باشد تا در استفاده از این فناوری‌ها احتیاط کنند و مکانیسم‌های نظارتی مناسب را اعمال نمایند. این مطالعه می‌تواند بر قوانین و مقررات مربوط به استفاده از KI در فرآیند استخدام تأثیر بگذارد. ممکن است نیاز به تدوین قوانین جدیدی برای جلوگیری از تبعیض در استفاده از این فناوری‌ها باشد. این مطالعه در دانشگاه پرینستون در US انجام شده است و می‌تواند تأثیراتی بر سیاست‌های جهانی در زمینه استفاده از KI داشته باشد. t3n مطالعه دانشگاه پرینستون: مدل‌های KI متقاضیان را کلیشه‌ای‌تر از انسان‌ها قضاوت می‌کنند و تعصبات بیشتری ایجاد می‌کنند.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.