طرح پیشگامانه چین برای جلوگیری از مشاوره نادرست چت‌بات‌های هوش مصنوعی: ارجاع به انسان‌ها در موضوعات حساس

شرح خبر

چین با انتشار پیش‌نویس مقرراتی جدید، گامی پیشگامانه در تنظیم چت‌بات‌های هوش مصنوعی برداشته است تا از تأثیر منفی این فناوری بر احساسات و سلامت روان کاربران جلوگیری کند. بر اساس این مقررات که توسط اداره فضای سایبری چین (CAC) تدوین شده، چت‌بات‌های هوش مصنوعی با ویژگی‌های انسانی باید در مواجهه با موضوعات حساسی مانند خودکشی، خودآزاری یا قمار، گفتگو را به انسان‌ها ارجاع دهند. این طرح که اولین تلاش جهانی برای تنظیم هوش مصنوعی انسان‌نما محسوب می‌شود، علاوه بر الزام به اطلاع‌رسانی شفاف به کاربران درباره تعامل با هوش مصنوعی (نه انسان)، محدودیت‌هایی برای تولید محتوای مخرب و کنترل استفاده کودکان از این فناوری اعمال می‌کند. همچنین، پس از دو ساعت تعامل مداوم، یادآوری‌هایی برای کاربران ارسال خواهد شد. این مقررات که تا ۲۵ ژانویه برای دریافت نظرات عمومی باز است، استفاده از هوش مصنوعی در حوزه‌هایی مانند انتشار فرهنگی و همراهی سالمندان را نیز تشویق می‌کند. پیش‌نویس فعلی، پاسخی به نگرانی‌های فزاینده درباره تأثیرات منفی چت‌بات‌هایی مانند ChatGPT و DeepSeek بر کاربران، از جمله گزارش‌های مربوط به خودکشی نوجوانان تحت تأثیر این فناوری‌ها، است. چین پیش‌نویس مقرراتی را برای تنظیم چت‌بات‌های هوش مصنوعی با ویژگی‌های انسانی منتشر کرده است. بر اساس این مقررات، در موضوعات حساسی مانند خودکشی یا خودآزاری، گفتگو باید به انسان‌ها ارجاع داده شود. این طرح همچنین تولید محتوای مرتبط با قمار، خشونت یا محتوای مستهجن را ممنوع و استفاده کودکان از این فناوری را کنترل می‌کند. ارائه‌دهندگان موظفند پس از دو ساعت تعامل مداوم، یادآوری به کاربران ارسال کنند. این مقررات اولین تلاش جهانی برای تنظیم هوش مصنوعی انسان‌نما محسوب می‌شود و تا ۲۵ ژانویه برای دریافت نظرات عمومی باز است. این مقررات نشان‌دهنده اولین تلاش جهانی برای تنظیم هوش مصنوعی با تمرکز بر امنیت عاطفی کاربران است، نه فقط امنیت محتوا. چین با این اقدام، نگرانی‌های فزاینده درباره تأثیرات منفی چت‌بات‌های هوش مصنوعی بر سلامت روان، به‌ویژه در میان نوجوانان و کودکان، را مورد توجه قرار داده است. همچنین، این طرح می‌تواند الگویی برای سایر کشورها در تنظیم هوش مصنوعی باشد و نشان‌دهنده اهمیت مداخله انسانی در مواقع حساس است. این مقررات می‌تواند بر شرکت‌های فعال در حوزه هوش مصنوعی، به‌ویژه آن‌هایی که چت‌بات‌های انسان‌نما ارائه می‌دهند، تأثیر بگذارد. هزینه‌های توسعه و پیاده‌سازی سیستم‌های ارجاع به انسان‌ها و کنترل محتوا ممکن است افزایش یابد. همچنین، شرکت‌ها باید زیرساخت‌هایی برای تشخیص سن کاربران و ارسال یادآوری‌ها ایجاد کنند. این مقررات می‌تواند فرصت‌هایی برای شرکت‌های ارائه‌دهنده خدمات انسانی در حوزه سلامت روان و پشتیبانی کاربران ایجاد کند. اگرچه این مقررات مستقیماً ایران را تحت تأثیر قرار نمی‌دهد، اما می‌تواند به عنوان الگویی برای تنظیم هوش مصنوعی در کشور مورد توجه قرار گیرد. با توجه به رشد استفاده از چت‌بات‌های هوش مصنوعی در ایران، این مقررات می‌تواند الهام‌بخش تدوین قوانین مشابه برای حفاظت از کاربران ایرانی، به‌ویژه کودکان و نوجوانان، باشد. همچنین، شرکت‌های ایرانی فعال در این حوزه ممکن است نیاز به تطبیق محصولات خود با استانداردهای بین‌المللی داشته باشند. این مقررات می‌تواند زمینه‌ساز تدوین قوانین مشابه در سایر کشورها شود و استانداردهای جدیدی برای تنظیم هوش مصنوعی انسان‌نما ایجاد کند. همچنین، این طرح نشان‌دهنده اهمیت شفافیت در تعامل با هوش مصنوعی و مسئولیت‌پذیری ارائه‌دهندگان فناوری است. از نظر فنی، شرکت‌ها باید سیستم‌هایی برای تشخیص موضوعات حساس و ارجاع به انسان‌ها توسعه دهند که می‌تواند چالش‌های جدیدی در حوزه هوش مصنوعی و پردازش زبان طبیعی ایجاد کند. چین با این اقدام، خود را به عنوان پیشگام در تنظیم هوش مصنوعی با تمرکز بر امنیت عاطفی معرفی می‌کند و ممکن است بر رقابت جهانی در حوزه تنظیم هوش مصنوعی تأثیر بگذارد. این مقررات می‌تواند به عنوان ابزاری برای تقویت نفوذ چین در حوزه فناوری و تنظیم استانداردهای جهانی مورد استفاده قرار گیرد. این خبر از دیدگاه تنظیم و کنترل هوش مصنوعی توسط دولت چین و تأثیرات آن بر کاربران و شرکت‌های فناوری گزارش شده است. منبع خبر، Genbeta، به تحلیل مقررات پیشنهادی و پیامدهای آن پرداخته و زمینه‌های تاریخی و بین‌المللی را نیز مورد توجه قرار داده است. چین پیش‌نویس مقرراتی را برای تنظیم چت‌بات‌های هوش مصنوعی منتشر کرده است. در موضوعات حساس مانند خودکشی، گفتگو به انسان‌ها ارجاع داده می‌شود تا از تأثیر منفی بر سلامت روان کاربران جلوگیری شود.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.