اپن‌ای‌آی والدین را در صورت مسدود شدن حساب نوجوانان در چت‌جی‌پی‌تی به دلیل خشونت مطلع می‌کند

شرح خبر

اپن‌ای‌آی اعلام کرد که از این پس والدینی که حساب‌های نوجوانان خود را به حساب شخصی‌شان پیوند داده‌اند، در صورت نقض قوانین مربوط به تهدیدات خشونت‌آمیز یا اعمال خشونت آنلاین توسط فرزندانشان، اطلاع خواهند یافت. این شرکت سال گذشته کنترل‌های والدین را برای چت‌جی‌پی‌تی راه‌اندازی کرد که امکاناتی مانند محدود کردن ساعات استفاده، کاهش محتوای حساس و دریافت هشدار در صورت تشخیص افکار خودآزاری را فراهم می‌آورد. اکنون این ویژگی گسترش یافته تا والدین را در صورت خطرناک بودن فرزندانشان برای دیگران نیز مطلع سازد. اپن‌ای‌آی با همکاری شرکت موونشات، متخصص نظارت بر خشونت آنلاین، این قابلیت را توسعه داده است. این اقدام پس از انتقادهای گسترده به عدم اطلاع‌رسانی اپن‌ای‌آی به مقامات در مورد حساب مظنون تیراندازی دسته‌جمعی در تامبلر ریج کانادا صورت می‌گیرد. اپن‌ای‌آی اعلام کرد که والدین حساب‌های پیوند شده را در صورت مسدود شدن فرزندان نوجوانشان به دلیل نقض قوانین خشونت در چت‌جی‌پی‌تی مطلع خواهد کرد. این شرکت سال گذشته کنترل‌های والدین را معرفی کرد که امکاناتی مانند محدود کردن زمان استفاده و دریافت هشدارهای خودآزاری را فراهم می‌آورد. اکنون هشدارها شامل نقض قوانین خشونت نیز می‌شود. اپن‌ای‌آی با موونشات همکاری کرده تا این ویژگی را توسعه دهد. علاوه بر این، حالت مطالعه و یادآوری‌های استراحت برای کاربران نوجوان نیز معرفی شده است. این اقدامات پس از انتقادها به عدم اطلاع‌رسانی اپن‌ای‌آی در مورد حساب مظنون تیراندازی در کانادا صورت گرفته است. این اقدام اپن‌ای‌آی گامی مهم در افزایش مسئولیت‌پذیری پلتفرم‌های هوش مصنوعی در قبال ایمنی کاربران نوجوان است. اطلاع‌رسانی به والدین در مورد رفتارهای پرخطر فرزندان می‌تواند از بروز حوادث جدی جلوگیری کند و فرصت مداخله زودهنگام را فراهم آورد. همچنین، این اقدام نشان‌دهنده پاسخگویی اپن‌ای‌آی به انتقادهای گذشته، به ویژه در مورد عدم اطلاع‌رسانی به مقامات در مورد حساب‌های مشکوک است. این اقدام می‌تواند اعتماد کاربران و والدین را به اپن‌ای‌آی افزایش دهد و باعث رشد استفاده از چت‌جی‌پی‌تی در میان خانواده‌ها شود. از سوی دیگر، ممکن است هزینه‌های نظارتی و پیاده‌سازی این ویژگی‌ها را برای شرکت افزایش دهد. این خبر تأثیر مستقیم بر ایران ندارد، اما می‌تواند الگویی برای شرکت‌های فناوری داخلی باشد تا در زمینه ایمنی کاربران نوجوان اقدامات مشابهی انجام دهند. این اقدام می‌تواند استانداردهای جدیدی برای مسئولیت‌پذیری پلتفرم‌های هوش مصنوعی در قبال ایمنی کاربران ایجاد کند و ممکن است باعث تغییرات قانونی در زمینه نظارت بر محتوا و اطلاع‌رسانی به والدین شود. این خبر بیشتر مربوط به سیاست‌های داخلی شرکت‌ها و ایمنی کاربران در سطح جهانی است و تأثیر مستقیمی بر ژئوپلیتیک ندارد. فناوری و ایمنی دیجیتال اپن‌ای‌آی اعلام کرد که والدین حساب‌های پیوند شده را در صورت نقض قوانین خشونت توسط فرزندان نوجوانشان مطلع خواهد کرد. این اقدام پس از انتقادها به عدم اطلاع‌رسانی در مورد حساب مظنون تیراندازی در کانادا صورت گرفته است.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.