هشدار محققان: قوانین ضعیف هوش مصنوعی می‌توانند آن را خطرناک‌تر کنند، نه ایمن‌تر

شرح خبر

مطالعه‌ای جدید منتشرشده در *Proceedings of the National Academy of Sciences* (PNAS) توسط محققان دانشگاه‌های کرنل و کارنگی ملون هشدار می‌دهد که قوانین ضعیف یا بد طراحی‌شده هوش مصنوعی می‌توانند به جای افزایش ایمنی، سیستم‌های هوش مصنوعی را خطرناک‌تر کنند. این مطالعه نشان می‌دهد مقرراتی که عمدتاً بر شرکت‌های پاییندستی مانند ارائه‌دهندگان خدمات بهداشتی، پشتیبانی مشتری یا تجارت الکترونیک متمرکز هستند، ممکن است توسعه‌دهندگان مدل‌های پایه مانند OpenAI، گوگل و Anthropic را به کاهش سرمایه‌گذاری در اقدامات ایمنی ترغیب کنند. محققان استدلال می‌کنند که مقررات مؤثر باید بر شرکت‌های سازنده مدل‌های پایه متمرکز باشد، نه صرفاً کسب‌وکارهایی که هوش مصنوعی را در محصولات خود به کار می‌گیرند. آنها می‌گویند مقررات سخت و هماهنگ در سراسر زنجیره تأمین هوش مصنوعی می‌تواند هم ایمنی و هم نتایج تجاری را بهبود بخشد. مطالعه‌ای جدید در مجله PNAS نشان می‌دهد که قوانین ضعیف هوش مصنوعی می‌توانند ایمنی این فناوری را کاهش دهند. محققان دانشگاه‌های کرنل و کارنگی ملون معتقدند مقررات باید بر توسعه‌دهندگان مدل‌های پایه مانند OpenAI و گوگل متمرکز باشند، نه شرکت‌های پاییندستی. آنها هشدار می‌دهند که مقررات بد طراحی‌شده ممکن است باعث کاهش سرمایه‌گذاری در ایمنی توسط شرکت‌ها شود. این مطالعه از نظریه بازی‌ها برای تحلیل رفتار شرکت‌ها استفاده کرده است. نتیجه نشان می‌دهد که مقررات سخت‌تر می‌تواند هم ایمنی و هم نوآوری را تقویت کند. محققان بر لزوم هماهنگی در سراسر زنجیره تأمین هوش مصنوعی تأکید دارند. این مطالعه اهمیت تنظیم مقررات هوش مصنوعی را در سطح جهانی برجسته می‌کند، زیرا نشان می‌دهد که رویکردهای نادرست می‌توانند عواقب معکوسی داشته باشند. تمرکز بر شرکت‌های پاییندستی به جای توسعه‌دهندگان مدل‌های پایه می‌تواند منجر به کاهش مسئولیت‌پذیری در ایمنی شود و شکاف‌های نظارتی ایجاد کند. علاوه بر این، این تحقیق نشان می‌دهد که مقررات سخت‌تر نه تنها ایمنی را بهبود می‌بخشد، بلکه می‌تواند نوآوری را نیز تقویت کند، که این امر برای سیاست‌گذاران و شرکت‌ها حائز اهمیت است. مقررات ضعیف هوش مصنوعی می‌تواند منجر به کاهش سرمایه‌گذاری در ایمنی توسط شرکت‌ها شود، که این امر ریسک‌های حقوقی و مالی را برای کسب‌وکارها افزایش می‌دهد. از سوی دیگر، مقررات هماهنگ و سخت‌تر می‌تواند اعتماد مشتریان و شرکا را افزایش دهد و فرصت‌های تجاری جدیدی را ایجاد کند. شرکت‌هایی که در ایمنی سرمایه‌گذاری می‌کنند، ممکن است در بلندمدت مزیت رقابتی کسب کنند. ایران به عنوان کشوری که در حال توسعه فناوری‌های هوش مصنوعی است، می‌تواند از این مطالعه برای تدوین مقررات مناسب استفاده کند. عدم توجه به ایمنی در هوش مصنوعی می‌تواند ریسک‌های امنیتی و اجتماعی را برای کشور افزایش دهد. همچنین، هماهنگی با استانداردهای جهانی می‌تواند فرصت‌های همکاری بین‌المللی را برای شرکت‌های ایرانی فراهم کند. این مطالعه بر لزوم تدوین قوانین هوش مصنوعی که توسعه‌دهندگان مدل‌های پایه را هدف قرار می‌دهند، تأکید دارد. مقررات باید به گونه‌ای طراحی شوند که مسئولیت ایمنی را در سراسر زنجیره تأمین توزیع کنند. همچنین، استفاده از نظریه بازی‌ها و مدل‌سازی اقتصادی می‌تواند به سیاست‌گذاران در طراحی مقررات مؤثرتر کمک کند. این مطالعه در حالی منتشر می‌شود که کشورها در سراسر جهان در حال بحث درباره چگونگی حکمرانی هوش مصنوعی هستند. رویکردهای متفاوت در ایالات متحده، اتحادیه اروپا و چین می‌تواند تأثیرات جهانی داشته باشد. هماهنگی بین‌المللی در مقررات هوش مصنوعی می‌تواند از بروز شکاف‌های نظارتی و رقابت‌های ناعادلانه جلوگیری کند. تحقیقات دانشگاهی مطالعه جدید هشدار می‌دهد که قوانین ضعیف هوش مصنوعی می‌توانند ایمنی را کاهش دهند. مقررات باید بر توسعه‌دهندگان مدل‌های پایه متمرکز باشند.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.