Google ویژگی تولید تصویر هوش مصنوعی Google Earth را یک روز پس از رونمایی به دلیل نگرانی از دیپ‌فیک حذف کرد

شرح خبر

Google در ۳۱ ژوئیه، تنها یک روز پس از راه‌اندازی ویژگی تولید تصویر با هوش مصنوعی در Google Earth، این ابزار را به دلیل نگرانی از انتشار تصاویر جعلی و اطلاعات غلط حذف کرد. روزنامه‌نگاران و پژوهشگران منبع‌باز نشان دادند که مدل Nano Banana می‌تواند رویدادهای ساختگی مانند دهانه انفجار در لس‌آنجلس، سیل در کنگره آمریکا یا آتش‌سوزی در جزیره خارک ایران تولید کند. با وجود واترمارک SynthID، منتقدان این اقدامات را ناکافی دانستند و Google اعلام کرد این ویژگی را تنها پس از اضافه کردن محافظت‌های قوی‌تر بازخواهد گرداند. Google در ۳۱ ژوئیه، تنها یک روز پس از معرفی، ویژگی تولید تصویر هوش مصنوعی در Google Earth را حذف کرد. این ابزار که بر پایه مدل Nano Banana کار می‌کرد، به کاربران اجازه می‌داد با وارد کردن متن، صحنه‌های ماهواره‌ای جعلی تولید کنند. روزنامه‌نگاران و پژوهشگران با تولید تصاویر ساختگی مانند آتش‌سوزی در جزیره خارک ایران یا سیل در کنگره آمریکا، نگرانی‌های جدی درباره تشدید اطلاعات غلط را برانگیختند. Google با وجود استفاده از واترمارک SynthID، تحت فشار منتقدان این ویژگی را غیرفعال کرد و وعده داد آن را تنها پس از تقویت حفاظت‌ها بازگرداند. این خبر اهمیت دارد زیرا نشان می‌دهد چگونه ابزارهای هوش مصنوعی می‌توانند به سرعت برای تولید اطلاعات غلط مورد سوءاستفاده قرار گیرند. حذف سریع این ویژگی توسط Google نشان‌دهنده حساسیت بالای شرکت‌ها به مسائل اخلاقی و اجتماعی است. علاوه بر این، این رویداد تأکید می‌کند که حتی شرکت‌های بزرگ فناوری نیز ممکن است در برابر پیامدهای منفی فناوری‌های نوظهور آسیب‌پذیر باشند. حذف این ویژگی می‌تواند به اعتبار Google به عنوان یک منبع قابل اعتماد برای تصاویر ماهواره‌ای آسیب برساند. همچنین، این رویداد ممکن است باعث شود سایر شرکت‌ها در معرفی ابزارهای مشابه احتیاط بیشتری به خرج دهند. در بلندمدت، این اتفاق می‌تواند منجر به افزایش سرمایه‌گذاری در مکانیسم‌های تشخیص و جلوگیری از اطلاعات غلط شود. تولید تصاویر جعلی مانند آتش‌سوزی در جزیره خارک ایران می‌تواند پیامدهای ژئوپلیتیکی و امنیتی داشته باشد. چنین ابزارهایی می‌توانند برای انتشار اطلاعات غلط درباره ایران و تأثیرگذاری بر افکار عمومی یا تصمیم‌گیری‌های سیاسی مورد استفاده قرار گیرند. این رویداد اهمیت نظارت و تنظیم مقررات برای جلوگیری از سوءاستفاده از فناوری‌های هوش مصنوعی را در ایران و جهان برجسته می‌کند. این رویداد می‌تواند بحث‌های جدیدی درباره مسئولیت قانونی شرکت‌ها در قبال سوءاستفاده از ابزارهای هوش مصنوعی را برانگیزد. همچنین، ممکن است نیاز به قوانین سخت‌گیرانه‌تر برای کنترل و نظارت بر فناوری‌های تولید محتوا را افزایش دهد. استفاده از واترمارک‌های دیجیتالی مانند SynthID ممکن است به عنوان یک استاندارد جدید برای تشخیص محتواهای تولیدشده با هوش مصنوعی مطرح شود. ابزارهای هوش مصنوعی مانند Nano Banana می‌توانند برای تولید اطلاعات غلط در سطح جهانی مورد استفاده قرار گیرند و بر روابط بین‌المللی تأثیر بگذارند. تولید تصاویر جعلی از رویدادهای حساس مانند آتش‌سوزی در جزیره خارک ایران می‌تواند تنش‌های ژئوپلیتیکی را تشدید کند. Decrypt به عنوان یک منبع تخصصی در حوزه فناوری و ارزهای دیجیتال، این خبر را با تمرکز بر پیامدهای فنی و اجتماعی ابزارهای هوش مصنوعی پوشش داده است. Google تنها یک روز پس از رونمایی، ویژگی تولید تصویر با هوش مصنوعی در Google Earth را به دلیل نگرانی از انتشار تصاویر جعلی و اطلاعات غلط غیرفعال کرد.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.