Google ha estado en el centro de una controversia tras la introducción de una herramienta de generación de imágenes AI en Google Earth. Aunque la compañía pensó que esto podría beneficiar a los profesionales de la geoinformación, también corrió el riesgo de socavar la confianza del público en la plataforma como un recurso confiable para imágenes auténticas del mundo real.
Una de las principales preocupaciones radica en la capacidad de su sistema de marca de agua digital, SynthID, para identificar imágenes generadas o alteradas por inteligencia artificial. Durante pruebas anteriores, se demostró que esta marca de agua persiste incluso después de editar significativamente las imágenes. No obstante, la funcionalidad estaba limitada a un máximo de diez verificaciones diarias, lo cual plantea interrogantes sobre su eficacia en un contexto en el que las imágenes pueden ser modificadas varias veces antes de ser compartidas.
Es particularmente inquietante que, al pedirle a la aplicación Gemini de Google que verificara imágenes alteradas mediante esta herramienta, el sistema confirmó que estas contenían marcas que indicaban que habían sido generadas o editadas con herramientas de Google AI. Sin embargo, la validez de esta verificación fue cuestionada por expertos, quienes afirmaron que las imágenes alteradas suelen circular en formatos que despojan a los archivos de sus credenciales originales, como grabaciones de pantalla o capturas de imágenes creadas y recolectadas en circunstancias apresuradas.
La retirada de la función de generación de imágenes en Google Earth se realizó rápidamente tras una escalada de preocupaciones. En un comunicado, Google afirmó haber visto usos constructivos para la herramienta, pero también advirtió sobre el uso indebido de imágenes generadas, las cuales podrían ser utilizadas para desinformar. Esto llevó a la empresa a retirar la función mientras se establecen medidas de control más robustas.
El riesgo de que las imágenes generadas por AI se utilizasen para deslegitimar fotografías satelitales auténticas es considerable. Esto podría facilitar a figuras públicas la negación de la veracidad de imágenes satelitales, alegando que fueron manipuladas o enteramente generadas por AI. Así, la lucha contra la desinformación, que ya es un reto importante para periodistas y investigadores, se complica aún más con la disponibilidad de herramientas que permiten modificar imágenes geoespaciales de manera accesible.
A medida que el panorama de la información continúa evolucionando, la recomendación de recurrir a fuentes de imágenes satelitales actualizadas, como el programa Copernicus Sentinel-2 de Europa, se vuelve más pertinente. Si bien Google ha tomado medidas inmediatas para mitigar los riesgos asociados con su herramienta de AI en Google Earth, la posibilidad de su reintroducción sugiere que la discusión sobre la integridad de las imágenes generadas y su impacto en la veracidad informativa está lejos de resolverse.
Actualización: Hasta la fecha de este artículo, se mantiene la inquietud sobre el manejo de las imágenes generadas por AI y los esfuerzos de Google para establecer controles más eficaces.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
