Google le puso IA a su famosa plataforma Earth y en menos de 48 horas escaló a un completo desastre, repleto de imágenes falsas

Por eso es que no podemos tener cosas bonitas: menos de 48 horas después de habilitar Nano Banana 2 en Google Earth, Google desactivó la función de inteligencia artificial debido a “riesgos de desinformación”. La razón: docenas de usuarios se volcaron a la herramienta para crear escenas engañosas, como desastres en monumentos o acciones en zonas de guerra.

Un cráter que devoró las pirámides de Egipto, una escena de destrucción masiva en San Francisco, una marea humana de inmigrantes en la frontera de México y una vista aérea de la Torre Eiffel, de lado, sobre varios barrios de París. En lo que respecta a falsear la información, la imaginación de los usuarios no parece tener límites.

Todo surge a partir de una decisión que, en retrospectiva, parece ingenua: la herramienta permitía superponer imágenes falsas sobre mapas satelitales reales para visualizar proyectos urbanísticos o recreaciones históricas. 

Google esperaba escenas de la partida del Titanic y reconstrucciones de la gloria pasada de Pompeya, pero en su lugar se encontró con OVNIs en el Área 51 y brontosaurios en Montana. Los usuarios hallaron rápidamente que podían evadir los controles de seguridad para crear escenas engañosas... así que eso exactamente fue lo que hicieron.

Golpe a la credibilidad

Más allá de ser una anécdota divertida, el episodio golpea la credibilidad histórica de la plataforma, que en apenas unas horas pasó de reconocida herramienta de referencia a facilitadora en la propagación de noticias falsas. 

El problema para Google, irónicamente, es que la integración de Nano Banana en Google Earth heredó su histórica facilidad de uso. Los usuarios solo necesitaban hacer zoom en cualquier lugar del mundo en la versión web de la aplicación, seleccionar la opción "crear imagen" y escribir una descripción de lo que deseaban ver.

La IA "soldaba" la imagen inventada a las coordenadas geográficas reales, lo que le otorgaba una apariencia de legitimidad heredada del mapa base. Aunque Google implementó guías para evitar temas dañinos, medios como BBC descubrieron que cambios sutiles en las instrucciones (prompts) permitían saltarse las restricciones.

Expertos y periodistas de varios medios utilizaron la herramienta para generar imágenes altamente sensibles, como tanques rusos en la capital de Ucrania, una planta nuclear inexistente en Irán y un hospital ficticio en Gaza con un cráter de bomba al lado. Una vez generadas, estas imágenes podían descargarse y compartirse en otras plataformas sociales. Las imágenes lograron, incluso, engañar al chatbot Gemini para que las confirmara como reales y, debido a la credibilidad heredada del sitio, algunas herramientas externas de detección de IA tampoco lograron identificarlas como manipuladas.

En cuestión de horas, Google se halló con una tormenta perfecta. En un giro que es la definición de ironía, una de las imágenes -la que sirve de portada a esta nota- mostraba el Googleplex, la sede central de la compañía en Mountain View, reducido a escombros y cenizas, como por un gran desastre.

“Viven en una burbuja”

La empresa decidió cortar por lo sano, declaró que estas imágenes falsas se compartieron violando las políticas de la empresa, y ordenó pausar la función para, dijo, implementar medidas de seguridad más estrictas.

En una publicación en su cuenta de X, Google dijo: “Sabemos que la gente confía plenamente en Google Earth para obtener una visión fiable del mundo. Hemos visto a profesionales geoespaciales usar esta función para diversos fines útiles; sin embargo, también hemos visto a personas compartir capturas de pantalla de imágenes generadas que parecen infringir nuestras políticas. Por ello, estamos desactivando esta función en Google Earth mientras trabajamos en la implementación de medidas de seguridad más estrictas. Es importante destacar que las imágenes generadas no aparecían en la experiencia principal de Google Earth para que otros las vieran y tenían una marca de agua que indicaba que habían sido generadas por IA”.

La publicación no parece haber hecho demasiado por ayudar a Google a salir del impasse y, en cambio, abrió el espacio para algunas respuestas francamente brutales. Una de las más destacadas la escribió Alex Hirsch, el creador de Gravity Falls, que dijo: “Ustedes viven en una burbuja. Salgan de Silicon Valley por un instante y se darán cuenta de que ningún ser humano real quiere IA en cada rincón de cada producto. Toquen la tierra. Hablen con gente de verdad”.