Google dejará de marcar las imágenes de su IA con su 'chispazo'. Su nueva apuesta de control es completamente invisible

Luego de incluirlas por defecto en imágenes, videos y canciones, Google anunció en su blog oficial que permitirá eliminar las marcas de agua visibles de las creaciones generadas por sus herramientas de IA. La "Marca de agua multimedia" es ahora una opción en Gemini y en el generador de video con IA de Google, Flow.

Según explica The Verge, “cuando se desactiva, Google elimina la marca de agua - el ya famoso "chispazo" de cuatro puntas (✦)- que aparece en la esquina inferior derecha del contenido generado con los modelos Nano Banana y Omni de la compañía”.

Pero no quiere decir que Google se cruce de brazos y deje a sus usuarios en el salvaje oeste del copyright. Puede que las marcas de agua visibles sean opcionales a partir de ahora, pero el contenido generado por IA seguirá teniendo marcas de agua SynthID invisibles y metadatos C2PA incrustados, según explicó, en su cuenta de X, Josh Woodward, vicepresidente de Google Labs, Gemini y AI Studio.

De hecho, la compañía enfatizó que eso hará más sencillo verificar si un contenido tiene uno de estos marcadores, simplemente preguntando a Gemini o Search si es generado por IA.

“Nuestro objetivo es facilitar el aprendizaje sobre el contenido que encuentras en línea. Por eso añadimos recientemente la verificación SynthID para imagen, vídeo y audio en la app Gemini. Ya se ha utilizado 50 millones de veces en todo el mundo, y estamos ampliando esta capacidad de verificación a Search hoy y a Chrome en las próximas semanas”, dice el anuncio oficial.

Además de preguntarlo directamente, es posible verificar una imagen y su origen utilizando funciones de búsqueda como Lens, AI Mode y Circle to Search, así como Gemini en Chrome.

SynthID y C2PA

Detrás de esta ofensiva están dos tecnologías que Google ha usado como estandarte en su causa por la transparencia. La primera es SynthID, una marca de agua invisible de Google diseñada para identificar y rastrear el origen de los contenidos generados por inteligencia artificial. Se integra de manera imperceptible en el fondo de las creaciones y, a diferencia de las marcas de agua visuales, permanece siempre incrustada en el archivo.

Su función fundamental es servir como una medida de seguridad y transparencia, que garantiza que el origen del contenido generado por IA siga siendo identificable "detrás de escena".

Google agregó: “También añadimos verificación para las credenciales de contenido C2PA, para comprobar fácilmente si el contenido es un original no alterado de una cámara o si ha sido modificado, y con qué herramientas. Esta función se desplegará en la app Gemini a partir de hoy, y llegará a Search y Chrome en los próximos meses”.

SynthID funciona de manera conjunta con los metadatos del estándar C2PA para asegurar la trazabilidad y procedencia de los archivos creados por IA.

La normativa europea

El anuncio de Google sigue las líneas de las nuevas normativas de la Unión Europea sobre la divulgación de contenido generado por IA. Esa misma normativa llevó a Anthropic de hacer que todo el texto generado o "procesado" por Claude lleve marcas de agua invisibles que pueden detectarse con las herramientas adecuadas

Por eso las muestras de transparencia, aunque reactivas, han sido, en general, bien recibidas. Sin embargo, expertos en el campo de la IA se han mostrado escépticos sobre su potencial para detener la invasión de “slop” o contenido basura generado por IA.

Y también hay dudas sobre los alcances y aspectos éticos de la nueva normativa. Si alguien escribe un ensayo y le pide a Gemini que lo revise, ¿hará que su texto quede ‘marcado’ como generado por IA? La norma europea tiene vacíos, que de hecho eximen el código informático de sus disposiciones sobre marcas de agua. También hay una excepción para la “edición estándar”, así como una disposición que obliga a los proveedores de IA a implementar marcas de agua solo “en la medida en que esto sea técnicamente factible”.

Un mercado de ‘removedores’

Y a eso se suman herramientas ya disponibles comercialmente que ofrecen eliminar las marcas de agua invisibles de textos e imágenes. Según informó Bleeping Computer, prácticamente ninguna puede de mostrar que funciona.

El reporte dice: “Hay un proyecto en GitHub con más de 4.500 estrellas, varias nuevas herramientas web y servicios existentes de evasión de detección por IA. Aunque las afirmaciones de eliminación exitosa de marcas de agua son generalizadas, siguen sin verificar, ya que Anthropic aún no ha publicado sus métodos de detección. La mayoría de estas herramientas suelen centrarse en eliminar metadatos o caracteres ocultos, que es una tarea menos compleja”.

Por lo tanto, queda mucho para saber de verdad si la verificación se impone, si funciona o si es, siquiera, técnicamente posible. Ben Patterson lo puso así en su columna de PCWorld: “Personalmente, soy cautelosamente optimista. Cuando se usa de forma responsable, la IA puede ser una herramienta valiosa, y parte de usarla de forma responsable es ser sincero al respecto. Si uso Claude para pulir una carta de presentación a un empleador, debería revelarlo. Y es más probable que lo declare (o que evite usar Claude) si sé que ese empleador puede buscar fácilmente marcas de agua de Claude. Funciona en ambos sentidos. Si nuestros empleadores nos envían memorandos de empresa escritos por Claude, deberían decirlo, y pronto podremos comprobarlo por nosotros mismos”.

Imagen | Xataka México con Gemini