SynthID es una marca de agua invisible que se incrusta en las imágenes generadas por IA y que permite detectar y etiquetar el contenido manipulado.
Google anunció el martes una nueva tecnología que permitirá identificar y etiquetar las imágenes creadas por inteligencia artificial (IA). La tecnología, llamada SynthID, incrusta una marca de agua invisible y permanente en las imágenes generadas por Imagen, uno de los últimos generadores de texto a imagen de Google.
La marca de agua, que se genera mediante IA, se inserta directamente en el archivo de imagen original y permanece incluso si la imagen se modifica con filtros o cambios de color. La herramienta SynthID también puede escanear las imágenes entrantes e identificar la probabilidad de que hayan sido creadas por Imagen, buscando la marca de agua con tres niveles de certeza: detectada, no detectada y posiblemente detectada.
Google explicó en un blog que esta tecnología tiene como objetivo ayudar a prevenir la difusión de información errónea y a dar contexto a los usuarios sobre el origen y la autenticidad de las imágenes que ven en línea.
“Aunque esta tecnología no es perfecta, nuestras pruebas internas demuestran que es precisa frente a muchas de las manipulaciones de imágenes más comunes”, escribió Google.
SynthID es el resultado de una colaboración entre DeepMind, la unidad de investigación en IA de Google, y Google Cloud, la plataforma de servicios en la nube de Google. Una versión beta de SynthID ya está disponible para algunos clientes de Vertex AI, la plataforma de inteligencia artificial generativa de Google para desarrolladores. La compañía afirma que SynthID seguirá evolucionando y podría expandirse a otros productos de Google o de terceros.
Las soluciones técnicas existentes
Google no es la única empresa que intenta encontrar soluciones técnicas para este problema. Adobe, Meta (anteriormente Facebook), Microsoft y TikTok forman parte de la Coalición para la Autenticidad y Procedencia de los Contenidos (C2PA), un consorcio que trabaja en el desarrollo de estándares abiertos para marcar el contenido digital con información sobre su origen y autenticidad.
Google también ha anunciado que todas las imágenes generadas por IA y creadas por Google llevarán una marca en el archivo original para “dar contexto”, si la imagen se encuentra en otro sitio web o plataforma. Además, Google ha lanzado una herramienta llamada About this image, que ofrece a los usuarios la posibilidad de ver cuándo fueron indexadas originalmente por Google las imágenes que se encuentran en su sitio, dónde pueden haber aparecido por primera vez y dónde más se pueden encontrar en línea.
Te puede interesar: Chatgpt revela las 5 mejores ciudades para vivir en el mundo