En los últimos meses, distinguir una foto real de una imagen creada por inteligencia artificial se ha vuelto cada vez más difícil. Los generadores de IA mejoran a tal ritmo que incluso los usuarios más experimentados a menudo tienen problemas para diferenciar entre una imagen real y la creación de uno de los modelos generativos. Por ello, Google ha decidido poner a disposición del público una herramienta que puede ayudar significativamente a detectar contenido similar. Se llama SynthID Detector y su mayor ventaja es que puede reconocer no solo el contenido creado por la inteligencia artificial de Google, sino también por algunas herramientas de la competencia. ¿Y qué beneficios ofrece a los fans? AppLo que resulta particularmente interesante es que el gigante californiano pronto debería estar entre las empresas que reciben apoyo.
Podría interesarle
Solo tienes que subir una foto, un vídeo o un audio.
El principio de funcionamiento de SynthID Detector es bastante simple. El usuario visita el sitio web. SynthID.comEl usuario inicia sesión y sube una imagen, un vídeo o un archivo de audio para comprobar si se creó mediante inteligencia artificial. La herramienta verifica la presencia de una marca de agua digital especial, incrustada en el contenido durante su creación. A diferencia de las marcas de agua tradicionales, esta marca de agua no es visible a simple vista, por lo que no distorsiona la foto ni el vídeo resultante. Pro Sin embargo, el sistema de verificación es reconocible.
Google presentó la tecnología SynthID en 2023, y el detector comenzó a estar disponible para periodistas y otros profesionales seleccionados el año pasado. Pero ahora lo está abriendo a todos los usuarios del mundo, aunque por ahora solo en inglés. Además del contenido creado por las herramientas de Google, también puede reconocer marcas de agua relevantes en medios originados por OpenAI, Nvidia o Kakao. En un futuro próximo, también se espera compatibilidad con contenido creado mediante herramientas de IA. Applu.
Pero no es un detector de IA perfecto.
Aunque la nueva función parece muy interesante a primera vista, también tiene una limitación bastante importante. SynthID Detector no puede reconocer automáticamente ninguna imagen creada con inteligencia artificial. Solo funciona si el archivo contiene una marca de agua digital compatible. Por lo tanto, si alguien crea una foto falsa con una herramienta que no admite la tecnología SynthID, es posible que el detector no la detecte. En consecuencia, un resultado negativo no significa necesariamente que se trate de una imagen auténtica.
Otra limitación es que la herramienta no puede distinguir si el contenido fue creado completamente por IA o solo editado con ella. Por ejemplo, si alguien toma una foto real y luego modifica ciertos detalles con una herramienta de IA, el detector también puede alertar sobre el uso de IA. Por lo tanto, el resultado debe interpretarse correctamente. Google también requiere iniciar sesión y, según información del servidor de Ars Technica, prevé aproximadamente diez comprobaciones por usuario al día.
Sin embargo, las cifras que Google publicó en el momento del anuncio son interesantes. Desde el lanzamiento de SynthID, afirma haber marcado de forma invisible más de 180 mil millones de imágenes y vídeos, así como 240 años de grabaciones de audio. La verificación de contenido ahora también está disponible a través de la Búsqueda de Google. Gemini o Chrome, donde se realizan más de un millón de comprobaciones diarias.
Podría interesarle
En mi opinión, es un paso en la dirección correcta. Internet está literalmente inundado de contenido de IA, y la capacidad de verificar fácilmente el origen de una foto o video sospechoso puede ser útil para casi cualquier persona. Sin embargo, es importante recordar que SynthID Detector no es un detector de la verdad universal, sino solo una herramienta para reconocer un tipo específico de firma digital. Aun así, puede ser una herramienta muy útil, especialmente si otras grandes empresas tecnológicas se suman gradualmente a su soporte.
