Las cámaras de vigilancia en las calles ya no se limitan a grabar imágenes que una persona pueda revisar posteriormente si es necesario. La inteligencia artificial cobra cada vez más importancia, ya que puede analizar imágenes en tiempo real, reconocer objetos, personas o su comportamiento. El artista y tecnólogo berlinés Simon Weckert ha decidido demostrar que incluso estos sistemas pueden no ser infalibles. Ha creado prendas que permiten que una persona te vea con total normalidad, mientras que la IA puede tener dificultades para reconocer la presencia humana.
ProEl proyecto recibió un nombre característico. Camuflaje digital A primera vista, se asemeja a una camisa hawaiana muy característica. Está cubierta con un colorido estampado abstracto que combina verde, rosa, naranja y otros colores. Sin embargo, el diseño no se creó simplemente para llamar la atención. Su verdadero objetivo es confundir a los algoritmos de visión artificial. Estos no perciben las imágenes de la misma manera que el ojo humano. Los sistemas de detección de objetos buscan ciertas combinaciones de bordes, formas, texturas y otras características que han aprendido a asociar, por ejemplo, con los humanos durante su entrenamiento. Por lo tanto, Weckert creó un patrón basado en el principio del llamado ataque adversario, un ataque en el que los datos de entrada se modifican deliberadamente para forzar al algoritmo a dar un resultado incorrecto.
Galería de fotos
En este caso, el resultado es un efecto realmente interesante. En las demostraciones de camuflaje digital, el sistema es capaz de marcar a los peatones cercanos con un marco clásico que indica que son personas, mientras que, en algunos casos, Weckert, con su camisa especial, no es reconocido como persona en absoluto. Pro El ojo humano, por supuesto, sigue siendo perfectamente visible. Todo el proyecto surgió como respuesta a la instalación de un sistema de cámaras con inteligencia artificial en la zona de Kottbusser Tor, en Berlín. En este caso, las cámaras y el software analizan automáticamente los eventos en espacios públicos y el sistema evalúa el comportamiento de las personas. Con su proyecto, Weckert quiso llamar la atención principalmente sobre hasta qué punto debemos confiar en estos sistemas automatizados.
Es importante señalar, sin embargo, que el Camuflaje Digital no es una capa de invisibilidad universal que permita pasar desapercibido ante cualquier cámara de seguridad. Weckert está demostrando su trabajo con el sistema de detección de objetos de código abierto YOLO, y subraya que no afirma que su ropa pueda engañar a sistemas específicos utilizados por la policía o las agencias gubernamentales. Tampoco puede garantizar que el patrón funcione contra todos los algoritmos y en todas las condiciones. Pero ese es precisamente el objetivo del proyecto. El público a menudo desconoce cómo funcionan exactamente los sistemas de vigilancia automatizada, su fiabilidad o la facilidad con la que pueden ser engañados. El Camuflaje Digital pretende demostrar que la tecnología que a primera vista parece casi infalible puede tener sus puntos débiles.
Galería de fotos
Lo que también resulta interesante es que estos experimentos no son meras estrategias teóricas. Los llamados patrones adversarios son objeto de investigación real, y los científicos llevan mucho tiempo investigando cómo se pueden utilizar patrones creados específicamente para influir en el comportamiento de las personas.euronuevas redes utilizadas para el reconocimiento de objetos. Weckert simplemente transfirió este principio del laboratorio a una prenda de vestir que realmente se podía usar. Es más, de hecho comenzó a vender las camisetas en su Tienda online de camuflaje digitalAsí que, si te preocupa la vigilancia mediante IA, ahora tienes la opción de protegerte con ropa especial de camuflaje digital.
