Una camisa pone a prueba los límites del reconocimiento con inteligencia artificial
El diseñador alemán Simon Weckert creó “Digital Camouflage”, una camisa cuyo estampado está pensado para confundir a determinados sistemas de vigilancia que utilizan inteligencia artificial para identificar personas. El proyecto surgió ante la preocupación por la implementación de cámaras con IA en espacios públicos y busca demostrar que los mismos mecanismos utilizados por estos algoritmos para reconocer a una persona también pueden convertirse en una debilidad.
La prenda utiliza una técnica conocida como “ataque adversarial”. Los sistemas de detección no comprenden realmente qué es una persona de la misma manera que un ser humano, sino que identifican una serie de características y patrones visuales aprendidos a partir de grandes cantidades de imágenes. El estampado de la camisa altera esas señales mediante una combinación de formas y colores que puede reducir la confianza del algoritmo al intentar clasificar a quien la lleva como una persona.
Para encontrar el diseño adecuado, Weckert también utilizó inteligencia artificial. Mediante un proceso denominado “bucle adversarial”, probó diferentes versiones del estampado y fue modificándolas de acuerdo con la respuesta del sistema de detección. Posteriormente realizó pruebas con YOLO, un modelo de código abierto utilizado para detectar objetos en imágenes y videos. De acuerdo con la información publicada, otros experimentos con sistemas de detección mostraron resultados similares: podían reconocer a personas situadas alrededor, pero tenían dificultades para identificar correctamente a quien llevaba puesta la camisa.
Esto no significa que la prenda vuelva invisible a una persona ante cualquier cámara o sistema de reconocimiento. Su funcionamiento depende del algoritmo utilizado y está pensado principalmente como una reflexión sobre la privacidad y el crecimiento de la vigilancia automatizada. Weckert ya había realizado anteriormente proyectos para evidenciar las limitaciones de los sistemas digitales, como una intervención en 2020 en la que utilizó decenas de teléfonos para provocar que un servicio de mapas interpretara erróneamente que había tráfico en calles de Berlín.
