Un Toyota Yaris de 2009 consiguió pasar frente a una cámara de vigilancia sin ser reconocido correctamente por su sistema de detección gracias a un llamativo patrón generado mediante inteligencia artificial. El experimento, realizado durante la conferencia de ciberseguridad DEF CON en Las Vegas, buscaba demostrar hasta qué punto los algoritmos de visión artificial pueden ser engañados mediante diseños especialmente creados para ello.

El responsable del proyecto es Bill Swearingen, investigador de ciberseguridad y fundador de SIXCYBER. Su iniciativa, denominada noRecognition, pretende estudiar métodos para impedir que los sistemas automatizados de vigilancia identifiquen personas, vehículos y otros objetos.

Para realizar la prueba, Swearingen colaboró con Donut Media para cubrir completamente un Toyota Yaris con uno de los patrones desarrollados por su sistema y conducirlo frente a una cámara de Flock. Según el investigador, el resultado demostró que el patrón era capaz de interferir con el reconocimiento realizado por el software.

El objetivo no es hacer que el coche desaparezca de las imágenes. La cámara continúa grabándolo con normalidad, pero el sistema encargado de analizar las imágenes puede dejar de identificarlo como un vehículo. De esta forma, una persona que observe la grabación seguiría viendo el automóvil, mientras que el algoritmo podría no detectarlo correctamente.

Swearingen lleva aproximadamente un año desarrollando noRecognition y asegura haber realizado unos 31 millones de pruebas. El proyecto comenzó utilizando algoritmos de detección de objetos de código abierto, pero posteriormente evolucionó hacia un sistema de aprendizaje por refuerzo capaz de generar y modificar automáticamente los patrones.

El funcionamiento es relativamente sencillo: la inteligencia artificial crea un diseño y lo enfrenta a un sistema de detección. Si este consigue reconocer el objeto, el modelo modifica el patrón y vuelve a intentarlo. Con cada prueba obtiene nuevos datos y aprende qué elementos visuales tienen más posibilidades de confundir al algoritmo.

El investigador afirma que su sistema ha conseguido generar patrones capaces de superar 11 algoritmos de detección de código abierto, incluidos algunos relacionados con tecnologías utilizadas por Flock, Axon y Clearview AI.

Esta técnica pertenece al campo del aprendizaje automático adversarial, que explota las diferencias entre la forma en que los humanos interpretamos una imagen y cómo lo hacen los sistemas de inteligencia artificial.

La propuesta no pretende bloquear físicamente las cámaras. En lugar de eso, intenta atacar la capa de software que analiza las imágenes para identificar vehículos, personas o matrículas.

Swearingen asegura que su preocupación por la creciente presencia de cámaras de vigilancia fue uno de los motivos que le llevó a desarrollar el proyecto. Considera que las personas deberían disponer de alguna forma de evitar el seguimiento automatizado en espacios públicos.

El proyecto también busca llevar estos patrones a la ropa, con camisetas y sudaderas que ya están siendo promocionadas mediante una campaña de financiación.

Por ahora, Swearingen mantiene en privado sus patrones más efectivos para evitar que las empresas de vigilancia puedan estudiarlos y desarrollar rápidamente sistemas capaces de neutralizarlos.