El software de reconocimiento de imágenes con aprendizaje automático puede ser engañado con una impresión a color.

La tecnología de video controlada por Inteligencia Artificial (IA) se está volviendo ubicua, rastreando nuestras caras y cuerpos en comercios, oficinas y espacios públicos.

En algunos países, la tecnología constituye un nuevo y poderoso instrumento de vigilancia policial y gubernamental.

Afortunadamente, como algunos investigadores de la universidad belga KU Leuven han demostrado recientemente, a menudo es posible que alguien se esconda de un sistema de video con IA con la ayuda de una simple impresión en color.

¿Quien lo dijo?

Los investigadores demostraron que la imagen que diseñaron puede esconder a una persona completa de un sistema de visión computarizado controlado por IA. Lo demostraron en un popular sistema de reconocimiento de objetos de código abierto llamado YoLo v2.

Esconderse

El truco podría permitir que los delincuentes se escondan de las cámaras de seguridad, u ofrecer a los disidentes una manera de esquivar el escrutinio del gobierno. «Lo que nuestro trabajo demuestra es que es posible eludir los sistemas de vigilancia de cámaras con parches ‘adversarios’», dice Wiebe Van Ranst, uno de los autores.

Piérdete

Van Ranst dice que no debería ser demasiado difícil adaptar la orientación del diseño de los sistemas de videovigilancia estándar.

“En este momento también necesitamos saber qué detector está en uso. «Lo que nos gustaría hacer en el futuro es generar un parche que funcione con varios detectores al mismo tiempo», dijo a MIT Technology Review. «Si esto funciona, hay muchas posibilidades de que el parche también funcione en el detector que está en uso en el sistema de vigilancia».

Misión de tontos

El engaño demostrado por el equipo belga explota lo que se conoce como aprendizaje automático adversarial. La mayoría de la visión por computador se basa en entrenar una red neuronal (convolucional) para reconocer diferentes cosas al proporcionarle ejemplos y ajustar sus parámetros hasta que clasifique los objetos correctamente.

Al alimentar ejemplos en una red neuronal profunda entrenada y monitorear la salida, es posible inferir qué tipos de imágenes confunden o engañan al sistema.

Ojos en todas partes

El trabajo es importante porque cada vez se encuentra más IA en las cámaras y el software de vigilancia habitual.

Incluso se está utilizando para obviar la necesidad de una línea de pago en algunas comercios experimentales, incluidos los operados por Amazon.

En China, la tecnología está emergiendo como un nuevo y poderoso medio para atrapar delincuentes. Y, lo que es más preocupante, también se utiliza mundialmente para rastrear a ciertos grupos étnicos.

Artículo original: MIT Technology Review, 23 de abril de 2019

Artículos Relacionados:

■ Logran que los robots rastreen objetos en movimiento con una precisión sin precedentes

■ Dando a los vehículos autónomos una “visión eléctrica” más aguda

■ Robots: Visión estereoscópica en tiempo real por medio de una cámara única

■ Ver a través de los ojos de un robot ayuda a personas con grandes deficiencias motoras