El uso de cámaras con IA en algunas estaciones de Reino Unido para estudiar las emociones de los clientes
La empresa ferroviaria Network Rail ha estado probando en secreto un sistema de videovigilancia con IA desarrollado por Amazon. El sistema, implementado en estaciones concurridas, busca detectar comportamientos sospechosos y medir la «satisfacción» de los viajeros a través de sus expresiones faciales.
Las cámaras de circuito cerrado de estaciones como Waterloo, Euston (Londres) o Piccadilly (Manchester) se conectaron a Rekognition, la plataforma de análisis facial de AWS. La IA de Amazon puede estimar la edad y el sexo de los pasajeros, así como inferir su estado de ánimo a partir de sus gestos. El objetivo es detectar automáticamente conductas de riesgo como vandalismo o intrusión en las vías, alertando al personal de la estación.
Network Rail confirmó el uso de «tecnologías avanzadas» en las estaciones para la seguridad, pero no mencionó el sistema de Amazon ni la detección de emociones. Purple Transform, la consultora a cargo de las pruebas, asegura que la detección de emociones se descartó y que no se almacenaron imágenes.
El uso de este sistema plantea interrogantes:
- Falta de transparencia: Los documentos filtrados revelan una actitud despreocupada hacia la privacidad de los pasajeros.
- Sesgos algorítmicos: Estudios demuestran que estos sistemas generan más falsos positivos con ciertos grupos étnicos.
- Expansión de la vigilancia: La línea entre la seguridad y el control masivo automatizado se vuelve difusa.
- Aplicaciones intrusivas: Se mencionan posibles usos para medir la «satisfacción del cliente» o mostrar publicidad personalizada.
Este caso recuerda a la fallida iniciativa de Mercadona de usar IA para medir emociones en sus clientes. Los reguladores deben estar atentos a este tipo de tecnologías y sus potenciales violaciones a derechos fundamentales.
El debate sobre la vigilancia con IA en espacios públicos está lejos de terminar. Se debe encontrar un equilibrio entre la seguridad y la protección de la privacidad individual.
