Publicación en Mondaq: Cámaras de identificación biométrica remota en tiempo real: el Reglamento Europeo de Inteligencia Artificial

Nuestro compañero Xavier Ribert Arques, abogado del área de Derecho Digital, ha publicado un artículo en el prestigioso medio jurídicoMondaqsobre un tema de máxima actualidad:"Cámaras de identificación biométrica remota en tiempo real y el Reglamento Europeo de Inteligencia Artificial (IA)"

En los últimos años, el uso de la identificación biométrica a distancia cámaras en tiempo real ha cobrado una relevancia significativa, en particular en la mejora de la seguridad pública. Este tipo de tecnología, basada en cámaras y sistemas de inteligencia artificial (IA), permite la monitoreo y análisis de espacios públicos y privados para identificar riesgos potenciales y actividades sospechosas, proporcionando a las autoridades con la capacidad de responder rápida y eficazmente a las emergencias. Desde aeropuertos hasta grandes eventos, la biometría remota ha sido implementada como una herramienta para mejorar la vigilancia y facilitar la Gestión de grandes aglomeraciones.

Un caso reciente de la aplicación de estas tecnologías ocurrió durante los Juegos Olímpicos de París en agosto de 2024. Este evento marcó un antes y un después debido a la implementación innovadora de medidas de seguridad Muestra. Los organizadores de los Juegos Olímpicos de París se enfrentaron a importantes desafíos de seguridad, no solo por el volumen de ventiladores y turistas, sino también en el contexto de amenazas terroristas previas en el Capital francesa. Ante esta situación, el gobierno francés tuvo que medidas sin precedentes, incluido el uso experimental de Sistemas de IA para mejorar la seguridad durante los Juegos Olímpicos y similares eventos hasta 2025.

Estas cámaras de seguridad equipadas con IA permiten, entre otras funciones, la detección de personas o vehículos que entren en zonas restringidas, equipaje abandonado en estaciones de tren o metro, o midiendo la flujo o concentración de personas en áreas o en momentos inusual.

En este contexto, expertos y juristas cuestionaron si esto tecnología implicaba el tratamiento de datos personales y si Este tipo de tratamiento podría violar los derechos de los ciudadanos. Esta preocupación surge porque estas cámaras procesan inevitablemente datos biométricos, como Registran los cuerpos y rostros de las personas que pasan a través de un área. Además, para detectar "situaciones inusuales", el El sistema crea perfiles de cada persona en función de sus movimientos, comportamiento, forma de andar, etc., que puedan infringir la privacidad.

Los organizadores de los Juegos Olímpicos y Wintics, la empresa francesa que desarrolló la IA, insistió en que las cámaras instaladas no eran equipado con sistemas de reconocimiento facial y no procesó datos personales. Según la compañía, solo el software formas y siluetas identificadas de inpiduos u objetos, y En base a eso, se detectaron anomalías. Además, argumentaron que todos los Los procesos de toma de decisiones se sometían previamente a supervisión humana.

A pesar de estas afirmaciones, las preocupaciones y los debates en torno al uso de Estos sistemas de vigilancia masiva han aumentado exponencialmente tras la reciente aprobación de la Directiva de la Unión Europea Ley de Inteligencia Artificial (en adelante, "IA")Acto"). Esto se debe a que la postura de la UE sobre los sistemas de identificación biométrica en virtud de la Ley de IA es claro: constituyen una violación de la privacidad y de los derechos humanos derechos.

De hecho, los sistemas de identificación biométrica remota en tiempo real en se consideran espacios de acceso público, salvo en casos excepcionales casos, prohibidos. El artículo 5.1(h) de la Ley de IA establece que el uso de estos sistemas de identificación biométrica en tiempo real en espacios públicos solo se permitiría en las siguientes circunstancias:

• Búsqueda selectiva de víctimas concretas de determinados delitos (secuestro, trata de personas o explotación sexual) y desaparecidos personas.
• Prevención de una amenaza específica, sustancial e inminente para la vida o la seguridad de las personas físicas o de una persona real y presente o amenaza previsible de un ataque terrorista.
• Localizar o identificar a una persona sospechosa de haber cometido un delito penal con fines de investigación o enjuiciamiento, o ejecución de una pena.

Teniendo esto en cuenta, los sistemas de vigilancia utilizados en París podrían estar cerca de ser clasificado como prohibido por la Ley de IA. Así El primer paso es determinar si estas tecnologías implican la identificación biométrica tal como se define en la Ley de IA. Artículo 3 de este texto legal define la identificación biométrica como: "El reconocimiento automatizado de datos físicos, fisiológicos, características humanas conductuales o psicológicas con el propósito de determinar la identidad de una persona física comparando datos biométricos de esa persona a datos biométricos de personas almacenado en una base de datos".

Por lo tanto, sería necesario analizar si el sistema comparó los datos biométricos que recopiló con otros datos biométricos Datos almacenados en una base de datos para identificar a las personas. Si es así, podríamos probablemente discutan la identificación biométrica en tiempo real.

En los casos en queexista identificación biométrica en tiempo real, el se plantea la cuestión de si su uso durante los Juegos Olímpicos entra dentro de los una de las circunstancias excepcionales descritas en el artículo 5.1 h) del la Ley de Inteligencia Artificial. La justificación más sencilla en este caso parece ser la prevención de amenazas, aunque sigue sin ser determinar si la celebración de los Juegos Olímpicos constituye una amenaza "específica, sustancial e inminente" a la la vida y la seguridad de las personas.

También es crucial tener en cuenta que la Ley de IA no solo se distingue en función del nivel de riesgo de los sistemas, pero también se centra en quién los usa y con qué fines. Por ejemplo, los usos militares o de seguridad nacional quedan fuera del alcance de la Ley de IA, que otros usos públicos pueden estar sujetos a normas específicas o Excepciones. Si una empresa o un inpiduo utiliza un sistema de IA, la IA Es probable que la ley se aplique a ellos; Sin embargo, si una autoridad pública lo utiliza, como en el caso de los Juegos Olímpicos, la aplicabilidad de la Ley de IA se vuelve más incierto.

Como se ha observado, determinar si la Ley de IA se aplica en cada caso, así como clasificar los sistemas de IA por su nivel de riesgo, está lejos de sencillo. Hacerlo correctamente es esencial para establecer no solo la legalidad del sistema, sino también las obligaciones que las entidades implicadas en la cadena de suministro del sistema de IA deben: cumplir.

Ver el contenido completo aquí.