La Comisión Europea publica unas directrices sobre el Reglamento de Inteligencia Artificial

El 2 de febrero de 2025 empezaron a ser aplicables las primeras disposiciones del Reglamento (UE) 2024/1689 de Inteligencia Artificial (en adelante, “RIA”). En particular, las Disposiciones Generales (Capítulo I) y las Prácticas de IA Prohibidas (Capítulo II). Es por este motivo que la Comisión Europea ha publicado unas Directrices que forman parte del marco regulador del RIA y que aclaran conceptos y casos de uso relativos a las disposiciones que ya son aplicables.

Directrices sobre la definición de sistemas de IA

El RIA aplica tanto a sistemas de IA como modelos de IA. No obstante, no aplica a todos los sistemas, sino únicamente a aquellos que cumplen con la definición de "sistema de IA" según el Artículo 3.1 del Reglamento. Teniendo esto en cuenta, y que la definición de sistema de IA había suscitado muchas controversias, el pasado 6 de febrero de 2025 la Comisión Europea publicó dichas directrices, que buscan aclarar esta definición y así facilitar su aplicación. Además, pretenden garantizar una interpretación coherente entre proveedores y los demás intervinientes en la cadena de suministro.

En particular, la definición se desglosa en siete elementos fundamentales:

1. Sistema basado en máquinas: El sistema debe incluir componentes de hardware y software.
2. Autonomía: El sistema debe tener capacidad de operar con cierto grado de independencia respecto a la intervención humana. Esta autonomía está estrechamente vinculada a la capacidad del sistema para generar resultados o outputs (como predicciones o decisiones) sin que estos sean controlados o definidos explícitamente por un humano, aunque pueda requerir inputs manuales iniciales.
3. Adaptabilidad: El sistema puede tener capacidad de autoaprendizaje, permitiéndole modificar su comportamiento tras su implementación y generar resultados distintos con los mismos datos de entrada. No es requisito obligatorio para que sea considerado un sistema de IA.
4. Objetivos del sistema: Son los fines para las que ha sido diseñado, y pueden ser explícitos (definidos claramente por el proveedor) o implícitos (deducidos del comportamiento del sistema o de sus datos de entrenamiento).
5. Capacidad de inferencia: Implica la habilidad del sistema para generar resultados (como predicciones, recomendaciones o decisiones) a partir de los datos de entrada. Esta capacidad lo diferencia del software tradicional basado en reglas fijas definidas por humanos.
6. Tipos de salidas: El sistema debe generar resultados que influyan en entornos físicos y virtuales, como predicciones, contenido, recomendaciones o decisiones.
7. Interacción con el entorno: Se refiere a la capacidad del sistema para influir en entornos físicos o virtuales, lo que destaca que estos sistemas no son pasivos, sino que impactan activamente en los entornos donde se utilizan. Esta influencia puede darse tanto en objetos tangibles (como un brazo robótico) como en espacios digitales, flujos de datos o ecosistemas de software.

Quedan excluidos de la definición de “Sistemas de IA”: i) los sistemas de optimización matemática, como regresiones lineales o logísticas, que solo mejoran el rendimiento computacional sin ajustar sus modelos de decisión de forma autónoma; ii) las bases de datos o hojas de cálculo, que siguen reglas predefinidas sin aprendizaje, razonamiento o modelado; iii) los sistemas basados en heurísticas clásicas, que resuelven problemas con reglas fijas o estrategias de prueba y error, sin adaptarse a nuevos datos; y iv) los sistemas de predicción simple, que se limitan a estimaciones básicas, como promedios históricos, sin la complejidad de modelos avanzados de IA.

Directrices sobre las prácticas de IA prohibidas

Asimismo, la Comisión publicó unas Directrices el 4 de febrero de 2025, con el objetivo de aportar un poco más de claridad acerca del alcance y la interpretación de las prácticas de IA prohibidas que se regulan en el artículo 5 del RIA.

Aparte de explicar cada una de las prácticas prohibidas con más detalle y con ejemplos prácticos, las Directrices dejan claro que los responsables del despliegue son responsables por el uso de la IA como práctica prohibida, aunque el propio sistema de IA no esté prohibido conforme a su finalidad prevista. 

Por ejemplo, imaginemos que una empresa adquiere un sistema de IA para mejorar la productividad de sus empleados. Dicho sistema está diseñado (finalidad prevista) para analizar patrones de comportamiento digital, como el uso del correo electrónico, la actividad en aplicaciones de trabajo y la interacción en reuniones virtuales y no para la inferencia de emociones (práctica prohibida). Aunque el proveedor especificase en las condiciones de uso que dicho sistema está destinado únicamente para el análisis de eficiencia operativa y no para la inferencia de emociones, la empresa usuaria podría configurar la solución o usarla para determinar el estado emocional de sus empleados, con el objetivo de identificar posibles signos de desmotivación o estrés; incurriendo así en una práctica prohibida y siendo el único responsable de la misma.

Es necesario destacar que estas Directrices no son vinculantes, sino que proporcionan explicaciones jurídicas y ejemplos prácticos para ayudar a las partes interesadas a comprender y cumplir los requisitos del RIA. En consecuencia, las interpretaciones de esta norma están reservadas al Tribunal de Justicia de la Unión Europea (TJUE).

Puede descargar las Directrices sobre la definición de sistemas de IA aquí y las Directrices sobre las prácticas de IA prohibidas aquí.