Agentes de IA en la empresa: cuándo una organización puede convertirse en proveedora de un sistema de IA

La finalidad del sistema puede cambiar las obligaciones jurídicas de una empresa

El uso de agentes de inteligencia artificial está creciendo rápidamente en el entorno empresarial. Plataformas como n8n, Make, Zapier o Power Automate permiten automatizar procesos cada vez más complejos sin necesidad de conocimientos avanzados de programación.

Sin embargo, más allá de las posibilidades que ofrecen estas herramientas, surge una cuestión jurídica que muchas organizaciones aún no se han planteado: ¿en qué momento una empresa deja de ser simplemente usuaria de un sistema de IA para convertirse en proveedora a efectos del Reglamento de IA?

En un nuevo artículo publicado en El Confidencial, Luis Miguel Prieto Expósito, asociado del área de Derecho Digital y Propiedad Intelectual de EJASO, analiza esta cuestión y explica cómo un cambio aparentemente sencillo en la configuración de un agente puede modificar el régimen jurídico aplicable.

La herramienta no es el factor determinante

Uno de los principales mensajes del artículo es que el criterio relevante no es la plataforma utilizada, sino la finalidad para la que se configura el sistema.

Un mismo flujo automatizado puede limitarse a clasificar y organizar información o, con pequeñas modificaciones, intervenir en procesos como la selección de personal. Aunque desde un punto de vista técnico el cambio pueda parecer reducido, las consecuencias regulatorias pueden ser muy diferentes cuando el sistema pasa a desarrollar funciones consideradas de alto riesgo por el Reglamento de IA.

Como señala Luis Miguel Prieto:

"El criterio decisivo no va a ser la herramienta utilizada, sino la función real del agente."

La gobernanza de la IA, un elemento clave para las empresas

El artículo también pone de relieve la importancia de que las organizaciones acompañen el despliegue de agentes de IA con una gobernanza adecuada.

Disponer de un inventario de los agentes implementados, evaluar previamente su nivel de riesgo, contar con revisión jurídica y documentar correctamente su funcionamiento son aspectos que pueden resultar determinantes para garantizar el cumplimiento del Reglamento de IA.

Este contenido ofrece una visión resumida del análisis realizado por Luis Miguel Prieto en El Confidencial. Si quieres conocer en detalle los supuestos que analiza y las implicaciones prácticas que plantea el Reglamento de IA para las empresas, te invitamos a leer el artículo completo publicado en el medio.

Leer artículo completo en El Confidencial