La inteligencia artificial ha dejado de ser una tecnología experimental para convertirse en infraestructura económica. Hoy decide qué vemos, cuánto pagamos, si obtenemos un préstamo, qué trabajador recibe más pedidos o incluso qué candidato pasa una entrevista laboral.
Ante ese escenario, la Unión Europea ha impulsado la AI Act, la primera gran regulación integral de inteligencia artificial del mundo. Pero más allá del debate jurídico, su implementación está abriendo un conflicto mucho más profundo: el choque entre los modelos de negocio basados en automatización masiva y la protección de derechos fundamentales, laborales y de privacidad.
La pregunta ya no es únicamente qué puede hacer la IA, sino qué debería permitírsele hacer.
La inteligencia artificial ya ha entrado en su empresa. El problema es que probablemente nadie la está controlando.
La entrada en vigor del AI Act europeo marca un antes y un después en la forma en la que las empresas deberán utilizar herramientas de inteligencia artificial dentro de su actividad diaria. Sin embargo, el verdadero riesgo para muchas compañías no está en desarrollar sistemas de IA, sino en algo mucho más cotidiano: utilizarlos sin una estructura jurídica y de control adecuada.
Porque la realidad empresarial actual es clara. La inteligencia artificial ya forma parte del funcionamiento ordinario de muchas organizaciones, aunque en ocasiones ni siquiera exista plena conciencia de ello a nivel directivo.
Amazon, Glovo y la gestión algorítmica del trabajo
Uno de los ámbitos donde el impacto será más visible es el laboral.
Empresas como Amazon, Glovo o Uber dependen enormemente de sistemas algorítmicos para coordinar operaciones a gran escala.
En plataformas de reparto o transporte, los algoritmos deciden:
- Qué trabajador recibe pedidos
- Qué rutas son prioritarias
- Cómo se calculan incentivos
- Qué perfiles son penalizados
- Qué cuentas se suspenden
En centros logísticos, los sistemas monitorizan: productividad, tiempos de pausa, rendimiento y patrones de comportamiento.
La AI Act no prohíbe estas prácticas, pero sí obliga a justificarlas y documentarlas.
Por ello, las empresas tendrán que demostrar:
- Qué variables utiliza el sistema
- Cómo se evitan discriminaciones
- Qué supervisión humana existe
- Cómo puede reclamarse una decisión automatizada
- Qué medidas de seguridad y trazabilidad se aplican
El conflicto con los derechos laborales
La expansión de la IA en el trabajo ha generado una nueva forma de gestión empresarial: la llamada «gestión algorítmica».
En este modelo: los objetivos los fija un sistema automatizado, las evaluaciones son constantes, las decisiones se ejecutan en tiempo real, y no se evalúan variables globales, sino que todo está orquestado en términos de eficiencia y rendimiento. El resultado es que el trabajador rara vez entiende completamente los criterios utilizados.
La crítica principal es que el algoritmo puede convertirse en una forma de supervisión permanente extremadamente difícil de cuestionar, porque se materializa como una herramienta perfecta que utiliza valores económicamente atrayentes para las empresas sin adoptar un enfoque global al estar en presencia de trabajos efectuados por personas y no por máquinas.
Es por esta razón por lo que la AI Act conecta directamente con el derecho laboral europeo, en el que se exige y se intenta proteger:
- El derecho a explicación
- El derecho a no sufrir discriminación
- El derecho a supervisión humana
- El derecho a impugnar decisiones automatizadas
El problema es que muchas empresas tecnológicas crecieron precisamente gracias a estructuras extremadamente automatizadas y escalables. Cuanto más humana sea la supervisión exigida, más costoso y menos eficiente se vuelve el sistema.
Por eso algunas compañías consideran que la regulación europea amenaza parte del modelo económico de la gig economy.
Departamentos de recursos humanos utilizan herramientas automatizadas para filtrar currículums. Equipos comerciales generan propuestas mediante IA generativa. Áreas de marketing automatizan contenidos y segmentación de clientes. Empleados introducen información corporativa en plataformas externas para agilizar tareas diarias. Y todo ello sucede, en la mayoría de los casos, sin protocolos internos, sin supervisión específica y sin una evaluación real de los riesgos regulatorios asociados.
Ese es precisamente el escenario sobre el que actúa el AI Act.
La nueva regulación europea no debe interpretarse únicamente como una norma tecnológica. Se trata, sobre todo, de una norma de gobernanza empresarial, cumplimiento normativo y gestión de riesgos. Del mismo modo que ocurrió en su momento con la protección de datos o los programas de compliance penal, las compañías deberán demostrar que conocen, controlan y supervisan el uso de inteligencia artificial dentro de su organización.
Y aquí surge una cuestión especialmente relevante: muchas empresas creen que el AI Act no les afecta porque no desarrollan inteligencia artificial. Sin embargo, la norma también alcanza a quienes implementan, integran o utilizan determinados sistemas en su actividad económica.
El problema invisible del uso de las IAs
La cuestión ya no es si una empresa utiliza inteligencia artificial. La verdadera pregunta es si sabe realmente cómo se está utilizando dentro de su estructura.
Desde una perspectiva jurídica y empresarial, los riesgos son considerables.
El uso no controlado de herramientas de IA puede generar problemas vinculados a:
- Protección de datos
- Confidencialidad de información corporativa
- Propiedad intelectual
- Discriminación algorítmica
- Decisiones automatizadas sin supervisión humana
- Responsabilidad derivada de resultados incorrectos producidos por sistemas de inteligencia artificial
A ello se suma un elemento especialmente sensible: el impacto reputacional. En un entorno cada vez más regulado, la ausencia de políticas internas o mecanismos de control puede convertirse rápidamente en un problema de confianza frente a clientes, empleados, inversores o autoridades supervisoras.
Por ello, las empresas que están actuando con anticipación no están esperando a una inspección ni a un incidente interno. Están comenzando a implementar estructuras mínimas de gobernanza y control sobre el uso de IA dentro de sus organizaciones.
En este contexto, el asesoramiento jurídico adquiere un papel estratégico.
No se trata únicamente de interpretar una norma compleja, sino de ayudar a las empresas a identificar riesgos invisibles que ya forman parte de su operativa diaria.
La experiencia demuestra que muchas organizaciones desconocen:
- Qué herramientas de IA están utilizando realmente sus empleados
- Qué información corporativa se introduce en plataformas externas
- Qué proveedores tecnológicos asumen responsabilidades insuficientes
- Qué decisiones automatizadas podrían generar futuras contingencias legales
Precisamente por ello, uno de los principales retos actuales consiste en transformar el uso desordenado de inteligencia artificial en un entorno controlado, documentado y jurídicamente seguro.
La adaptación al AI Act no debe contemplarse como un obstáculo a la innovación, sino como una oportunidad para utilizar inteligencia artificial de forma segura, eficiente y alineada con las exigencias regulatorias europeas.
Conclusiones
Las compañías que actúen ahora podrán reducir riesgos, reforzar su posición competitiva y generar confianza en un entorno donde la supervisión sobre la inteligencia artificial será cada vez mayor.
Las que no lo hagan probablemente descubrirán demasiado tarde que el problema no era tecnológico, sino jurídico.
Leticia González, Abogada Procesal en CASADELEY
