El debate público sobre la norma europea de inteligencia artificial se ha centrado en quién la desarrolla. Para la mayoría de nuestros clientes la pregunta relevante es otra: qué obligaciones asumen al implantar en su empresa un sistema que ha construido otro.
La clasificación por niveles de riesgo
El reglamento ordena los sistemas en prácticas prohibidas, sistemas de alto riesgo, sistemas sujetos a obligaciones de transparencia y el resto, con obligaciones proporcionales a cada nivel. La categoría que afecta a más empresas convencionales es la de alto riesgo, porque incluye usos muy extendidos en recursos humanos, como el cribado de candidaturas o las herramientas de evaluación del desempeño.
El responsable del despliegue también tiene deberes
Usar el sistema conforme a sus instrucciones, encargar la supervisión humana a personas con competencia y autoridad suficientes, vigilar el funcionamiento, conservar los registros generados e informar a los trabajadores afectados. Son obligaciones propias de la empresa usuaria y no se trasladan al proveedor firmando un contrato, aunque el contrato sí determine quién responde frente al otro.
Por dónde entra la reclamación
Los escenarios que ya vemos no son de ciencia ficción: una decisión automatizada de selección impugnada por discriminación, un sistema de mantenimiento predictivo que no avisa de un fallo, un asistente que da al cliente una información incorrecta que este sigue. La reclamación llega por responsabilidad civil general si hay daño a un tercero, o por responsabilidad civil profesional si el sistema forma parte de un servicio prestado.
Qué revisar en la póliza
Tres cosas. Que la actividad declarada recoja el uso de sistemas automatizados, porque una definición antigua puede dejar el escenario fuera. Que no se haya incorporado una exclusión genérica de inteligencia artificial, que algunos aseguradores han empezado a introducir. Y que la RC profesional contemple el error del sistema y no solo el error humano, distinción que un clausulado redactado hace cinco años no anticipaba.
