El debat públic sobre la norma europea d'intel·ligència artificial s'ha centrat en qui la desenvolupa. Per a la majoria dels nostres clients la pregunta rellevant és una altra: quines obligacions assumeixen en implantar a la seva empresa un sistema que ha construït un altre.
La classificació per nivells de risc
El reglament ordena els sistemes en pràctiques prohibides, sistemes d'alt risc, sistemes subjectes a obligacions de transparència i la resta, amb obligacions proporcionals a cada nivell. La categoria que afecta més empreses convencionals és la d'alt risc, perquè inclou usos molt estesos en recursos humans, com el cribratge de candidatures o les eines d'avaluació del rendiment.
El responsable del desplegament també té deures
Usar el sistema conforme a les seves instruccions, encarregar la supervisió humana a persones amb competència i autoritat suficients, vigilar el funcionament, conservar els registres generats i informar els treballadors afectats. Són obligacions pròpies de l'empresa usuària i no es traslladen al proveïdor signant un contracte, encara que el contracte sí determini qui respon davant l'altre.
Per on entra la reclamació
Els escenaris que ja veiem no són de ciència-ficció: una decisió automatitzada de selecció impugnada per discriminació, un sistema de manteniment predictiu que no avisa d'una fallada, un assistent que dóna al client una informació incorrecta que aquest segueix. La reclamació arriba per responsabilitat civil general si hi ha dany a un tercer, o per responsabilitat civil professional si el sistema forma part d'un servei prestat.
Què revisar en la pòlissa
Tres coses. Que l'activitat declarada reculli l'ús de sistemes automatitzats, perquè una definició antiga pot deixar l'escenari fora. Que no s'hagi incorporat una exclusió genèrica d'intel·ligència artificial, que alguns asseguradors han començat a introduir. I que la RC professional contempli l'error del sistema i no només l'error humà, distinció que un clausulat redactat fa cinc anys no anticipava.
