El AI Act (<a href="https://www.europarl.europa.eu/topics/es/article/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-intel·ligència-artificial" target="_blank" (UE) és el primer marc jurídic integral del món que regula la intel·ligència artificial segons el seu nivell de risc. Per a un responsable de producte, aquesta llei estableix que els chatbots d’atenció al client han de ser transparents, segurs i estar subjectes a supervisió humana per operar legalment al mercat europeu, evitant multes milionàries.
Per què l’AI Act és ara la teva prioritat més gran?
Si gestioneu un equip d’atenció al client o sou el responsable d’un producte digital, el temps de “provar coses a veure què passa” amb la IA s’ha acabat. Som el 2026 i les finestres de gràcia que la Unió Europea va concedir després de l’aprovació de la llei el 2024 s’han tancat.
Ignorar això no és només un risc reputacional; és un risc financer massiu. Les sancions poden assolir els 35 milions d’euros o el 7% de la facturació global anual de la teva empresa. Però, més enllà de la multa, es tracta de la confiança. En un mercat saturat d’automatitzacions mediocres, complir amb el AI Act és el segell de qualitat que diu al teu client: “Les teves dades estan segures i aquí no t’estem enganyant”.
Com funciona l’AI Act a la pràctica?
L’AI Act funciona de forma molt semblant a les inspeccions tècniques dels edificis: no se li exigeix el mateix a una caseta de jardí que a un gratacel de cinquanta plantes. La llei classifica la IA en quatre nivells de risc (Inacceptable, Alt, Limitat i Mínim) i aplica regles proporcionals a cadascun.
La majoria dels chatbots d’atenció al client entren a la categoria de Risc limitat. Això vol dir que el sistema no decidirà si algú rep un trasplantament d’òrgans, però sí que interactua amb humans. Per això, la llei t’obliga a “aixecar el capó” i mostrar què hi ha a dins. El teu chatbot ha de ser com una etiqueta d’informació nutricional en un paquet de galetes: l’usuari té dret a saber exactament què està consumint (en aquest cas, que està parlant amb un algorisme) i quins ingredients (da.
Quins són els tipus d’IA que regula aquesta llei?
Perquè no et perdis al fàrrec legal, la normativa divideix les eines en aquestes categories:
- Risc Inacceptable: Sistemes que manipulen el comportament humà o puntuen les persones (social scoring). Aquests estan prohibits. Si el teu chatbot utilitza tècniques subliminals per obligar un client a no cancel·lar una subscripció, ets fora de la llei.
- Risc Alt: Sistemes que afecten la seguretat o els drets fonamentals (salut, educació, ocupació, banca per a crèdits). Si el teu chatbot decideix per si mateix si un client és apte per a un préstec, entra aquí i les exigències d’auditoria són brutals.
- Risc limitat (L’estàndard d’atenció al client): Aquí és on viu el teu chatbot. L’obligació principal és la transparència. L’usuari ha de saber que interactua amb una IA.
- Risc Mínim: Filtres de correu brossa o videojocs. No tenen obligacions addicionals.
Quan es considera que el teu chatbot és “il·legal”?
El teu sistema d’atenció al client podria ser il·legal demà mateix si no compleix tres pilars bàsics que ja són exigibles el 2026:
- Falta d’identificació: Si l’usuari creu que està parlant amb “Laura de suport” i en realitat és un model de llenguatge GPT-5 sense que se us hagi avisat clarament a l’inici de la sessió.
- Opacitat en l’entrenament: Si utilitzeu dades protegides per drets d’autor sense respectar les directives de la UE o si no podeu demostrar que heu mitigat els biaixos (per exemple, que el vostre IA no sigui menys amable amb clients de certes regions).
- Absència de “Kill Switch”: Si el client no té una manera senzilla de sortir del bucle de la IA i parlar amb un humà, especialment en casos de reclamacions complexes.
Qui s’ha d’encarregar de la conformitat legal?
Aquesta és la pregunta del milió a les reunions de producte. La responsabilitat és compartida, però l’AI Act distingeix entre:
- Proveïdors: Els qui desenvolupen la IA (com OpenAI, Google o una startup que crea el seu propi model). Ells porten la càrrega tècnica més pesada.
- Desplegadors (Tu): Les empreses que usen aquesta IA per donar servei als seus clients. Tu ets responsable de com es fa servir, d’informar els usuaris i de supervisar que la IA no “al·lucini” i prometi reemborsaments que no existeixen.
Si compres una solució de tercers, assegura’t que tinguin el marcatge CE d’intel·ligència artificial. És com comprar un endoll: tu no fabriques l’electricitat, però ets responsable de no instal·lar cables pelats a la teva oficina.
Quant costa adaptar un chatbot a l’AI Act?
No hi ha una xifra única, però podem parlar de rangs d‟inversió segons l‟estat de la teva tecnologia:
- Adaptació bàsica (Transparència): Si ja uses una plataforma sòlida (tipus Zendesk, Intercom o Salesforce amb les seves capes d’IA), el cost és principalment de configuració i legal design. Podeu oscil·lar entre els 5.000€ i 15.000€ en consultoria i ajustaments d’UX.
- Auditoria de sistemes de Risc Alt: Si el teu chatbot pren decisions crítiques (assegurances, banca, salut), prepara’t per a auditories externes que poden superar els 50.000€ anuals, sumat a la necessitat d’un responsable de compliment d’IA (AI Compliance Officer).
Breu història de com arribem fins aquí
El 2021, la Comissió Europea va presentar el primer esborrany, molt abans que ChatGPT fos un nom familiar. Quan la IA generativa va explotar el 2023, el Parlament Europeu va haver de córrer per incloure regles sobre els models d’IA d’ús general.
La llei es va aprovar definitivament el 2024 i s’ha aplicat per fases. El 2025 es van prohibir els sistemes de risc inacceptable i ara, el 2026, entren en vigor les obligacions per als sistemes de propòsit general i els requisits de transparència per a chatbots. Hem passat del “Salvatge Oest” digital a un entorn regulat on l’ètica és un requisit tècnic.
Mits vs Realitat sobre l’AI Act
❌ Mito: L’AI Act matarà la innovació a Europa i ens quedarem enrere respecte als EUA o la Xina.
✅ Realitat: La llei crea un “camp de joc” clar. Les empreses saben a què atenir-se, cosa que atrau inversió a llarg termini perquè redueix la incertesa legal.
❌ Mito: Si la meva empresa és dels EUA, no he de complir la llei.
✅ Realitat: Si el teu chatbot atén un sol ciutadà dins de la Unió Europea, estàs subjecte a la llei. Funciona igual que el RGPD: limpacte és global.
❌ Mito: Només les grans tecnològiques com Google o Meta s’han de preocupar.
✅ Realitat: Qualsevol PIME que utilitzi un chatbot per vendre o donar suport ha de complir els requisits de transparència.
