Avui parlem sobre IA inclusiva, Si llegiu això, és probable que el vostre departament de Recursos Humans o el vostre equip d’IT acabi de contractar una eina d’Intel·ligència Artificial amb l’etiqueta d’ètica o inclusiva. T’han promès que l’algorisme eliminarà els biaixos humans, que la vostra contractació serà més diversa que mai i que, per fi, els processos seran objectius. Sento ser jo qui et desperti moltes de les eines d’IA que es venen com a “inclusives” el 2026 estan aconseguint exactament el contrari, però d’una manera tan subtil que el teu departament legal no ho veurà venir fins que arribi la primera demanda. biaix corporatiu.
La gran il·lusió: Per què tots compren el discurs de la “IA Inclusiva”
La narrativa oficial és seductora. Les grans consultores i proveïdors de programari ens diuen que els humans som màquines de prejudicis (cosa que és cert) i que un model matemàtic, en no tenir sentiments ni història personal, tractarà tots igual. És una idea que sembla lògica perquè comprem la IA com si fos una calculadora: si li demanes 2+2, sempre te’n donarà 4, sense importar qui premeu la tecla.
Aquesta creença la defensen amb dents i ungles els proveïdors de SaaS (Software as a Service) que necessiten diferenciar el seu producte en un mercat saturat. El 2025 vam veure una explosió de segells de “Garantia d’Equitat” que moltes empreses llueixen a les seves webs corporatives. Sembla el moviment intel·ligent: delegar la responsabilitat ètica en un tercer per dormir tranquils. El problema és que la IA no és una calculadora, sinó un mirall retrovisor que només mira enrere per decidir cap on girar el volant.
El gir: La IA no elimina el biaix, l’automatitza a escala industrial
Aquí és on la realitat es torna incòmoda. Un algorisme no “entén” la diversitat; simplement cerca patrons en dades històriques. Si la teva empresa ha promocionat històricament a un perfil específic de directiu, la IA aprendrà que aquest és el “patró de l’èxit”.
La majoria d’aquestes eines funcionen com a filtre d’aigua que, en lloc d’atrapar les impureses, està programat per deixar passar només les partícules que tinguin una forma geomètrica exacta. Si l’aigua que entra (les teves dades històriques) ja està contaminada, el filtre simplement s’encalla o, encara pitjor, deixa passar només el que reconeix, descartant el talent innovador pel simple fet que “no encaixa al motlle previ”. No és que l’algorisme sigui racista o masclista per voluntat pròpia; és que és un copió estadístic que replica els errors del passat a una velocitat que cap humà no podria assolir.
El que ningú et diu en les presentacions de vendes és que “netejar” un algorisme de biaixos és tècnicament gairebé impossible sense sacrificar-ne la precisió. Quan un proveïdor et diu que la seva IA és 100% neutra, t’està mentint o no entén com funciona el propi producte.
Evidència: El que les dades del 2026 ens estan cridant
| Mentida de Màrqueting | Realitat Tècnica (Auditoria 2026) |
|---|---|
| “Eliminem el gènere de l’anàlisi” | L’algorisme utilitza “proxies” (codi postal, universitat, hobbies) per inferir-los. |
| “La nostra IA és una caixa transparent” | El 90% dels models LLM actuals són caixes negres indesxifrables fins i tot per als seus creadors. |
| “Redueix el temps de contractació en un 70%” | El redueix descartant automàticament perfils atípics que podrien ser brillants. |
| “Compleix amb tota la normativa de diversitat” | La majoria només compleixen el check-list legal, no amb l’equitat real. |
Implicacions: El risc que estàs assumint avui
Si ets el responsable de contractar aquest programari, el problema no és només ètic, és de supervivència empresarial. En el context actual, fer servir una suposada IA Inclusiva esbiaixada t’exposa a tres fronts crítics:
- Sancions de l’Oficina d’IA de la UE: Les multes per algorismes discriminatoris en processos de RR.HH. facturació global.
- Fuga de talent invisible: Estàs rebutjant els cignes negres, aquests candidats que no s’assemblen a ningú que hagis contractat abans però que són els únics capaços d’innovar en un mercat estancat.
- Crisi de reputació: El 2026, la transparència algorítmica és el nou “Greenwashing”. Si t’enxampen usant una IA que discrimina mentre presumeixes de valors, el dany a la marca és irreversible.
Què hauries de fer? Deixa de buscar la “eina perfecta” i comença a exigir auditories de biaix externes i recurrents. La IA ha de ser un assistent que et suggereixi opcions, no un jutge que dicti sentències. La responsabilitat final sempre ha de recaure en un humà que pugui dir: “Aquest candidat no encaixa en el patró, i precisament per això ho vull entrevistar”.
5 Mentides que t’estan explicant (i com respondre)
1. “La nostra IA és cega al gènere”
És la mentida més comuna. Encara que esborris la casella de “sexe”, la IA és capaç d’endevinar-ho per la manera com algú escriu o pels anys d’experiència. És com intentar amagar que hi ha un elefant a l’habitació llevant només la placa que diu “Elefant”: el pes, l’olor i el soroll segueixen allà. Exigeix saber quines variables de control utilitza el model per evitar els “proxies” discriminatoris.
2. “L’algorisme s’autocorregeix tot sol”
La IA no té brúixola moral. Si li dónes dades esbiaixades, es tornarà més eficient sent esbiaixada. Pensar que es corregirà sola és com creure que un cotxe sense conductor aprendrà a respectar els semàfors simplement xocant contra ells. Necessites una intervenció humana constant, allò que anomenem Human-in-the-loop.
3. “Tenim una certificació de “IA Inclusiva”
No hi ha res. Les certificacions actuals sovint són fotos fixes d’un moment concret. Un algorisme canvia cada cop que s’entrena amb dades noves. És com passar la ITV d’un cotxe i creure que això garanteix que mai no tindràs una avaria en els propers deu anys. Demana informes de rendiment en temps real, no diplomes penjats a la paret.
4. “És més objectiva que un reclutador humà”
La IA no és objectiva, és consistent. Si teniu un prejudici, ho aplicareu a 10.000 persones per segon sense pestanyejar. Un humà pot tenir mal dia, però també té empatia i capacitat de context. La màquina confon “freqüència” amb “qualitat”.
5. “Ningú ha impugnat mai els nostres resultats”
Probablement perquè ningú no sap per què ha estat rebutjat. La manca de queixes no és una prova d’èxit, sinó d’opacitat. En el moment en què la transparència sigui obligatòria per llei, moltes d’aquestes empreses veuran com els seus models s’ensorren davant el primer escrutini seriós.
T’ha passat que un candidat excel·lent va ser rebutjat per “no encaixar” al sistema? Comparteix aquest article amb el teu equip de RR.HH. i obriu el debat abans que l’algorisme decideixi per vosaltres.
