En els últims anys, la intel·ligència artificial (IA) s’ha convertit en una paraula gairebé omnipresent en qualsevol debat sobre el futur de l’administració pública. Des de les oficines locals fins a les institucions europees, es parla constantment de projectes innovadors, d’eines predictives, d’automatització de processos i de transformació digital. Tanmateix, massa sovint aquesta conversa queda atrapada en una visió reduccionista: la IA es concep com una llista de tecnologies a adoptar, una mena de catàleg de productes que cal adquirir o implementar. Aquesta visió és errònia. La intel·ligència artificial en el sector públic no és —o no hauria de ser— una qüestió de tecnologia, sinó de governança.
Entendre la IA com un problema de governança significa assumir que el que està en joc no és només quines eines utilitzem, sinó com es prenen les decisions, qui les pren, amb quins criteris i amb quins mecanismes de control. En l’àmbit públic, la tecnologia mai no és neutral: integra valors, prioritats i biaixos. Per tant, introduir sistemes d’IA en l’administració no és simplement modernitzar processos, sinó reconfigurar la manera com l’Estat interactua amb la ciutadania.
Històricament, les administracions públiques han incorporat tecnologia amb una certa inèrcia funcional: primer s’adopta la solució i després es reflexiona sobre les seues implicacions. Amb la IA, aquest enfocament és especialment perillós. Els algoritmes poden influir en decisions tan sensibles com la concessió d’ajudes socials, la detecció de frau fiscal, la gestió de recursos sanitaris o fins i tot la seguretat pública. Si aquestes decisions es deleguen a sistemes automatitzats sense una governança adequada, el risc de generar injustícies, opacitat i pèrdua de drets és real.
Per això, la clau no és preguntar-se quina és la millor eina d’IA disponible en el mercat, sinó quin model de governança volem per a la seua aplicació. Això implica establir principis clars: transparència, explicabilitat, responsabilitat i equitat. No es tracta només que els algoritmes funcionen bé tècnicament, sinó que siguen comprensibles per als ciutadans i auditables per les institucions. Una administració que utilitza IA ha de poder explicar per què ha pres una decisió i garantir que aquesta decisió pot ser revisada.
A més, la governança de la IA requereix una visió estratègica que supere la fragmentació habitual de les administracions. Massa sovint, cada departament impulsa el seu propi projecte tecnològic sense coordinació, generant un mosaic desordenat d’iniciatives. Això no només és ineficient, sinó que dificulta l’establiment de criteris comuns. Cal, per tant, una política pública integral que articule la implantació de la IA amb una mirada transversal, definint estàndards, protocols i mecanismes de supervisió compartits.
Un altre element fonamental és la participació ciutadana. La governança de la IA no pot ser un procés exclusivament tècnic o burocràtic. Les decisions sobre com s’utilitza aquesta tecnologia afecten directament els drets i la vida de les persones. Per això, cal obrir espais de deliberació pública, incorporar la societat civil i garantir que els col·lectius més vulnerables tenen veu en el procés. La IA no ha de ser una caixa negra imposada des de dalt, sinó una eina construïda amb legitimitat democràtica.
També és imprescindible abordar la qüestió de les capacitats internes de l’administració. Sovint, els governs depenen de proveïdors externs per desenvolupar i gestionar sistemes d’IA. Aquesta dependència pot limitar la capacitat de control i generar riscos de captura tecnològica. La governança, en aquest sentit, implica invertir en talent públic, formar professionals i desenvolupar infraestructures pròpies que permeten una gestió més autònoma i responsable.
En aquest context, cal evitar el que podríem anomenar el “tecnosolucionisme”, és a dir, la idea que la tecnologia pot resoldre per si sola problemes complexos. La IA pot ser una eina poderosa, però no substitueix la política ni el judici humà. Problemes com la desigualtat, la pobresa o la ineficiència administrativa no es resolen simplement introduint algoritmes. De fet, si no es gestionen correctament, aquests algoritmes poden amplificar les desigualtats existents.
Un exemple clar és el risc de biaix algorítmic. Si els sistemes d’IA es desenvolupen a partir de dades històriques que reflecteixen desigualtats, aquests biaixos poden reproduir-se i consolidar-se. Una governança adequada ha d’incloure mecanismes per detectar i corregir aquests problemes, així com protocols d’avaluació contínua. No n’hi ha prou amb implementar un sistema: cal supervisar-lo, revisar-lo i, si cal, retirar-lo.
La dimensió legal també és clau. La IA planteja desafiaments importants en termes de responsabilitat. Qui és responsable d’una decisió errònia presa per un sistema automatitzat? Com es garanteix el dret a recórrer? Com es protegeixen les dades personals? Aquestes preguntes no es poden respondre amb tecnologia, sinó amb marcs normatius sòlids. La governança implica, per tant, una articulació estreta entre innovació tecnològica i regulació jurídica.
A més, en un món globalitzat, la governança de la IA en el sector públic no pot ser exclusivament local. Les decisions adoptades a nivell europeu o internacional tenen un impacte directe. Iniciatives com la regulació europea de la IA apunten precisament en aquesta direcció: establir un marc comú que garantisca un ús responsable i ètic. Però la implementació concreta d’aquests principis depén de cada administració, i ací és on la governança local adquireix un paper fonamental.
La intel·ligència artificial no és un simple instrument tecnològic que es pot incorporar a l’administració com qui afegeix una nova aplicació informàtica. És una eina que transforma la manera de governar, de decidir i de relacionar-se amb la ciutadania. Reduir-la a un catàleg tecnològic és no entendre la seua profunditat ni els seus riscos.
El veritable repte no és saber quina tecnologia comprar, sinó com construir institucions capaces d’utilitzar-la de manera justa, transparent i democràtica. Això exigeix lideratge polític, capacitat tècnica, participació ciutadana i un compromís ferm amb els drets fonamentals. En última instància, la qüestió no és quina IA volem, sinó quin tipus d’administració pública volem ser en l’era digital.
Perquè, en realitat, parlar d’intel·ligència artificial en el sector públic és parlar de poder: de qui decideix, de com decideix i amb quines garanties. I això, inevitablement, és una qüestió de governança.
