Governar amb Intel·ligència Artificial: Estan preparats els governs?

Els governs de tot el món estan explorant com la intel·ligència artificial (IA) pot transformar la governança pública i millorar els serveis governamentals. El document polític de l’OCDE, “Governar amb intel·ligència artificial: els governs estan preparats?” avalua les oportunitats i els reptes associats a la integració de la IA al sector públic. Aquest document, redactat en anglès el podeu trobar al final d’aquest text, descriu els beneficis significatius que la IA pot aportar juntament amb els riscos i els problemes polítics que s’han de gestionar. Aquí, resumim les principals conclusions i recomanacions polítiques de l’Informe.

El potencial de la IA en la governança pública

Hi ha tres principals beneficis transformadors potencials de la IA al sector públic:

1. Millora de la productivitat: la IA pot racionalitzar les operacions internes del govern i millorar l’eficàcia de les polítiques públiques. Pot automatitzar tasques administratives repetitives, permetent als funcionaris públics centrar-se en funcions més complexes i estratègiques. Per exemple, el govern de Queensland a Austràlia utilitza IA per mapejar i classificar les característiques d’ús del sòl a partir d’imatges de satèl·lit. Això ajuda a millorar la resposta als esdeveniments de bioseguretat i desastres naturals i permet al govern mapejar i categoritzar l’ús del sòl de manera més ràpida i eficient.

2. Capacitat de resposta i inclusió: la IA pot ajudar els governs a dissenyar i oferir serveis públics més proactius i personalitzats, fent-los més sensibles a les necessitats dels ciutadans. Durant la pandèmia de la COVID-19, l’Administració de Treball i Benestar de Noruega va millorar significativament la prestació de serveis mitjançant l’ús d’una IA conversacional anomenada Frida per ajudar els ciutadans a accedir a les prestacions socials durant tot el dia.

3. Responsabilitat i supervisió: la IA pot reforçar la responsabilitat del govern millorant la capacitat de supervisió i senyalant els possibles riscos de frau. Per exemple, la IA pot ajudar a detectar activitats fraudulentes en la contractació pública i controlar la distribució de beneficis socials, garantint així una major integritat i transparència. Al Brasil, l’auditor intern del govern federal va desenvolupar Alice, una eina que automatitza els procediments i permet l’auditoria contínua i a gran escala de les licitacions públiques.

Reptes i riscos

Al mateix temps, hi ha diversos riscos associats amb el desplegament responsable de la IA al sector públic:

1. Biaix i equitat: si no es gestionen acuradament, els sistemes d’IA poden perpetuar, o fins i tot amplificar, els biaixos existents. Això pot donar lloc a resultats injusts i discriminatoris, especialment en àrees sensibles com ara l’aplicació de la llei i les prestacions socials. El Canadà requereix la publicació de les avaluacions d’impacte algorítmics completades per millorar la transparència i la responsabilitat. Als Països Baixos, el Registre d’algoritmes té objectius similars.

2. Transparència i explicabilitat: garantir que les decisions d’IA siguin transparents i explicables és crucial per mantenir la confiança del públic. La complexitat dels sistemes d’IA sovint fa que sigui difícil entendre com es prenen les decisions, cosa que suposa un repte per a la rendició de comptes i la traçabilitat de les responsabilitats. Molts governs, nacionals i subnacionals, estan posant en marxa registres oberts d’algoritmes públics, com ara Xile i França.

3. Privadesa i seguretat de les dades: la IA implica processar grans quantitats de dades, cosa que genera preocupacions importants sobre la privadesa i la seguretat de les dades. Els governs han de garantir marcs de govern de dades sòlids per protegir la privadesa i la informació personal dels ciutadans. La qualitat i la interoperabilitat de les dades al sector públic són reptes importants per a molts governs, cosa que fa que molts vinculin estretament la IA i les estratègies de dades.

Alinear les estratègies amb els objectius del sector públic, crear capacitats i establir estàndards

Per abordar aquests riscos i reptes, l’OCDE exposa diverses recomanacions polítiques per als governs:

1. Marcs estratègics: els governs haurien de desenvolupar estratègies integrals d’IA alineades amb els objectius més amplis del sector públic. Aquestes estratègies haurien d’incloure objectius clars, una direcció centralitzada i mecanismes de seguiment i avaluació continus.

2. Estàndards reguladors: els marcs reguladors sòlids i les directrius ètiques, inclosos els estàndards de transparència algorítmica, privadesa de dades i mitigació de biaixos, són crucials per garantir l’ús segur i responsable de l’IA.

3. Creació de capacitats: millorar les habilitats digitals dels empleats del sector públic és essencial per a un desplegament i un ús efectius i responsables de la IA. Els programes de formació i les associacions amb institucions acadèmiques i el sector privat poden ajudar a crear equips de recursos i experiència de manera eficient.

4. Col·laboració internacional: donada la naturalesa global dels reptes de la IA, la cooperació internacional és vital. Els governs haurien de participar en fòrums i iniciatives mundials per compartir les millors pràctiques i desenvolupar estàndards comuns.

Un enfocament estratègic i responsable de la IA al govern

La integració de la IA al sector públic promet millorar la productivitat, la capacitat de resposta i la responsabilitat. Tanmateix, adonar-se d’aquest potencial requereix un enfocament estratègic i responsable que abordi els riscos associats. El nou Informe de política de l’OCDE proporciona un full de ruta valuós perquè els governs naveguin pel complex panorama de la governança de la IA, assegurant que la IA s’utilitzi en l’interès públic per beneficiar a tots els ciutadans i alhora salvaguardar els seus drets.

Carlos Santiso director de ​​la divisió de Govern digital, innovació pública i govern obert de la Direcció de Governació Pública de l’Organització per a la Cooperació i el Desenvolupament Econòmic (OCDE) i Barbara Ubaldi cap de la Unitat de Govern digital i Cap adjunta de Divisió de la Direcció de Governació Pública de l’OCDE.

L’INFORME: OECD (2024), “Governing with Artificial Intelligence: Are governments ready?”, OECD Artificial Intelligence Papers, No. 20, OECD Publishing, Paris, https://doi.org/10.1787/26324bc2-en