1ª Cimera Anual de l’Aliança de Tecnologies Disruptives i Emergents (DETA) que es celebra a Barcelona: Catalunya lidera un manifest pioner per a una IA ètica, fiable i centrada en les persones
Ho han fet en el marc de la primera Cimera Anual de la DETA (Aliança de Tecnologies Disruptives i Emergents), que se celebra avui i demà (6 i 7 de novembre) a Barcelona sota la presidència rotatòria de la coalició, a càrrec del Govern català
Fins a 14 governs regionals de territoris d’arreu del món es comprometen oficialment a avançar en el desenvolupament i implementació d’una intel·ligència artificial (IA) ètica i digna de confiança al ‘Manifesto for Advancing Trustworthy AI’ (Manifest per avançar en una IA fiable), que s’ha aprovat avui a Barcelona en el marc de la primera Cimera Anual de l’Aliança de Tecnologies Disruptives i Emergents (DETA), sota la presidència del Govern català.
La secretària de Polítiques Digitals, Maria Galindo, ha estat l’encarregada d’obrir la cimera, en la qual també hi han participat el secretari d’Acció Exterior, Agustí Fernández de Losada, i el secretari de Telecomunicacions i Transformació Digital, Albert Tort, així com els representants de més de 10 governs regionals membres de l’aliança.
En la seva intervenció, la secretària Galindo ha recordat que “Catalunya és un hub tecnològic i d’innovació digital de referència a Europa, i concretament en el camp de la IA, i amb l’estratègia d’intel·ligència impulsada pel Govern com a motor, ha esdevingut capdavantera en recerca, desenvolupament i implementació d’aquesta tecnologia, i també vol ser una veu referent en el debat global sobre la necessitat d’una IA ètica i confiable”.
Per això, ha afegit la secretària de Polítiques Digitals, “juntament amb altres 13 de governs membres de l’aliança, avui aprovem aquest manifest pioner sobre l’ús ètic de la IA”. “Un document —ha afegit— que, a més d’interpel·lar i comprometre els signants, es vol fer extensiu als agents de la quàdruple hèlix perquè hi donin suport, i, sobretot, fer arribar als principals òrgans internacionals que juguen un paper en la regulació de la IA, com ara l’ONU, el Consell d’Europa, la UE o el G7, per incidir en el seu posicionament”.
Al seu torn, el secretari de Telecomunicacions i Transformació Digital, Albert Tort, ha assenyalat la ciberseguretat com un dels reptes més urgents que afronta actualment la societat i ha apostat per harmonitzar les lleis i regulacions internacionals per tal de reduir riscos i generar confiança. “En alinear les nostres lleis, enfortim les defenses globals, racionalitzem les transaccions i fomentem un entorn empresarial més segur davant dels ciberdelinqüents”, ha remarcat. “En aquest sentit, la feina del grup de treball específic de la DETA ajuda a compartir coneixements i teixir aliances a nivell mundial. El nostre objectiu no és només protegir la infraestructura, sinó empoderar la ciutadania per navegar pel món digital de manera segura“, ha manifestat Tort.
Sobre el ‘Manifest per avançar en una IA fiable’ i la DETA
El ‘Manifest per avançar en una IA fiable’ que s’ha signat avui en el marc de la Cimera Anual de la DETA és un document sense precedents a escala global impulsat pel Govern català en col·laboració amb l’Observatori d’Ètica en Intel·ligència Artificial (OEIAC) de la Universitat de Girona, en el marc de l’Estratègia d’Intel·ligència Artificial de Catalunya, Catalonia.AI que impulsa el Govern a través de la Secretaria de Polítiques Digitals. Massachusetts (EUA), Gyeonggi (Corea del Sud), Escòcia (Regne Unit), Emilia-Romagna (Itàlia) o la Provincia de Buenos Aires (Argentina) són alguns dels governs signants juntament amb Catalunya.
El Manifest fa una diagnosi dels reptes i oportunitats de la integració de la IA en la vida quotidiana per establir una sèrie de compromisos basats en uns valors fonamentals (dignitat humana, democràcia i estat de dret) i fer una crida a l’acció per avançar en una IA fiable.
Entre els compromisos que estableix, hi ha el desenvolupament ètic i sostenible; la governança transparent; la innovació inclusiva; i la rendició de comptes i responsabilitat. A partir d’aquí, el document fa una sèrie de recomanacions per fomentar un entorn on la IA es desenvolupi i es governi d’acord amb els valors fonamentals i els compromisos establerts, i apropar-se així a l’objectiu d’assolir una IA “millor” que reforci la justícia social i contribueixi als objectius més amplis de l’Agenda 2030 per al desenvolupament sostenible.
El document es vehicularà a través de l’Aliança de Tecnologies Disruptives i Emergents (DETA, en les seves sigles en anglès), una iniciativa del Govern català oberta a governs de regions i estats d’arreu del món que mostrin un clar compromís amb els valors democràtics, els drets humans i la diversitat cultural i lingüística. L’aliança ja agrupa actualment 17 governs que representen alguns dels principals hubs tecnològics del món: Província de Buenos Aires (Argentina), Baviera (Alemanya), Catalunya (Espanya), Costa Rica, Emília-Romanya (Itàlia), Flandes (Bèlgica), Gyeonggi (Corea del Sud), Hessen (Alemanya), Massachusetts (EUA), Kyoto (Japó), Occitània (França), el Quebec (Canadà), Escòcia (Regne Unit), South Australia (Austràlia), Gal·les (Regne Unit), i Western-Cape (Sud-àfrica).
La DETA té per objectiu ajudar els governs membres de l’aliança a treure el màxim profit d’aquestes tecnologies i a adaptar les seves polítiques públiques a aquesta nova realitat per oferir uns millors serveis públics a la ciutadania, així com guanyar, gràcies al treball en coalició, capacitat d’incidència en el debat global sobre la governança de la tecnologia, davant les big tech i els grans reguladors internacionals.
Per decisió dels governs membres de la coalició, el Govern de Catalunya ostenta la presidència rotatòria de la DETA durant els anys 2024 i 2025, i en aquest marc ha organitzat la primera Cimera Anual a Barcelona amb la participació de més de 10 delegacions de governs regionals membres, que han debatut sobre l’ús ètic de les tecnologies emergents i sobre la millor manera com treure’n profit en favor de la ciutadania, tot donant suport a la indústria local i preservant els valors democràtics i els drets humans.
En aquest sentit, a més de l’aprovació del manifest, les delegacions han acordat iniciar els tràmits per sumar-se a la Zero Debris Charter, una iniciativa de l’Agència Espacial Europea (ESA) que promou missions espacials sostenibles.
La primera jornada de la Cimera acabarà amb una visita al Barcelona Supercomputing Centre (BSC), i demà, les delegacions visitaran el Centre de Visió per Computador (CVC), el Sincrotró Alba, l’Institut de Ciències Fotòniques (ICFO) i l’Institut d’Estudis Espacial de Catalunya (IEEC).
A Catalunya, la DETA és un projecte de país que implica transversalment diversos departaments del Govern: el Departament d’Empresa i Treball lidera el projecte per mitjà de la Secretaria de Polítiques Digitals, en estreta col·laboració amb el Departament de la UE i Acció Exterior, que ha assumit el secretariat de l’aliança, i amb la implicació de la Secretaria de Telecomunicacions i Transformació Digital del Departament de la Presidència i la Direcció General de Transferència i Societat del Coneixement del Departament de Recerca i Universitats.
Un MANIFEST per avançar en una IA fiable
Diagnòstic dels reptes i oportunitats
La integració reeixida d’una intel·ligència artificial (IA) fiable a la vida quotidiana requereix tenir en compte una interacció complexa de reptes, oportunitats i consideracions de govern, cadascuna d’elles influint en la trajectòria i l’impacte de les tecnologies d’IA a la societat. Perquè això succeeixi, la governança, la regulació i el coneixement efectius dels seus mecanismes són crucials per fomentar la innovació en IA, alhora que garanteix una cultura d’IA que s’ajusti a les normes ètiques i als valors socials. Tot i que la innovació en IA pot prosperar en un entorn ben regulat que fomenta el desenvolupament i el desplegament ètics per avançar en una IA fiable, això requereix que els governs, els líders de la indústria, les institucions acadèmiques i la societat civil siguin conscients de com la IA aconsegueix els resultats i per què, tot i de tenir en compte les diferències en les regulacions, les capacitats tecnològiques i les diferències digitals regionals de cada nació.
La nostra visió
La integració d’una IA fiable als nostres marcs socials requereix un canvi fonamental del pensament racional al relacional sobre la personalitat, les dades, la justícia i tot el que hi ha entremig, situant l’ètica com una cosa que transcendeix les meres solucions tècniques. Per aconseguir-ho, les tecnologies d’IA s’han de desenvolupar i desplegar no només per obtenir guanys operatius i d’eficiència, sinó també per promoure la transparència, la justícia, la seguretat, la responsabilitat, la privadesa, l’autonomia, l’autodeterminació, la sostenibilitat i la diversitat cultural. Això significa adoptar un enfocament relacional que prioritzi l’impacte humà i social de la IA, reconeixent així la interconnexió de les persones, les comunitats i les tecnologies alhora que s’alinea amb tres valors fonamentals: la dignitat humana, la democràcia i l’estat de dret.
Valors fonamentals
Dignitat humana: els sistemes d’IA han de respectar i millorar la dignitat humana, garantint que les persones siguin tractades amb respecte i que es garanteixin els seus drets fonamentals. Per tant, hem de desenvolupar una IA que apodera les persones i millora la seva qualitat de vida (és a dir, una IA centrada en l’ésser humà).
Democràcia: la IA ha de donar suport als processos i institucions democràtiques, promovent la transparència i un enfocament participatiu que involucre molts actors rellevants que avança encara més la tecnologia d’IA responsable per a l’interès públic general, adaptant-se així als requisits de valor social específics del context.
Estat de dret: el desenvolupament i el desplegament de l’IA s’han de regir i adherir-se a l’estat de dret, assegurant que totes les activitats es duen a terme d’acord amb la llei per garantir la justícia i la responsabilitat en tots els esforços relacionats amb la IA.
Compromisos clau
Desenvolupament ètic: ens hem de comprometre amb el desenvolupament ètic de les tecnologies d’IA, integrant consideracions ètiques en cada etapa del cicle de vida de la IA. Això inclou abordar els biaixos, garantir l’equitat i prioritzar el benestar de totes les persones afectades.
Governança transparent: ens hem de comprometre amb marcs de governança clars i transparents per a la IA, garantint que les polítiques i les regulacions relacionades amb la IA es comuniquin obertament i estiguin subjectes a l’escrutini públic. Aquesta transparència és essencial per generar confiança i legitimitat.
Innovació inclusiva: ens hem de comprometre a crear oportunitats i recursos per a una participació diversa en la innovació en IA. Això inclou donar suport a les iniciatives d’educació i formació, promoure la diversitat en la recerca i el desenvolupament d’IA i garantir que totes les veus s’escoltin.
Responsabilitat i responsabilitat: ens hem de comprometre a implementar mecanismes de rendició de comptes sòlids per supervisar i avaluar els sistemes d’IA, assegurant-nos que funcionin segons el previst i no causen danys. Cal definir i fer complir clarament la responsabilitat dels resultats de la IA.
Desenvolupament sostenible: ens hem de comprometre amb la sostenibilitat en el desenvolupament i l’ús de la IA per tal de minimitzar l’impacte ambiental de la IA alhora que es promou el seu ús per afrontar reptes globals com el canvi climàtic i la desigualtat social.
Recomanacions
Fomentant un entorn on la IA es desenvolupi i es governi d’acord amb els valors bàsics i els compromisos clau esmentats anteriorment, podem apropar-nos a la realització de la visió d’una “millor” IA que recolza la justícia social i contribueix als objectius més amplis de l’Agenda 2030 per a la Sostenibilitat. Desenvolupament. Per a això, proposem les 5 recomanacions següents:
• Desenvolupar i actualitzar contínuament marcs ètics per a la IA que siguin sensibles als diversos contextos socials en què opera la IA. Aquests marcs haurien de ser dinàmics per adaptar-se a les normes socials en evolució, els avenços tecnològics i els canvis reguladors. També haurien d’estar informats per una àmplia implicació de les parts interessades, inclosa la contribució de comunitats marginades i vulnerables, per garantir que els marcs siguin inclusius i representatius de les diferents necessitats i valors de la societat.
• Implementar models de governança participativa que impliquin activament un ampli ventall de parts interessades en els processos de presa de decisions relacionats amb el desenvolupament i el desplegament de la IA. Això hauria d’incloure els responsables polítics, la tecnologia
organitzacions de la societat civil i, sobretot, els usuaris finals de les tecnologies d’IA, especialment els de grups poc representats. Aquest compromís ajudarà a garantir que els sistemes d’IA es desenvolupin i es governin d’una manera transparent, responsable i alineada amb l’interès públic, millorant així la confiança i l’acceptació entre tots els sectors de la societat.
• Fomentar i donar suport a la col·laboració interdisciplinària entre tecnòlegs, científics socials, ètics i altres parts interessades rellevants per explorar les complexitats sociotècniques de la IA. Aquest enfocament hauria de tenir com a objectiu integrar mètodes de recerca qualitatius i quantitatius per obtenir una comprensió holística dels impactes de la IA a la societat. La col·laboració interdisciplinària pot fomentar el desenvolupament de tecnologies d’IA que no només siguin tècnicament avançades, sinó que també siguin èticament sòlides, culturalment sensibles i socialment beneficioses, contribuint en última instància a l’assoliment dels objectius de desenvolupament sostenible.
• Implementar avaluacions ètiques i d’impacte integrals al llarg del cicle de vida dels sistemes d’IA, des del disseny fins al desplegament i més enllà. Aquestes avaluacions haurien d’avaluar els possibles impactes socials, econòmics i culturals de les tecnologies d’IA, amb un enfocament particular a identificar i mitigar els riscos relacionats amb el biaix, la discriminació i la desigualtat. En fer que aquestes avaluacions siguin part integral del procés de desenvolupament de la IA, les organitzacions poden abordar de manera proactiva les preocupacions ètiques i assegurar-se que els sistemes d’IA contribueixen positivament a la societat i no perjudiquen inadvertidament a les poblacions vulnerables.
• Desenvolupar programes educatius i campanyes de conscienciació pública per millorar l’alfabetització de la IA entre tots els segments de la societat, inclosos els responsables polítics, els desenvolupadors i el públic en general. Aquestes iniciatives haurien de cobrir les dimensions ètiques de la IA, els beneficis i riscos potencials de les tecnologies d’IA i els drets de les persones en el context de la presa de decisions en IA. En fomentar un discurs públic ben informat sobre la IA, aquests esforços poden empoderar les persones perquè puguin aprofitar el poder de la IA d’una manera ben pensada i responsable, per participar en debats significatius sobre l’ètica de la IA, per defensar els seus drets i per participar activament en la configuració del desenvolupament i la governança de les tecnologies d’IA d’una manera que s’alinea amb els valors democràtics i els principis de justícia social.
Crida a l’acció
Perquè aquesta visió d’IA fiable es converteixi en una realitat, cal adoptar els valors fonamentals esmentats anteriorment, complir els compromisos clau i respectar les recomanacions clau per part de diversos grups d’interès com ara governs, líders del sector, institucions acadèmiques i societat civil. A més, aquesta visió s’estén a l’ús de la IA per abordar els reptes específics de la regió, enfortir les indústries locals i millorar la qualitat de vida de tots els residents. Això garantirà que el desenvolupament, el desplegament i la governança de les tecnologies d’IA beneficiïn la societat alhora que mitiguen els danys potencials i s’aborden les preocupacions ètiques, socials i ambientals. Junts, podem crear un futur on les tecnologies d’IA no només siguin transformadores sinó que també estiguin alineades amb els valors que ens defineixen com a humanitat. Per tant, treballem junts per garantir que la IA serveixi al bé comú, millori la dignitat humana, doni suport als principis democràtics i mantingui l’estat de dret.
+++
Fotografia: Adi Goldstein (Unsplash) ©.
