La Comissió Europea reforça la “Intel·ligència Artificial”

Una Europa preparada per a l’era digital: la Comissió proposa noves normes i accions per fomentar l’excel·lència i la confiança en la intel·ligència artificial

Avui (21/04/2021) la Comissió Europea proposa noves normes i mesures amb l’objectiu que Europa esdevingui el centre mundial de la intel·ligència artificial (IA) fiable. La combinació del primer marc jurídic en matèria d’IA i un nou pla coordinat amb els estats membres garantirà la seguretat i els drets fonamentals dels ciutadans i les empreses, alhora que donarà empenta a l’adopció de la IA i a la inversió i innovació en aquest camp arreu de la UE. Aquest plantejament ve acompanyat de noves normes referents a la maquinària que adaptaran els requisits de seguretat per afavorir la confiança dels usuaris en la nova i versàtil generació de productes.

«En allò que respecta a la intel·ligència artificial, la confiança és essencial, no un simple afegit. Amb aquestes normes tan importants, la UE esdevé capdavantera en el desenvolupament de noves normes mundials per garantir que puguem confiar en la IA. Si les normes les establim nosaltres, podem marcar el camí cap a la tecnologia ètica arreu del món i garantir que la UE manté la seva competitivitat al llarg del procés. Les nostres normes, que estan preparades per als canvis futurs i afavoreixen la innovació, entraran en joc quan sigui estrictament necessari: quan la seguretat i els drets fonamentals dels ciutadans europeus estiguin en risc», ha declarat avui la vicepresidenta executiva per a Una Europa Preparada per a l’Era Digital, Magrethe Vestager.

«La IA es un mitjà, no un fi. Comptem amb ella des de fa dècades, però ara ha assolit noves capacitats gràcies a la potència informàtica. Té un potencial immens en àmbits tan diversos com el de la salut, el transport, l’energia, l’agricultura, el turisme o la ciberseguretat. No obstant, també comporta una sèrie de riscos. Les propostes que presentem avui tenen l’objectiu de reforçar la posició d’Europa com a centre mundial d’excel·lència en matèria d’IA des del laboratori fins al mercat, garantir que la IA a Europa respecti els nostres valors i les nostres normes, i aprofitar tot el potencial de la IA en els sectors industrials», ha declarat avui també el comissari del Mercat Interior, Thierry Breton.

El nou reglament en matèria d’IA garantirà que els europeus puguin confiar en tot allò que la IA ens pot oferir. Un conjunt de normes proporcionades i flexibles s’enfocaran en els riscos concrets que plantegen els sistemes d’IA i establiran l’estàndard de referència al món. El pla coordinat exposa els canvis i la inversió que cal fer als estats membres per reforçar la posició de lideratge d’Europa en el desenvolupament d’una IA centrada en l’ésser humà, sostenible, segura, inclusiva i fiable.

 El plantejament europeu quant a una IA fiable

Les noves normes s’aplicaran directament i de la mateixa manera en tots els estats membres, partint d’una definició d’IA adaptada per al futur. Tindran un plantejament basat en el risc:

Risc inacceptable: quedaran prohibits els sistemes d’IA que es considerin una amenaça evident per a la seguretat, els mitjans de subsistència i els drets de les persones. S’hi inclouen els sistemes o les aplicacions d’IA que manipulen el comportament humà per eludir la lliure voluntat dels usuaris (per exemple, les joguines que utilitzen assistència per veu que fomenta que els menors tinguin comportaments perillosos) i els sistemes que permeten als governs d’establir una «puntuació social».

Risc alt: els sistemes d’IA considerats d’alt risc abasten tecnologies d’IA que es fan servir per a:

• les infraestructures crítiques (com ara el transport) que podrien fer perillar la vida i la salut dels ciutadans;
• la formació educativa o professional que podria determinar l’accés a l’educació i la carrera professional d’una persona (per exemple, puntuació d’exàmens);
• els components de seguretat dels productes (com ara l’aplicació de la IA en la cirurgia assistida per robots);
• l’ocupació, la gestió de treballadors i l’accés al treball per compte propi (per exemple, programes informàtics de classificació de CV en processos de contractació);
• els serveis públics i privats essencials (com ara una qualificació creditícia que impedeixi als ciutadans d’obtenir un préstec);
• l’aplicació de la llei que pugui afectar els drets fonamentals de les persones (per exemple, l’avaluació de la fiabilitat de les proves presentades);
• la gestió migratòria, d’asil i de controls fronterers (com ara la verificació de l’autenticitat de documents de viatge);
• l’administració de justícia i processos democràtics (per exemple, l’aplicació de la llei a un conjunt concret de fets).

Els sistemes d’IA d’alt risc estaran sotmesos a obligacions estrictes abans no es puguin comercialitzar:

• sistemes adequats d’avaluació i mitigació de riscos;
• alta qualitat dels conjunts de dades que s’incorporen en el sistema per minimitzar els riscos i els resultats discriminatoris;
• registre de l’activitat per garantir el seguiment dels resultats;
• documentació detallada que ofereixi tota la informació necessària sobre el sistema i la seva finalitat perquè les autoritats n’avaluïn la conformitat;
• informació clara i adequada per als usuaris;
• mesures de supervisió humana adequades per minimitzar els riscos;
• un bon grau de solidesa, seguretat i precisió.

Concretament, tots els sistemes d’identificació biomètrica remota es consideren d’alt risc i seran sotmesos a requisits estrictes. D’entrada, el seu ús en directe en llocs públics està prohibit. Hi ha casos excepcionals concrets, ben definits i regulats (per exemple, quan s’hagin de fer servir per buscar un infant desaparegut, evitar una amenaça terrorista específica i imminent, o detectar, trobar, identificar o enjudiciar l’autor d’un delicte greu o algú sospitós d’haver-ne comès un). Aquesta mena d’usos dependrà de l’autorització d’un òrgan judicial o un altre organisme independent i dels límits adequats des del punt de vista de la durada, l’abastament geogràfic i les bases de dades consultades.

Risc limitat, és a dir, sistemes d’IA amb requeriments específics de transparència: quan es facin servir sistemes d’IA com ara bots de conversa, els usuaris hauran de ser conscients que estan interactuant amb una màquina per poder prendre una decisió fonamentada sobre si volen continuar o no.

Risc insignificant: la proposta jurídica permet que es facin servir gratuïtament aplicacions com ara videojocs basats en IA o filtres de correu brossa. La immensa majoria dels sistemes d’IA s’inclouen en aquesta categoria. La proposta de reglament no s’endinsa en aquest apartat, ja que aquesta mena de sistemes d’IA representa un risc insignificant o nul per als drets o la seguretat de la ciutadania.

Pel que fa a la governança, la Comissió proposa que les autoritats nacionals encarregades de vigilar el mercat supervisin les noves normes i, d’altra banda, la creació d’un Comitè europeu d’intel·ligència artificial n’afavorirà l’aplicació i impulsarà el desenvolupament de pautes de referència per a la IA. A més, s’han proposat codis de conducta voluntaris per a la IA que no presenti un risc alt, així com espais controlats per a fer proves i afavorir la innovació responsable.

El plantejament europeu quant a l’excel·lència en matèria d’IA

La coordinació reforçarà la posició de lideratge d’Europa en matèria d’IA centrada en l’ésser humà, sostenible, segura, inclusiva i fiable. Per tal que Europa continuï sent competitiva a escala mundial, la Comissió es compromet a fomentar la innovació en el desenvolupament i l’ús de la tecnologia d’IA en tots els sectors i en tots els estats membres.

El Pla coordinat en matèria d’IA va publicar-se per primer cop l’any 2018 a fi de definir mesures i instruments de finançament per al desenvolupament i l’adopció d’IA. Va permetre una gran varietat d’estratègies nacionals i fons de la UE per a associacions publicoprivades i xarxes de recerca i innovació. L’actualització exhaustiva del pla de coordinació proposa accions conjuntes concretes de col·laboració per garantir que tots els esforços estiguin d’acord amb l’Estratègia europea en matèria d’IA i el Pacte verd europeu, alhora que té en compte els nous reptes que planteja la pandèmia de coronavirus. Presenta un pla per accelerar les inversions en IA, cosa que pot beneficiar la recuperació. També busca promoure l’aplicació d’estratègies nacionals d’IA, posar fi a la fragmentació i fer front als reptes mundials.

El pla coordinat actualitzat farà servir el finançament assignat mitjançant els programes Europa digital i Horitzó Europa, així com el Mecanisme de recuperació i resiliència, que preveu un objectiu de despeses digitals del 20 %, i programes de polítiques de cohesió amb els objectius següents:

• crear les condicions adients per al desenvolupament i l’adopció d’IA mitjançant l’intercanvi d’informació estratègica i de dades, i també la inversió en capacitats informàtiques fonamentals;
• fomentar l’excel·lència en matèria d’IA des del laboratori fins al mercat mitjançant la creació d’una associació publicoprivada; la creació i mobilització de capacitats de recerca, desenvolupament i innovació; i la possibilitat que les pimes i les administracions públiques facin servir instal·lacions d’assaig i experimentació, així com centres d’innovació digital;
• garantir que la IA beneficiï les persones, sigui un motor del benestar social, se situï a la avantguarda del desenvolupament i el desplegament d’una IA fiable, fomenti talents i capacitats donant suport als períodes de pràctiques, les xarxes de doctorat i les beques postdoctorals en àmbits digitals, pari atenció a la confiança en matèria d’IA i promogui la visió europea d’una IA sostenible i fiable a nivell mundial;
• fomentar el lideratge estratègic en sectors i tecnologies de gran repercussió, com ara el medi ambient, parant especial atenció a la contribució de la IA pel que fa a la producció sostenible, la salut per mitjà de l’intercanvi transfronterer d’informació, el sector públic, la mobilitat, els afers d’interior, l’agricultura i la robòtica.

El plantejament europeu quant als nous productes de maquinària

La maquinària abasta una varietat molt gran de productes professionals i de consum, des de robots fins a màquines tallagespa, impressores 3D, màquines de construcció i línies de producció industrial. La Directiva en matèria de màquines, que ha quedat substituïda pel nou Reglament en matèria de màquines, definia els requisits sanitaris i de seguretat per a la maquinària. El nou Reglament en matèria de màquines vetllarà perquè la maquinària de nova generació garanteixi la seguretat dels usuaris i consumidors, alhora que fomenti la innovació. Per una banda, el nou Reglament en matèria d’IA se centrarà en els riscos per a la seguretat que suposen els sistemes d’IA. Per altra banda, el nou reglament garantirà la integració segura dels sistemes d’IA en la maquinària en general. Les empreses només hauran de fer una sola avaluació de conformitat. 

A més, el nou Reglament en matèria de màquines donarà resposta a les necessitats del mercat perquè oferirà més claredat jurídica a les disposicions actuals, simplificarà la càrrega administrativa i els costos per a les empreses mitjançant l’autorització de formats digitals per a la documentació, i adaptarà les tasques d’avaluació de conformitat per a les pimes, sense perdre de vista, però, la coherència amb la normativa de la UE referent als productes.

 Properes etapes

El Parlament Europeu i els estats membres hauran d’adoptar les propostes de la Comissió sobre el plantejament europeu en matèria d’intel·ligència artificial i de maquinària en el procediment legislatiu ordinari. Un cop s’hagin adoptat, els reglaments seran d’aplicació directa arreu de la UE. Alhora, la Comissió continuarà col·laborant amb els estats membres per aplicar les mesures anunciades en el pla coordinat.

Rerefons

La Comissió ha afavorit i intensificat durant anys la cooperació en matèria d’intel·ligència artificial a tota la UE per impulsar la seva competitivitat i garantir la confiança basada en els valors de la UE. 

Arran de la publicació de l’Estratègia europea sobre IA l’any 2018, i després d’una àmplia consulta de les parts interessades, el grup d’experts d’alt nivell en matèria d’intel·ligència artificial va formular unes pautes sobre la IA fiable el 2019 i una llista d’avaluació de la IA fiable l’any 2020. En paral·lel, el desembre de 2018 es va publicar el primer Pla coordinat sobre IA com a compromís conjunt amb els estats membres.

El Llibre blanc de la Comissió sobre la IA, publicat l’any 2020, va establir una perspectiva clara de la IA a Europa: un ecosistema d’excel·lència i confiança que ha assentat les bases de la proposta que es presenta avui. La consulta pública sobre el Llibre blanc sobre la IA va atraure una àmplia participació d’arreu del món. El llibre blanc anava de la mà d’un «Informe sobre les implicacions en matèria de seguretat i responsabilitat civil de la intel·ligència artificial, la internet de les coses i la robòtica», en què s’arribava a la conclusió que la legislació vigent sobre la seguretat dels productes conté tota una sèrie de llacunes que cal cobrir, especialment en la Directiva en matèria de màquines.

Més informació

Noves normes sobre intel·ligència artificial: preguntes i respostes

Noves normes sobre intel·ligència artificial: pàgina de dades

Comunicació sobre un plantejament europeu en matèria d’intel·ligència artificial

Reglament sobre un plantejament europeu en matèria d’intel·ligència artificial

Nou pla coordinat sobre intel·ligència artificial

Reglament sobre els productes de maquinària

Projectes d’IA finançats per la UE