PUBLICITAT

Lo Campus diari

Premsa universitària i escolar de Catalunya, el País Valencià, les Illes Balears, Catalunya Nord, Andorra i l’Alguer

ARTICLE sobre INTEL·LIGÈNCIA ARTIFICIAL: Adaptacions al català del llibre “Atlas of AI: Power, Politics and the Planetary Costs of Artificial Intelligence”

Data publicació
Notícia anterior
Notícia posterior

Fem la pregunta enganyosament senzilla: Què és la intel·ligència artificial (AI)? Si pregunteu a algú al carrer, podria mencionar Siri d’Apple, el servei al núvol d’Amazon, els cotxes de Tesla o l’algoritme de cerca de Google.

Si pregunteu a experts en aprenentatge profund, us poden donar una resposta tècnica sobre com s’organitzen les xarxes neuronals en desenes de capes que reben dades etiquetades, se’ls assignen pesos i llindars i poden classificar les dades d’una manera que encara no es pot explicar completament.(1)

En un dels llibres de text més populars sobre el tema, Stuart Russell i Peter Norvig afirmen que la IA és l’intent d’entendre i construir entitats intel·ligents. “La intel·ligència es preocupa principalment de l’acció racional”, afirmen. “L’ideal és que un agent intel·ligent pren la millor acció possible en una situació”.(2)

Cada manera de definir la intel·ligència artificial és fer feina, establint un marc de com s’entendrà, mesurarà, valorarà i governarà. Si la IA la defineixen les marques de consum per a la infraestructura corporativa, aleshores el màrqueting i la publicitat han predeterminat l’horitzó. Si els sistemes d’IA es consideren més fiables o racionals que qualsevol expert humà, capaços de prendre la “millor acció possible”, suggereix que s’ha de confiar en ells per prendre decisions importants en salut, educació i justícia penal. Quan les tècniques algorítmiques específiques són l’únic objectiu, suggereix que només importa el progrés tècnic continu, sense tenir en compte el cost computacional d’aquests enfocaments i els seus impactes de gran abast en un planeta sota tensió.

En canvi, argumento [al meu llibre “Atlas of AI”] que la IA no és ni artificial ni intel·ligent. Més aviat, la intel·ligència artificial està tant encarnada com material, feta de recursos naturals, combustible, treball humà, infraestructures, logística, històries i classificacions. Els sistemes d’IA no són autònoms, racionals ni capaços de discernir res sense una formació àmplia i intensiva en computació amb grans conjunts de dades o regles i recompenses predefinides. De fet, la intel·ligència artificial tal com la coneixem depèn completament d’un conjunt molt més ampli d’estructures polítiques i socials. I a causa del capital necessari per construir IA a escala i les maneres de veure que optimitza, els sistemes d’IA estan dissenyats en última instància per servir els interessos dominants existents. En aquest sentit, la intel·ligència artificial és un registre de poder.

Un cop connectem la IA dins d’aquestes estructures i sistemes socials més amplis, podem escapar de la idea que la intel·ligència artificial és un domini purament tècnic. En un nivell fonamental, la IA és pràctiques tècniques i socials, institucions i infraestructures, política i cultura. La raó computacional i el treball encarnat estan profundament lligats: els sistemes d’IA reflecteixen i produeixen relacions socials i comprensió del món.

Per entendre com la IA és fonamentalment política, hem d’anar més enllà de les xarxes neuronals i el reconeixement de patrons estadístics per preguntar-nos què s’està optimitzant, i per a qui i qui decideix. Aleshores podem rastrejar les implicacions d’aquestes eleccions.

Veure l’IA com un atles

Com ens pot ajudar un atles a entendre com es fa la intel·ligència artificial?

Potser el meu relat favorit de com un enfocament cartogràfic pot ser útil prové de la física i crítica tecnològica d’Ursula Franklin: “Els mapes representen esforços amb propòsit: estan pensats per ser útils, per ajudar el viatger i per salvar la bretxa entre el conegut i el encara desconegut; són testimonis de coneixement i coneixement col·lectius.”(3)

Els mapes, en el seu millor moment, ens ofereixen un compendi de vies obertes —maneres compartides de conèixer— que es poden barrejar i combinar per crear noves interconnexions. Però també hi ha mapes de dominació, aquells mapes nacionals on el territori es talla al llarg de les línies de falla del poder: des de les intervencions directes de traçar fronteres a través d’espais disputats fins a revelar els camins colonials dels imperis. En invocar un atles, estic suggerint que necessitem noves maneres d’entendre els imperis de la intel·ligència artificial.

Necessitem una teoria de la IA que tingui en compte els estats i les corporacions que la impulsen i la dominen, la mineria extractiva que deixa empremta al planeta, la captura massiva de dades i les pràctiques laborals profundament desiguals i cada cop més explotadores que la sostenen. Aquesta és la tectònica canviant del poder a la IA. Un enfocament topogràfic ofereix diferents perspectives i escales, més enllà de les promeses abstractes de la intel·ligència artificial o dels últims models d’aprenentatge automàtic. L’objectiu és entendre la IA en un context més ampli caminant pels diferents paisatges de la computació i veient com es connecten.(4)

Hi ha una altra manera en què els atles són rellevants aquí. El camp de la IA intenta de manera explícita capturar el planeta d’una forma llegible computacionalment. Això no és tant una metàfora com l’ambició directa de la indústria. La indústria de la IA està elaborant i normalitzant els seus propis mapes propietaris, com una visió centralitzada del moviment humà, la comunicació i el treball. Alguns científics d’IA han manifestat el seu desig de capturar el món i de substituir altres formes de coneixement.

Un dels fundadors de la intel·ligència artificial i primer experimentador del reconeixement facial, Woody Bledsoe, ho va dir amb més franquesa: “a la llarga, la IA és l’única ciència”.(5)

Aquest és el desig de no crear un atles del món sinó ser l’atles, la manera dominant de veure.

Aquest impuls colonitzador centralitza el poder en el camp de la IA: determina com es mesura i es defineix el món alhora que nega que es tracti d’una activitat inherentment política.

De la mateixa manera que hi ha moltes maneres de fer un atles, també hi ha molts futurs possibles sobre com s’utilitzarà la IA al món. L’expansió de l’abast dels sistemes d’IA pot semblar inevitable, però això és contestable i incomplet. Les visions subjacents del camp de la IA no surten de manera autònoma sinó que s’han construït a partir d’un conjunt particular de creences i perspectives. Els principals dissenyadors de l’atles contemporani d’IA són un grup reduït i homogeni de persones, amb seu en un grapat de ciutats, que treballen en una indústria que actualment és la més rica del món. Igual que els mapes mundi europeus medievals, que il·lustraven conceptes religiosos i clàssics tant com coordenades, els mapes fets per la indústria de la IA són intervencions polítiques, en oposició a reflexos neutres del món.

El meu llibre està fet en contra de l’esperit de les lògiques de mapeig colonial i inclou diferents històries, ubicacions i bases de coneixement per entendre millor el paper de la IA al món.

No és una història sobre codi i algorismes o l’últim pensament en visió per computador o processament del llenguatge natural o aprenentatge de reforç. Molts altres llibres ho fan. Tampoc és un relat etnogràfic d’una comunitat única i els efectes de la IA en la seva experiència de treball, habitatge o medicina, tot i que sens dubte en necessitem més. En canvi, es tracta d’una visió ampliada de la intel·ligència artificial com a indústria extractiva.

Extracció, poder i política

La intel·ligència artificial, doncs, és una idea, una infraestructura, una indústria, una forma d’exercir el poder i una manera de veure; també és una manifestació de capital altament organitzat recolzat per amplis sistemes d’extracció i logística, amb cadenes de subministrament que envolten tot el planeta. Totes aquestes coses formen part del que és la intel·ligència artificial: una frase de dues paraules sobre la qual s’assigna un conjunt complex d’expectatives, ideologies, desitjos i pors.

La IA pot semblar una força espectral, com a càlcul descarnat, però aquests sistemes són qualsevol cosa menys abstractes. Són infraestructures físiques que estan remodelant la Terra, alhora que canvien com es veu i s’entén el món.

És important per a nosaltres enfrontar-nos a aquests molts aspectes de la intel·ligència artificial: la seva mal·leabilitat, el seu desordre i el seu abast espacial i temporal.

La promiscuïtat de la IA com a terme, la seva obertura a ser reconfigurada, també significa que es pot utilitzar de diverses maneres: pot referir-se a tot, des de dispositius de consum com l’Amazon Echo fins a sistemes de processament de fons sense nom, des de documents tècnics reduïts a les empreses industrials més grans del món. Però això també té la seva utilitat. L’amplitud del terme “intel·ligència artificial” ens dóna llicència per considerar tots aquests elements i com estan profundament imbricats: des de la política de la intel·ligència fins a la recol·lecció massiva de dades; de la concentració industrial del sector tecnològic al poder militar geopolític; des de l’entorn desracialitzat fins a les formes contínues de discriminació. La tasca és mantenir-se sensible al terreny i observar els significats canviants i plàstics del terme “intel·ligència artificial” —com un contenidor en el qual es col·loquen i després s’eliminen diverses coses— perquè també això forma part de la història.

En poques paraules, la intel·ligència artificial és ara un actor en la formació del coneixement, la comunicació i el poder. Aquestes reconfiguracions s’estan produint a nivell d’epistemologia, principis de justícia, organització social, expressió política, cultura, comprensió dels cossos humans, subjectivitats i identitats: què som i què podem ser. Però podem anar més enllà. La intel·ligència artificial, en procés de reassignació i intervenció en el món, és política per altres mitjans, encara que poques vegades es reconeix com a tal. Aquestes polítiques estan impulsades per les grans cases de la IA, que consisteixen en la mitja dotzena d’empreses que dominen la computació planetària a gran escala.

Moltes institucions socials estan ara influenciades per aquestes eines i mètodes, que configuren el que valoren i com es prenen les decisions alhora que creen una sèrie complexa d’efectes aigües avall. La intensificació del poder tecnocràtic fa molt de temps que s’està produint, però ara el procés s’ha accelerat. En part, això es deu a la concentració del capital industrial en un moment d’austeritat econòmica i d’externalització, inclosa el desfinançament dels sistemes i institucions de benestar social que antigament van actuar com a control del poder de mercat. És per això que hem de lluitar amb la IA com a força política, econòmica, cultural i científica. Alondra Nelson, Thuy Linh Tu i Alicia Headlam Hines observen: “Els concursos al voltant de la tecnologia sempre estan vinculats a lluites més grans per la mobilitat econòmica, les maniobres polítiques i la construcció de comunitats”.(6)

Ens trobem en un moment crític, que ens obliga a fer preguntes sobre com es produeix i s’adopta la IA. Ens hem de preguntar: què és la IA? Quines formes de política propaga? A quins interessos serveix i qui té el major risc de patir danys? I on s’ha de limitar l’ús de la IA?

Aquestes preguntes no tindran respostes fàcils. Però tampoc es tracta d’una situació irresoluble ni d’un punt de no retorn: les formes distòpies de pensament ens poden paralitzar de prendre mesures i evitar intervencions urgents.(7)

Com escriu Ursula Franklin: “La viabilitat de la tecnologia, com la democràcia, depèn al final de la pràctica de la justícia i l’aplicació dels límits al poder”.(8)

El meu llibre argumenta que abordar els problemes fonamentals de la IA i la computació planetària requereix connectar qüestions de poder i justícia: des de l’epistemologia als drets laborals, l’extracció de recursos a la protecció de dades, la desigualtat racial fins al canvi climàtic. Per fer-ho, hem d’ampliar la nostra comprensió del que està en marxa als imperis de la IA, veure què hi ha en joc i prendre millors decisions col·lectives sobre què hauria de venir després.

Kate Crawford

1. Vegeu un dels molts exemples, Poggio et al., “Why and When Can Deep—but Not Shallow—Networks Avoid the Curse of Dimensionality”.

2. Russell i Norvig, Artificial Intelligence, 30.

3. Franklin i Swenarchuk, Ursula Franklin Reader, Prelude..

4. Per obtenir un compte de les pràctiques de colonització de dades, vegeu “Colonized by Data”; i Mbembé, “Critique of Black Reason”.

5. Bledsoe citat a McCorduck, Machines Who Think, 136.

6. Nelson, Tu, and Hines, “Introduction,” 5.

7. Danowski i de Castro, Ends of the World.

8. Franklin, “Real World of Technology”, 5.

Kate Crawford és investigadora principal de Microsoft Research (Social Media Collective), cofundadora i directora d’investigació de l’AI Now Institute de la New York University School of Law, professora visitant al MIT Center for Civic Media, i professora associada al Centre de Recerca de Periodisme i Mitjans de Comunicació de la Universitat de Nova Gal·les del Sud de Sidney. També és membre del Global Agenda Council on Data-Driven Development del World Economic Forum.

+++

Adaptacions al català del llibre “Atles of AI: Power, Politics and the Planetary Costs of Artificial Intelligence” de Kate Crawford. Copyright Yale University Press (c) 2021. Traduït de l’original de l’anglès per la redacció de LO CAMPUS DIARI. Cortesia acadèmica del Fòrum del “Economic Co-operation and Development – OECD” amb seu a Paris. 

Fotografia de Kate Crawford.

Notícia anterior
Notícia posterior
PUBLICITAT
Processing...
Thank you! Your subscription has been confirmed. You'll hear from us soon.
NEWSLETTER
Butlletí quinzenal gratuït dels Continguts Diaris
ErrorHere