Né artificiale, e neanche particolarmente intelligente. È l’AI secondo Kate Crawford. Eclettica ricercatrice che si divide fra l’università californiana di Annenberg, l’università di Sydney e il Microsoft Research Lab di New York, Crawford ha dedicato vent’anni di studi alle implicazioni politiche e sociali dei big data e dei sistemi di machine learning.
Nel suo ultimo libro, Atlas of AI (edito in Italia da Il Mulino con il titolo Né intelligente, né artificiale), si occupa di smontare miti e narrazioni sull’intelligenza artificiale, per riportare la questione a una più seria e realistica analisi degli impatti ambientali e delle conseguenze sociali di un sistema che poggia su una catena di estrattivismo e sfruttamento del lavoro tutt’altro che immateriale. Con lei abbiamo parlato di dati, potere e dei costi, spesso occulti, di una tecnologia che, di fatto, sta già trasformando il mondo.
Partiamo dal principio: come si “costruisce” un’intelligenza?
In realtà questa è ancora una questione aperta. Intelligenza può significare tante cose diverse e l’accezione cambia nel tempo. Come specie, gli esseri umani stanno attualmente spendendo enormi quantità di risorse per costruire grandi sistemi computazionali ad alta intensità in grado di eseguire analisi predittive su vasta scala. Ma questa è una cosa abbastanza diversa dall’intelligenza umana incarnata e relazionale. John McCarthy, che coniò il termine “intelligenza artificiale” nel 1956, aveva parecchie riserve sul nome. Herbert Simon aveva un nome molto diverso ma più accurato: “Elaborazione complessa delle informazioni”. Penso che questo campo sarebbe oggi migliore se si fosse affermato il nome scelto da Herbert Simon: ci saremmo evitati molte mitizzazioni esaltate, in modo da poterci concentrare sulla realtà di queste tecnologie, e sui loro costi planetari.
In effetti la narrazione dominante descrive l’intelligenza artificiale come una sorta di magia, ma si tratta più di elaborazione di dati e statistiche che di una vera “abilità”. Come lei scrive, “l’intelligenza artificiale non è intelligente”.
L’attuale ondata di intelligenza artificiale generativa non ha fatto altro che aumentare la mistificazione e il clamore attorno a questi approcci computazionali. Lo storico della scienza Alex Campolo e io abbiamo coniato l’espressione “determinismo incantato” per descrivere la tendenza a vedere i sistemi di intelligenza artificiale come magici, alieni o sovrumani, ritenendoli però capaci di produrre risultati con accuratezza deterministica. In realtà, questi sistemi sono solo statistiche probabilistiche su larga scala.
Lei parla di un approccio riduzionista insito nel modo in cui l’intelligenza artificiale è stata sviluppata a partire da dati e classificazioni. Quali sono i rischi di questo riduzionismo?
I sistemi di intelligenza artificiale sono definiti dai dati utilizzati per addestrarli e dalle logiche di classificazione per cui sono ottimizzati. I dati di addestramento gettano le basi di ciò che è possibile: creano una visione del mondo. Questo approccio è totalmente in contrasto con il modo tradizionale in cui pensiamo all’intelligenza come illimitata, fluida, incarnata, autocosciente e in relazione ad altre entità. L’intelligenza artificiale è probabilità statistica su larga scala e questo tipo di tecnologia si basa sull’appiattimento della complessità per produrre una risposta, un’immagine o un pezzo di codice. Il rischio di questo riduzionismo è che non riusciremo a vederlo per quello che è e, così facendo, riporremo la nostra fiducia in questi sistemi senza riconoscerne i reali svantaggi.
Oltre a non essere intelligente, l’AI, scrive nel suo libro, non è nemmeno “artificiale”. Cosa significa?
I sistemi di intelligenza artificiale sono profondamente materiali. Ma gli immaginari a essi legati sono eterei: visioni di codice immateriale, matematica astratta e algoritmi nel cloud. Al contrario, l’intelligenza artificiale è fatta di minerali, energia e grandi quantità di acqua. I data center generano un calore immenso che contribuisce al cambiamento climatico e la costruzione e il mantenimento dell’intelligenza artificiale dipendono dalla manodopera sottopagata nel Sud Globale. In questo senso, come in molti altri, non c’è nulla di artificiale nell’intelligenza artificiale.
Quindi, l’intelligenza artificiale come sistema – o come “mega-macchina”, per usare le sue parole – è profondamente basata sull’estrattivismo e sullo sfruttamento delle risorse. Quali sono le principali filiere coinvolte?
Le catene di approvvigionamento dell’intelligenza artificiale iniziano nelle miniere, con lavoratori sottopagati che estraggono minerali rari, cobalto, litio e altri materiali dal suolo. Questi diventano quindi l’hardware su cui fanno affidamento i sistemi di intelligenza artificiale. Ma ci sono anche le catene di fornitura dei dati – dati di addestramento, dati di inferenza, dati di test e validazione – spesso estratti dall’Internet pubblica o acquistati tramite data broker. Infine, c’è la catena di fornitura del lavoro, con i clickworker sottopagati che forniscono “feedback umano” come parte di modelli di apprendimento per rinforzo (reinforcement learning), etichettando set di dati e, in alcuni casi, addirittura fingendosi chatbot.
Nel suo libro smaschera il falso mito dell’intelligenza artificiale e del cloud come industria pulita. Quali sono i reali impatti ambientali di questo settore “immateriale”? Abbiamo una cifra complessiva della sua impronta di carbonio?
Le stime variano, ma c’è consenso sul fatto che l’impronta di carbonio dell’intelligenza artificiale stia crescendo rapidamente. Secondo un recente studio, negli ultimi anni il consumo globale di elettricità dei data center è cresciuto del 20-40% annuo, raggiungendo l’1-1,3% della domanda globale di elettricità. Un altro studio indica che a breve l’industria dell’intelligenza artificiale consumerà tanta energia quanta ne consuma una nazione come i Paesi Bassi. E, naturalmente, con l’AI generativa, l’impronta di carbonio e il consumo di acqua stanno aumentando ancora più rapidamente, ma è ancora troppo presto per avere dati precisi.
Insieme a Vladan Joler ha creato un progetto di arte visiva su tecnologia e potere, che ora è esposto a Milano presso la Fondazione Prada. Perché ha scelto le arti visive per comunicare la sua ricerca?
Una delle domande centrali che guidano il mio lavoro è: come possiamo comprendere le operazioni della tecnologia e del potere nella nostra epoca? I nostri sistemi tecnologici, dai chatbot basati sull’intelligenza artificiale ai controlli alle frontiere internazionali, sono sempre più automatizzati e opachi. Le istituzioni sociali, dalle scuole alle carceri, stanno diventando industrie di dati, incorporando forme pervasive di acquisizione e analisi delle informazioni. Le attuali trasformazioni nel campo dell’intelligenza artificiale hanno concentrato il potere in sempre meno mani, accelerando la polarizzazione e l’alienazione in un momento in cui la democrazia è già in crisi. Se vogliamo affrontare queste sfide urgenti – controllo tecnocratico, catastrofe climatica e disuguaglianza economica – dobbiamo vedere come sono intrecciate. Mostrare queste connessioni è una sfida, e volevamo affrontarla utilizzando un formato visivo. Il progetto si chiama Calculating Empires: A Genealogy of Technology and Power, 1500-2025. Questa mostra è incentrata su un'enorme visualizzazione che ho progettato con Vladan Joler, mio collaboratore di lunga data, per abbracciare cinque secoli. Come in un dettagliato diagramma a circuito, abbiamo mappato i percorsi del potere imperialista attraverso molti sistemi: colonialismo, militarizzazione e automazione. Vedendo come gli imperi del passato hanno fatto i loro calcoli, speriamo che i visitatori siano in grado di calcolare meglio i costi dei nostri attuali imperi tecnologici.
SCARICA E LEGGI IL NUMERO 48 DI MATERIA RINNOVABILE: AI & TECH
Questo articolo è disponibile anche in inglese / This article is also available in English
Immagine di copertina tratta dal progetto Calculating Empires: A Genealogy of Technology and Power, 1500–2025 di Kate Crawford e Vladan Joler, in mostra alla Fondazione Prada di Milano