di Gioacchino Toni

L’intelligenza artificiale può sembrare una forza spettrale, come un calcolo disincarnato, ma questi sistemi sono tutt’altro che astratti. Sono infrastrutture fisiche che stanno rimodellando la Terra, modificando contemporaneamente il modo in cui vediamo e comprendiamo il mondo (Kate Crawford)

Solitamente quando si parla di IA ci si concentra sul suo aspetto tecnico, sugli algoritmi e sulle sue potenzialità in termini prestazionali, eventualmente, se proprio non si tratta di narrazioni apologetiche, si pone l’accento sul suo esercitare un dominio di natura tecnica. C’è però un altro lato dell’IA che viene solitamente rimosso, una sorta di dark side tenuto nell’ombra che ha a che fare con le risorse naturali, i combustibili, il lavoro umano, le infrastrutture, la logistica, la produzione dell’IA e le forze economiche, politiche e culturali che la modellano.

Nonostante lo storytelling dominante insista nel presentare l’IA ricorrendo a immagini bluastre con codici binari e cervelli luminosi fluttuanti in una sorta di spazio inconsistente, dunque come a qualcosa di immateriale, non mancano analisi che la riconducono alla cruda materialità dell’approvvigionamento e dello sfruttamento delle risorse energetiche e minerarie e del lavoro umano.

Ad esempio, Antonio A. Casilli, Schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo? (Feltrinelli, 2020) e Phil Jones, Work Without the Worker. Labour in the Age of Platform Capitalism (Verso Books, 2021), piuttosto che guardare all’IA come a un sostituto della forza lavoro umana preferiscono sottolineare come in realtà il ricorso a quest’ultima non venga affatto meno, come si deduce verificando le modalità con cui l’accumulazione dei dati si converte non solo in una forma di lavoro sottopagato – come nel caso di chi è impiegato nelle grandi piattaforme digitali nel passare in rassegna i commenti degli utenti, classificare l’informazione e preparare i dati utili agli algoritmi – ma persino non retribuito, quando a compierlo sono gli utenti/consumatori stessi.

Altri studiosi si sono concentrati soprattutto sull’approvvigionamento e sullo sfruttamento delle risorse energetiche e minerarie messo in atto dal sistema IA. Testi importanti in tale senso sono stati realizzati da Jussi Parikka, A Geology of Media, (‎University of Minnesota Press 2015), e da Kate Crawford, Né artificiale né intelligente. Il lato oscuro dell’IA (Il Mulino, 2021), che a proposito di IA scrive:

L’intelligenza artificiale non è una tecnica computazionale oggettiva, universale o neutrale che prende decisioni in assenza di istruzioni umane. I suoi sistemi sono incorporati nel mondo sociale, politico, culturale ed economico, plasmati da esseri umani, da istituzioni e da imperativi che determinano ciò che gli uomini fanno e come lo fanno. Sono progettati per discriminare, amplificare le gerarchie e codificare classificazioni rigorose […] possono riprodurre, ottimizzare e amplificare le diseguaglianze strutturalmente esistenti [I sistemi IA] sono espressioni di potere che discendono da forze economiche e politiche più ampie, creati per aumentare i profitti e centralizzare il controllo nelle mani di coloro che li detengono. Ma non è così che di solito viene raccontata la storia dell’intelligenza artificiale (p. 243).

Il volume della Crawford prende il via dalle miniere di litio del Nevada per affrontare la politica estrattiva dell’IA, la sua domanda di terre rare, di energia in quantità ricavata soprattutto da petrolio e carbone. «I minerali sono la spina dorsale dell’IA, ma la sua linfa vitale rimane l’energia elettrica» (p. 49); non a caso i data center sono tra i maggiori consumatori di energia elettrica. Se si pensa che l’industria cinese dei data center ricava attualmente oltre il 70% della sua energia dal carbone, non è difficile immaginare l’impatto ambientale che ne deriva. Tenendo conto che si prevede nel giro di pochi anni un incremento di circa due terzi  del fabbisogno energetico dell’infrastruttura cinese dei data center, ci si rende conto dell’impatto ecologico che andrà ad avere quello che viene solitamente descritto come un sistema dematerializzato.

L’infrastruttura su cui opera e di cui necessita l’IA si intreccia con la logistica, settore dall’elevato livello di sfruttamento lavorativo, e con il trasporto operato dalle navi mercantili, responsabili di oltre il 3% delle emissioni globali di anidride carbonica annue. Come non bastasse, ogni anno, ricorda la studiosa, migliaia di container, non di rado contenenti sostanze tossiche, sprofondano negli oceani o si perdono alla deriva.

Crawford si sofferma sui lavoratori digitali sottopagati, passando dai magazzini di Amazon, in cui la forza lavoro è costretta a tenere il tempo dettato dagli algoritmi che gestiscono l’architettura logistica del colosso, e dalle linee di macellazione di Chicago ove l’IA è utilizzata per incrementare il livello di sorveglianza e controllo di chi vi lavora. Se un interrogativo ricorrente circa l’IA riguarda l’entità della sostituzione del lavoro umano con robot, Crawford preferisce indagare su «come gli esseri umani vengano sempre più trattati dai robot e su cosa questo significhi per il ruolo del lavoro» (p. 68).

Poco si parla dei bassissimi compensi elargiti nell’ambito della costruzione, del mantenimento e delle operazioni volte a testare il funzionamento dell’IA.

Questo lavoro invisibile assume molte forme: lavoro nella catena di approvvigionamento, lavoro on-demand e tradizionali mansioni del settore dei servizi. Esistono forme di sfruttamento in tutte le fasi del processo dell’IA, dal settore minerario, dove le risorse vengono estratte e trasportate per creare l’infrastruttura centrale dei sistemi di IA, al software, dove la forza lavoro distribuita viene pagata pochi spiccioli per unità di lavoro o microtask. [Si pensi inoltre ai] compiti digitali ripetitivi alla base dei sistemi di intelligenza artificiale, come l’etichettatura di migliaia di ore di dati di training e la revisione di contenuti sospetti o dannosi (p. 75).

Tutto questo lavoro è pagato pochissimo, così come è bassa la paga di chi deve moderare i contenuti postati dagli utenti sulle piattaforme online, mansione che, secondo diversi studi, può causare traumi psicologici profondi e duraturi.

Dopo aver preso in esame i dati e le pratiche di classificazione, che tendenzialmente rafforzano gerarchie e iniquità, utilizzate dai sistemi IA, la studiosa ricostruisce puntualmente la genesi del controverso modello elaborato dallo psicologo statunitense Paul Ekman, il “Facial Action Coding System”, con cui pretenderebbe di poter individuare un ristretto insieme di stati emotivi universali leggibili sul volto umano. Si tratta di studi che se hanno da un lato destato grandi perplessità in ambito scientifico, hanno invece prontamente incontrato l’interesse delle agenzie antiterrorismo operanti negli aeroporti statunitensi ed hanno ispirato la serie televisiva Lie to Me (Fox 2009-2011) la cui supervisione scientifica è stata affidata allo stesso Ekman. [su Carmilla]

Una volta analizzate le modalità con cui, a partire dalle interconnessioni tra il settore tecnologico e quello militare, i sistemi IA vengono utilizzati come strumento del potere statale, la studiosa si sofferma su come l’IA operi come struttura di potere in cui si intrecciano elementi infrastrutturali, capitale e lavoro. Dalla gestione degli autisti di Uber, alla caccia all’immigrato irregolare, fino al riconoscimento facciale nei quartieri popolari, emerge come i sistemi IA siano strutturati con le logiche del capitale, della polizia e della militarizzazione, una combinazione che incrementa ulteriormente le asimmetrie di potere esistenti.

Di fronte a un quadro così desolante, resta la convinzione in Crawfrod che tali logiche possono comunque essere messe in discussione così come possono essere contrastati i sistemi che perpetuano l’oppressione.


Su Carmilla – Serie completa Culture e pratiche di sorveglianza

Share