La trasformazione tecnologico-comunicativa in atto sta conducendo a quella condizione che Luciano Floridi1 ha definito “onlife”, in cui diviene sempre più difficile distinguere tra esperienza online e offline: «siamo probabilmente l’ultima generazione a sperimentare una chiara differenza tra offline e online» Luciano Floridi2. Una società che si trova in tale situazione potrebbe essere indicata, secondo [...]]]> di Gioacchino Toni

La trasformazione tecnologico-comunicativa in atto sta conducendo a quella condizione che Luciano Floridi¹ ha definito “onlife”, in cui diviene sempre più difficile distinguere tra esperienza online e offline: «siamo probabilmente l’ultima generazione a sperimentare una chiara differenza tra offline e online» Luciano Floridi². Una società che si trova in tale situazione potrebbe essere indicata, secondo tale studioso,  come “la società delle mangrovie”, un ecosistema tropicale che si sviluppa ove l’acqua dolce del fiume incontra quella salta del mare.

«Ora immaginate di essere in immersione e qualcuno vi chiede: “l’acqua è salata o dolce?”. La risposta è che: “Mio caro, non sai dove siamo. Questa è la Società delle Mangrovie. È sia dolce che salata. È acqua salmastra”. Quindi immagina che qualcuno ti chieda oggi: “Sei online o offline?”. La risposta è: “Mio caro, non hai idea di dove ti trovi. Siamo in entrambi”»³.

In una situazione indefinibile come quella tratteggiata da Floridi, non deve essere pensata come del tutto fantascientifica la possibilità che diventi possibile leggere il pensiero di un essere umano senza nemmeno averne ottenuto un consenso consapevole. Di questa possibilità si occupa la parte finale del volume di Mirko Daniel Garasic, Leviatano 4.0. Politica delle nuove tecnologie (Luiss University Press, 2022), di cui ci si è occupati in precedenza [su Carmilla].

Lo studioso inizia con il tratteggiare l’interfaccia cervello-computer (ICC), «un sistema di comunicazione diretto, a volte bidirezionale, tra il cervello e un computer o un dispositivo esterno, che non implica stimolazione muscolare e che nel corso degli ultimi anni si è affermato prepotentemente per soggetti con disabilità motorie» (p. 122). Nel ricorso che viene fatto nei sistemi terapeutici si tratta di un sistema volto a decodificare l’attività neuronale del paziente permettendogli di agire sulla realtà attraverso periferiche meccaniche (protesi).

Sono diversi i sistemi con cui si opera al fine di stabilire un collegamento diretto tra computer e cervello di individui con gravi disabilità motorie. Al di là dell’ambito sanitario, ultimamente le ricerche sull’ICC si sono rivolte al controllo della Realtà Virtuale, all’universo videoludico, al comando di robot umanoidi ma anche alla rilevazione delle menzogne o della sonnolenza in un ottica spesso votata a logiche prestazionali lavorative.

Tra le imprese che maggiormente hanno investito nelle ricerche sull’ICC si segnala la società di neurotecnologia Neuralink, fondata nel 2017 da quell’Elon Musk che si è appena accaparrato Twitter e la sua banca dati di profanazione utenti. L’azienda è particolarmente interessata a creare impianti cerebrali in grado di collegare il cervello ai sistemi di Intelligenza artificiale. Stando alle dichiarazioni dei suoi vertici, la Neuralink sarà presto in grado di utilizzare chip impiantati nel cervello al fine di curare le malattie neurodegenerative e permettere al cervello umano di connettersi a interfacce intelligenti extracorporee (smartphone, computer, arti meccanici ecc.).

Rispetto ad altre aziende che si occupano da tempo di ICC in ambito medico-assitenziale, videoludico o di guida automatica, la ditta di Musk si differenzierebbe per la possibilità di procedere alla difficile applicazione del chip nel cranio umano per la cura della patologie degenerative attraverso procedure eseguite meccanicamente da un sistema robotico di estrema precisione che consentirebbe alla Neuralink una vasta commercializzazione del prodotto.

Al di là degli entusiasmi aziendali – utili anche all’emotività borsistica – restano, ad oggi, alcuni limiti non ancora valicabili: non si è al momento in grado di stabilire una comunicazione che possa dirsi del tutto bidirezionale con un sistema di intelligenza artificiale attraverso un “cervello potenziato” ed inoltre è ancora decisamente carente la conoscenza di come i neuroni comunichino e si scambino informazioni.

Oltre a Neuralink, anche Facebook da tempo sta lavorando alla “lettura della mente” con l’obiettivo di poter arrivare alla trasmissione di messaggi senza ricorrere a tastiere. «La possibilità che gli sviluppatori tecnologici di Elon Musk, Facebook o altre aziende si concretizzino a breve termine è un’incognita, anche se la comunità scientifica nutre molti dubbi sullo stato dell’arte delle tecnologie dell’ICC. In ogni caso, la realtà è che le aziende tecnologiche stanno cominciando a interessarsi alle neurotecnologie» (p. 127).

Al di la dei sogni più o meno fantascientifici, la portata degli sviluppi in tali ambiti pone con urgenza interrogativi circa la loro ricaduta in termini di mutamenti antropologici dell’essere umano, di superamento della privacy e di un’inedita apertura della mente al mondo esterno che rischia di far perdere «l’ultima isola di libertà che a molti rimane» (p. 128).

Secondo un articolo pubblicato su “Nature”⁴ pubblicato da un gruppo composto da neuroscienziati, esperti di intelligenza artificiale e studiosi di questioni etiche, le preoccupazioni principali andrebbero focalizzate sulle modalità con cui l’identità dell’individuo potrà essere messa in gioco dalle neurotecnologie attraverso l’ibridazione essere umano-IA delle macchine, sulla possibilità che si giunga ad ottenere “esseri umani potenziati” nella loro capacità di interazione con l’intelligenza artificiale in maniera diretta (dando luogo a divari e nuove discriminazioni), sul fatto che tali tecnologie vengono sviluppate secondo logiche tutt’altro che imparziali e sulla questione della privacy, cioè «capire quanto l’apertura a tecnologie in grado di intercettare i nostri pensieri necessiti di un’attenzione davvero elevata» (p. 129).

A tutto ciò si aggiunga la vendita, l’uso e il trasferimento dei dati neurali al di là dei motivi per cui sono stati inizialmente raccolti e per cui si è dato il consenso informato. Si etra così nell’inquietante campo del neuromarketing che rappresenta un

ulteriore livello di invasività attraverso la lettura dei nostri comportamenti a partire da come si palesano nel nostro corpo e nella nostra mente. Chiave del processo di acquisizione dei nostri desideri e inclinazioni […] è intercettarli il prima possibile. Più a monte la mente è stimolata, meno schermature e protezioni (date dalla razionalità) ci sono. Alla base del neuromarketing, vi è la tecnologia cognitiva o tecnologia correlata alla cognizione, un termine che copre un ampio sottoinsieme di tecnologie che assistono, aumentano o simulano processi cognitivi o che, come visto con le ICC, possono essere utilizzate per ottenere alcuni obiettivi cognitivi specifici (pp. 129-130).

Se il marketing si è sempre interessato al funzionamento del cervello umano a scopo di comprendere su quali meccanismi fare leva per indurre al consumo, le neuroscienze possono essergli di grande aiuto ed è proprio dalla sinergia tra ricerche di mercato e neuroscienze che si sono gettate le basi per il neuromarketing che intende «osservare le informazioni alla base dei processi interni al cervello dei consumatori che riflettono le loro preferenze, scelte e comportamenti» (p. 131). Attraverso applicazioni neurotecnologiche diviene possibile «condurre misurazioni continue del cervello e dell’attività del corpo mentre si prende la decisione di acquisto, si guarda la pubblicità o si partecipa ad altri processi legati al consumo» (p. 131).

Oltre alla “scansione” dei meccanismi che muovono i desideri e l’agire del consumatore, ad interessare alle aziende è però, in fin dei conti, indurre all’acquisto del proprio prodotto. «L’aggregazione di dati biomedici e misurazioni dell’attività cerebrale possono consentire di stabilire relazioni causali che in futuro potranno essere utilizzate come guida dai professionisti del marketing per costruire le loro campagne pubblicitarie o dai produttori per essere precisi nella promozione di un prodotto specifico» (p 133).

Per poter analizzare e “tenere sotto controllo” il funzionamento del cervello umano occorre, prima di procedere con gli esperimenti sulle “cavie umane”, ottenere il consenso informato, ma ciò di certo non tutela i soggetti che si prestano alle rilevazioni dall’uso che si faranno di esse al di là dell’interesse iniziale. Se a tutto ciò che ancora sembra fantascientifico si aggiungono i più che reali e presenti sistemi di rilevamento delle emozioni attraverso intelligenza artificiale – a cui magari si è sottoposti obbligatoriamente se si vuole accedere ad alcuni aeroporti – e i dati condivisi sui social media, ecco allora che inizia ad emergere con maggior chiarezza come si sia davvero sempre più in balia di tecnologie cognitive e le martellanti richieste circa l’accettazione o meno dei cookies durante la navigazione sul Web danno un po’ l’impressione di trovarsi armati di secchiello su una nave in balia delle onde che imbarca acqua da tutte le parti.

Rischiamo di entrare in maniera sempre più invasiva in un’era in cui le aziende a scopo di lucro possano giocare sulle nostre emozioni, avendo accesso a queste tecnologie legate ai media e targetizzandoci in base al nostro umore del momento. Questo timore è particolarmente pressante per via della velocità vertiginosa con cui questi mutamenti di neuromarketing si stanno affermando nella nostra società. Ormai non sono più solo le telecamere nelle strade che possono alimentare algoritmi e macchine con i nostri dati per generare approcci di marketing più personalizzati e precisi, ma anche i messaggi che scriviamo, le foto e i video che vengono postati o inviati: tutto ciò può attivare un’offerta immediata da parte di coloro che sono in grado di elaborare i nostri dati biometrici e classificarli come potenziale cliente arrabbiato o felice, triste o depresso (p. 135).

Se in Minority Report (2002) di Steven Spielberg – liberamente tratto dall’omonimo racconto di Philip K. Dick – gli spot pubblicitari nei centri commerciali si modificano in base alle pupille dei protagonisti, nel nostro mondo “reale”, ricorda Garasic, alcuni centri commerciali asiatici hanno iniziato ad introdurre pubblicità personalizzate in base a chi si trova in quel momento davanti agli schermi intelligenti… e tale intelligenza, puntualizza lo studioso, «deriva dalla quantità enorme di dati su di noi in loro possesso» (p. 136).

Su Carmilla – Serie completa Culture e pratiche di sorveglianza

1. Cfr. Luciano Floridi (editor), The Onlife Manifesto. Being Human in a Hyperconnected Era – [Pdf]. ↩

2. Luciano Floridi, Ethics after the Information Revolution, in The Cambridge Handbook of Information and Computer Ethics, Cambridge University Press, Oxford-New York, 2010, p. 11. ↩

3. Luciano Floridi, “TheWebConference”, Lione, 2018. ↩

4. Willett, F.R., Avansino, D.T., Hochberg, L.R. et al., High-performance brain-to-text communication via handwriting, in “Nature” 593, 249–254 (2021). Link.  ↩

Digitalizzazione, intelligenza artificiale e tutto ciò che vi ruota attorno prospettano mondi nuovi che però non mancano di rifarsi a dinamiche di potere non necessariamente nuove, su ciò si concentra il volume di Mirko Daniel Garasic, Leviatano 4.0. Politica delle nuove tecnologie (Luiss University Press, 2022). Accolte come possibilità di estrema valorizzazione dell’autonomia e delle opportunità degli individui, capaci di aprire loro inedite possibilità di interfacciarsi con contesti, realtà, paesi e individualità altre, a distanza di tempo gli entusiasmi per queste trasformazioni digitali sembrano essersi sgonfiati di fronte al manifestarsi [...]]]> di Gioacchino Toni

Digitalizzazione, intelligenza artificiale e tutto ciò che vi ruota attorno prospettano mondi nuovi che però non mancano di rifarsi a dinamiche di potere non necessariamente nuove, su ciò si concentra il volume di Mirko Daniel Garasic, Leviatano 4.0. Politica delle nuove tecnologie (Luiss University Press, 2022). Accolte come possibilità di estrema valorizzazione dell’autonomia e delle opportunità degli individui, capaci di aprire loro inedite possibilità di interfacciarsi con contesti, realtà, paesi e individualità altre, a distanza di tempo gli entusiasmi per queste trasformazioni digitali sembrano essersi sgonfiati di fronte al manifestarsi di una crescente perdita di ciò a cui si guardava come direttamente rappresentativo della libertà e dell’autonomia dell’individuo. Se tale “cambio di umore” nei confronti della rivoluzione digitale è percepibile tra gli studiosi, non si può forse dire che qualcosa di analogo accada a livello diffuso o che, perlomeno sin qua, sia adeguatamente percepita e problematizzata la portata della trasformazione in atto.

L’obiettivo che si pone l’analisi di Garasic è quello di «integrare gradualmente l’analisi della tecnologia in maniera “neutra”, incentrata quindi su valutazioni oggettive di impatto e uso delle stesse, con la presa di coscienza di come questi cambiamenti sistematici abbiano finito per modificare il modo di relazionarsi con gli altri (la polis) e con sé stessi» (p. 26).

Dopo aver velocemente passato in rassegna le ideologie classiche a cui fa o ha fatto riferimento la politica moderna, compresa la più recente, lo studioso approfondisce il ruolo che algoritmi, tecnologie ed applicazioni quali robot, droni, 5G, Internet of Things, Blockchain, ecc., hanno ed avranno non solo sulle dinamiche lavorative e politiche, ma anche a livello etico e antropologico.

Garasic si sofferma, come esempio, sull’estensione , in piena emergenza pandemica, del “raggio d’azione” della app Dreamlab di Vodafone, sino ad allora utilizzata per raccogliere dati durante il sonno dei clienti affetti da cancro (che ne avevano dato i consenso) utili, se combinati con altri parametri comportamentali (stile di vita, sedentarietà, abitudini alimentari) alla ricerca scientifica.

Il rapido “riciclo” di una app, come questa, pianificata per raccogliere informazioni riguardanti individui in condizione di malattia al fine di verificare l’incidenza di certi comportamenti su di essa ad uno scopo di tipo “preventivo” – il diffondersi di un virus non ancora contratto – non può che sollevare numerose perplessità.

Volgiamo davvero consentire a qualsiasi azienda di iniziare a raccoglier i nostri dati solo perché potrebbero potarci a dei risultati utili in futuro? Che dire di tutti quei dati che le aziendale private raccolgono e utilizzano per il loro profitto? Non prestare attenzione a questa distanza inquietante tra ciò che già sappiamo e ciò che speriamo di trovare, potrebbe rendere il nostro consenso informato limitato sin dalla sua genesi. […] L’intento generale di Dreamlab e di altri progetti simili pare nobile da un certo punto di vista, ma, alla luce del fato che questa iniziativa è portata avanti da una società privata che si basa anche su studi di neuromarketing che hanno come obiettivo principale quello di scoprire le debolezze del consumatore, alcuni dubbi sull’obiettivo non svelato dell’esperimento (perché di questo si tratta) rimangono (p. 81).

Ad essere affrontate dal volume sono anche le cosiddette città intelligenti, a proposito delle quali l’autore mette in risalto come a fronte di una presentazione entusiastica che le vuole esempi virtuosi di ecologismo e, persino, di democrazia diretta, si diano, però, non poche preoccupazioni a proposito dell’annientamento della privacy, di un crescente divario digitale che rischia di condurre a far vivere la cittadinanza in maniera completamente differente e di discriminazioni derivanti dalla non neutralità della tecnologia. Su quanto il razzismo sia radicato in molte tecnologie, l’autore riprende il volume di Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code ‎(Polity Pr, I. ed. 2019) – il “nuovo codice Jim” richiama le leggi razziste “Jim Crow” in uso fino agli anni Sessanta del Novecento negli Stati Uniti del Sud – in cui vine mostrato il razzismo soggiacente agli algoritmi utilizzati dalle autorità pubbliche statunitensi circa la “propensione al crimine”.

In particolare nel volume si prendono in esame, oltre al “sistema di credito sociale di stato” cinese, di cui i media occidentali hanno dato conto – più in funzione propagandistica che di reale denuncia di un meccanismo che in realtà si sta diffondendo anche tra gli autoproclamati “esportatori di democrazia” –, anche sistemi utilizzati da piattaforme come Alibaba che con il suo Sesame Credit struttura un sistema di “moralizzazione dei consumi” premiante permettendo, ad esempio, i clienti che acquistano con regolarità attrezzature sportive per tenersi in forma, con “crediti” vantaggiosi nel noleggio di automobili, nella prenotazione di alberghi e persino di ascesso privilegiato negli ospedali. «Per esempio in Giappone l’assicurazione sanitaria nazionale richiede alle persone di vedere uno specialista se il girovita supera determinati parametri mentre il punteggio della Fair Isaac Coroporation (FICO) con sede negli Stati uniti fornisce analisi di credit score (che permette l’accesso o meno a mutui, prestiti, e altro) a tantissimi paesi occidentali» (p. 96).

Il volume si sofferma anche sulla complessa relazione tra corpo, tecnologia e politica. Oltre all’indagato impatto di dispositivi tecnologici separati e indipendenti dall’individuo, è infatti importante analizzare situazioni in cui tale separazione si affievolisce comportando un’inedita, quanto marcata, incidenza non solo sulla concettualizzazione del sé ma anche del più generale sistema giudiziario e politico.

Si può prendere come esempio il ricorso agli esoscheletri sui luoghi di lavoro: se da un lato è indubbio che il ricorso a tali dispositivi può comportare reali benefici sulla salute dei lavoratori e delle lavoratrici, riducendo in parte i loro sforzi fisici, dall’altro, “quel che esce dalla porta può rientrare dalla finestra” sotto forma di incremento dei ritmi produttivi. Inoltre, se l’utilizzo di dispositivi tecnologici nell’accudimento degli anziani o dei malati può alleviare le fatiche fisiche del personale sanitario, dall’altro possono anche comportare una diminuzione dei rapporti umani tra i soggetti in causa, rendendo le cure e l’accudimento sempre più spersonalizzati.

La tecnologia tende ad essere piegata all’ossessione per la prestazione che permea la contemporaneità. «Dall’economia, all’educazione, passando per il mondo lavoro, il potenziamento del livello delle nostre attività è visto, in Occidente almeno, come un obiettivo positivo e ricercato» (p. 112). Esemplare in tal senso è la ricerca prestazionale in ambito militare e non solo a proposito di protesi tecnologiche volte al miglioramento ad esempio di visione aumentata¹ ma anche al ricorso a farmaci di ogni tipo per il potenziamento performante – DDP, performance enhancing drugs – a cui sono stati sottoposti i soldati già ne corso della seconda guerra mondiale, poi gli statunitensi in Vietnam e ancora in epoca contemporanea, compresi i combattenti dell’ISIS.

Se in ambito militare il ricorso alle droghe si pone storicamente l’obiettivo di vincere la paura, sedare le truppe di ritorno dal campo di battaglia e vincere la fatica, in ambito civile è proprio a questo ultimo fine che vi viene fatto ricorso, ad esempio, in ambito aeronautico, vi si ricorre in sostanza per “far reggere” ai piloti i turni sempre più massacranti a cui sono sottoposti. Inoltre, sottolinea Garasic, se per quanto riguarda gli ambienti militari il ricorso a farmaci performanti tende ad essere giustificato in virtù della sua eccezionalità, nell’universo civile-lavorativo la motivazione risiede nel dover ottemperare quotidianamente – e non eccezionalmente – all’imperativo della prestazione produttiva finalizzata al profitto.

La portata dei cambiamenti sin qua tratteggiati comporta anche la necessità di confrontarsi con i nuovi diritti e doveri che attraversano la società contemporanea anche alla luce del fatto che «la possibilità di poter leggere il pensiero di qualcuno senza il suo consenso sta diventando ogni giorno una possibilità più concreta» (p. 28). Converrà tornare su questa ultima questione su cui si sofferma la parte finale di Leviatano 4.0.

Su Carmilla – Serie completa Culture e pratiche di sorveglianza

1. Cfr. Ruggero Eugeni, Le negoziazioni del visibile. Visioni aumentate tra guerra, media e tecnologia, in Maurizio Guerri (a cura di), Le immagini delle guerre contemporanee, Meltemi, Milano, 2018. [Su Carmilla]. ↩