di Gioacchino Toni

La trasformazione tecnologico-comunicativa in atto sta conducendo a quella condizione che Luciano Floridi1 ha definito “onlife”, in cui diviene sempre più difficile distinguere tra esperienza online e offline: «siamo probabilmente l’ultima generazione a sperimentare una chiara differenza tra offline e online» Luciano Floridi2. Una società che si trova in tale situazione potrebbe essere indicata, secondo tale studioso,  come “la società delle mangrovie”, un ecosistema tropicale che si sviluppa ove l’acqua dolce del fiume incontra quella salta del mare.

«Ora immaginate di essere in immersione e qualcuno vi chiede: “l’acqua è salata o dolce?”. La risposta è che: “Mio caro, non sai dove siamo. Questa è la Società delle Mangrovie. È sia dolce che salata. È acqua salmastra”. Quindi immagina che qualcuno ti chieda oggi: “Sei online o offline?”. La risposta è: “Mio caro, non hai idea di dove ti trovi. Siamo in entrambi”»3.

In una situazione indefinibile come quella tratteggiata da Floridi, non deve essere pensata come del tutto fantascientifica la possibilità che diventi possibile leggere il pensiero di un essere umano senza nemmeno averne ottenuto un consenso consapevole. Di questa possibilità si occupa la parte finale del volume di Mirko Daniel Garasic, Leviatano 4.0. Politica delle nuove tecnologie (Luiss University Press, 2022), di cui ci si è occupati in precedenza [su Carmilla].

Lo studioso inizia con il tratteggiare l’interfaccia cervello-computer (ICC), «un sistema di comunicazione diretto, a volte bidirezionale, tra il cervello e un computer o un dispositivo esterno, che non implica stimolazione muscolare e che nel corso degli ultimi anni si è affermato prepotentemente per soggetti con disabilità motorie» (p. 122). Nel ricorso che viene fatto nei sistemi terapeutici si tratta di un sistema volto a decodificare l’attività neuronale del paziente permettendogli di agire sulla realtà attraverso periferiche meccaniche (protesi).

Sono diversi i sistemi con cui si opera al fine di stabilire un collegamento diretto tra computer e cervello di individui con gravi disabilità motorie. Al di là dell’ambito sanitario, ultimamente le ricerche sull’ICC si sono rivolte al controllo della Realtà Virtuale, all’universo videoludico, al comando di robot umanoidi ma anche alla rilevazione delle menzogne o della sonnolenza in un ottica spesso votata a logiche prestazionali lavorative.

Tra le imprese che maggiormente hanno investito nelle ricerche sull’ICC si segnala la società di neurotecnologia Neuralink, fondata nel 2017 da quell’Elon Musk che si è appena accaparrato Twitter e la sua banca dati di profanazione utenti. L’azienda è particolarmente interessata a creare impianti cerebrali in grado di collegare il cervello ai sistemi di Intelligenza artificiale. Stando alle dichiarazioni dei suoi vertici, la Neuralink sarà presto in grado di utilizzare chip impiantati nel cervello al fine di curare le malattie neurodegenerative e permettere al cervello umano di connettersi a interfacce intelligenti extracorporee (smartphone, computer, arti meccanici ecc.).

Rispetto ad altre aziende che si occupano da tempo di ICC in ambito medico-assitenziale, videoludico o di guida automatica, la ditta di Musk si differenzierebbe per la possibilità di procedere alla difficile applicazione del chip nel cranio umano per la cura della patologie degenerative attraverso procedure eseguite meccanicamente da un sistema robotico di estrema precisione che consentirebbe alla Neuralink una vasta commercializzazione del prodotto.

Al di là degli entusiasmi aziendali – utili anche all’emotività borsistica – restano, ad oggi, alcuni limiti non ancora valicabili: non si è al momento in grado di stabilire una comunicazione che possa dirsi del tutto bidirezionale con un sistema di intelligenza artificiale attraverso un “cervello potenziato” ed inoltre è ancora decisamente carente la conoscenza di come i neuroni comunichino e si scambino informazioni.

Oltre a Neuralink, anche Facebook da tempo sta lavorando alla “lettura della mente” con l’obiettivo di poter arrivare alla trasmissione di messaggi senza ricorrere a tastiere. «La possibilità che gli sviluppatori tecnologici di Elon Musk, Facebook o altre aziende si concretizzino a breve termine è un’incognita, anche se la comunità scientifica nutre molti dubbi sullo stato dell’arte delle tecnologie dell’ICC. In ogni caso, la realtà è che le aziende tecnologiche stanno cominciando a interessarsi alle neurotecnologie» (p. 127).

Al di la dei sogni più o meno fantascientifici, la portata degli sviluppi in tali ambiti pone con urgenza interrogativi circa la loro ricaduta in termini di mutamenti antropologici dell’essere umano, di superamento della privacy e di un’inedita apertura della mente al mondo esterno che rischia di far perdere «l’ultima isola di libertà che a molti rimane» (p. 128).

Secondo un articolo pubblicato su “Nature”4 pubblicato da un gruppo composto da neuroscienziati, esperti di intelligenza artificiale e studiosi di questioni etiche, le preoccupazioni principali andrebbero focalizzate sulle modalità con cui l’identità dell’individuo potrà essere messa in gioco dalle neurotecnologie attraverso l’ibridazione essere umano-IA delle macchine, sulla possibilità che si giunga ad ottenere “esseri umani potenziati” nella loro capacità di interazione con l’intelligenza artificiale in maniera diretta (dando luogo a divari e nuove discriminazioni), sul fatto che tali tecnologie vengono sviluppate secondo logiche tutt’altro che imparziali e sulla questione della privacy, cioè «capire quanto l’apertura a tecnologie in grado di intercettare i nostri pensieri necessiti di un’attenzione davvero elevata» (p. 129).

A tutto ciò si aggiunga la vendita, l’uso e il trasferimento dei dati neurali al di là dei motivi per cui sono stati inizialmente raccolti e per cui si è dato il consenso informato. Si etra così nell’inquietante campo del neuromarketing che rappresenta un

ulteriore livello di invasività attraverso la lettura dei nostri comportamenti a partire da come si palesano nel nostro corpo e nella nostra mente. Chiave del processo di acquisizione dei nostri desideri e inclinazioni […] è intercettarli il prima possibile. Più a monte la mente è stimolata, meno schermature e protezioni (date dalla razionalità) ci sono. Alla base del neuromarketing, vi è la tecnologia cognitiva o tecnologia correlata alla cognizione, un termine che copre un ampio sottoinsieme di tecnologie che assistono, aumentano o simulano processi cognitivi o che, come visto con le ICC, possono essere utilizzate per ottenere alcuni obiettivi cognitivi specifici (pp. 129-130).

Se il marketing si è sempre interessato al funzionamento del cervello umano a scopo di comprendere su quali meccanismi fare leva per indurre al consumo, le neuroscienze possono essergli di grande aiuto ed è proprio dalla sinergia tra ricerche di mercato e neuroscienze che si sono gettate le basi per il neuromarketing che intende «osservare le informazioni alla base dei processi interni al cervello dei consumatori che riflettono le loro preferenze, scelte e comportamenti» (p. 131). Attraverso applicazioni neurotecnologiche diviene possibile «condurre misurazioni continue del cervello e dell’attività del corpo mentre si prende la decisione di acquisto, si guarda la pubblicità o si partecipa ad altri processi legati al consumo» (p. 131).

Oltre alla “scansione” dei meccanismi che muovono i desideri e l’agire del consumatore, ad interessare alle aziende è però, in fin dei conti, indurre all’acquisto del proprio prodotto. «L’aggregazione di dati biomedici e misurazioni dell’attività cerebrale possono consentire di stabilire relazioni causali che in futuro potranno essere utilizzate come guida dai professionisti del marketing per costruire le loro campagne pubblicitarie o dai produttori per essere precisi nella promozione di un prodotto specifico» (p 133).

Per poter analizzare e “tenere sotto controllo” il funzionamento del cervello umano occorre, prima di procedere con gli esperimenti sulle “cavie umane”, ottenere il consenso informato, ma ciò di certo non tutela i soggetti che si prestano alle rilevazioni dall’uso che si faranno di esse al di là dell’interesse iniziale. Se a tutto ciò che ancora sembra fantascientifico si aggiungono i più che reali e presenti sistemi di rilevamento delle emozioni attraverso intelligenza artificiale – a cui magari si è sottoposti obbligatoriamente se si vuole accedere ad alcuni aeroporti – e i dati condivisi sui social media, ecco allora che inizia ad emergere con maggior chiarezza come si sia davvero sempre più in balia di tecnologie cognitive e le martellanti richieste circa l’accettazione o meno dei cookies durante la navigazione sul Web danno un po’ l’impressione di trovarsi armati di secchiello su una nave in balia delle onde che imbarca acqua da tutte le parti.

Rischiamo di entrare in maniera sempre più invasiva in un’era in cui le aziende a scopo di lucro possano giocare sulle nostre emozioni, avendo accesso a queste tecnologie legate ai media e targetizzandoci in base al nostro umore del momento. Questo timore è particolarmente pressante per via della velocità vertiginosa con cui questi mutamenti di neuromarketing si stanno affermando nella nostra società. Ormai non sono più solo le telecamere nelle strade che possono alimentare algoritmi e macchine con i nostri dati per generare approcci di marketing più personalizzati e precisi, ma anche i messaggi che scriviamo, le foto e i video che vengono postati o inviati: tutto ciò può attivare un’offerta immediata da parte di coloro che sono in grado di elaborare i nostri dati biometrici e classificarli come potenziale cliente arrabbiato o felice, triste o depresso (p. 135).

Se in Minority Report (2002) di Steven Spielberg – liberamente tratto dall’omonimo racconto di Philip K. Dick – gli spot pubblicitari nei centri commerciali si modificano in base alle pupille dei protagonisti, nel nostro mondo “reale”, ricorda Garasic, alcuni centri commerciali asiatici hanno iniziato ad introdurre pubblicità personalizzate in base a chi si trova in quel momento davanti agli schermi intelligenti… e tale intelligenza, puntualizza lo studioso, «deriva dalla quantità enorme di dati su di noi in loro possesso» (p. 136).


Su Carmilla – Serie completa Culture e pratiche di sorveglianza


  1. Cfr. Luciano Floridi (editor), The Onlife Manifesto. Being Human in a Hyperconnected Era[Pdf]

  2. Luciano Floridi, Ethics after the Information Revolution, in The Cambridge Handbook of Information and Computer Ethics, Cambridge University Press, Oxford-New York, 2010, p. 11. 

  3. Luciano Floridi, “TheWebConference”, Lione, 2018. 

  4. Willett, F.R., Avansino, D.T., Hochberg, L.R. et al., High-performance brain-to-text communication via handwriting, in “Nature” 593, 249–254 (2021). Link.  

Share