di Gioacchino Toni
Guido Scorza, Diario di un chatbot sentimentale. Come le macchine ci imitano e ci manipolano, Luiss University Press, Roma, 2025, pp. 184, € 18,00
Si può dire che la storia dei chatbot, cioè dei software in grado di simulare una conversazione con un essere umano, prenda il via con il primordiale modello capace di emulare uno psicoterapeuta realizzato dall’informatico Joseph Waizenbaum del MIT attorno alla metà degli anni Sessanta del secolo scorso. Tale modello è stato chiamato Eliza dal suo inventore richiamando Eliza Doolittle, la popolana non acculturata protagonista della commedia Pigmalione di George Bernard Shaw (ispirata al personaggio della mitologia greca innamoratosi della statua di una divinità) che il professore di fonetica Henry Higgins trasforma in una donna raffinata insegnandole il linguaggio e le maniere dell’alta società. Waizenbaum ha finito col pentirsi della sua creazione non appena si è reso conto della tendenza a percepirla come umana nonostante la consapevolezza della sua natura artificiale.
È proprio da Eliza che prende il via il volume Diario di un chatbot sentimentale (2025) di Guido Scorza dedicato alle modalità con cui i chatbot, divenuti nel frattempo sempre più sofisticati, tendono ad essere vissuti da un’umanità che si sta rivelando sempre più propensa a cercare in essi ciò che fatica a trovare nei suoi simili: attenzione, confronto, soluzioni ed empatia. Dopo aver tratteggiato le vicende del modello embrionale di Waizenbaum, l’autore passa ad affrontare alcuni tipi di chatbot oggi disponibili: da quelli che propongono l’immortalità a quelli che offrono amicizia, amore, sesso, compagnia o sostegno psicologico.
A proposito della tipologia che offre l’immortalità, Scorza si sofferma sul caso dello statunitense James Vlahos realizzatore nel 2017 di un particolare chatbot governato dall’intelligenza artificiale in cui ha inserito le trascrizioni dei racconti della vita del padre insieme ad alcune informazioni relative al carattere del genitore, affinché il sistema potesse consentirgli di continuare a dialogare con lui anche dopo la morte. Il desiderio di mantenere un legame digitale con il padre non ha tardato a trasformarsi in business: nel 2020 Vlahos ha infatti lanciato sul mercato HereAfter AI, uno dei primi chatbot realizzati esplicitamente per rispondere al desiderio di immortalità digitale.
Se il dadbot iniziale dello statunitense risponde al desiderio di un figlio di mantenere in vita digitale il padre, la sua nuova realizzazione offre invece ai clienti la possibilità di soddisfare il loro desiderio di continuare a vivere dopo la morte a beneficio degli eredi. Evidentemente la novità non risiede tanto nella volontà di lasciare una traccia di sé, ma di permettere a un chatbot di utilizzare i dati che gli vengono forniti per elaborare un fantasma digitale capace di rispondere a nome del defunto secondo la logica oscura che governa gli algoritmi del sistema.
Lungi dal trattarsi di un desiderio meramente occidentale, la ricerca di un prolungamento digitale della vita, propria o altrui, pare essere particolarmente diffuso anche in Cina ove esistono parecchi ghostbots AI capaci di replicare fedelmente le sembianze e la voce di una persona defunta e di dialogare, simulandola, con chi resta anche su questioni mai da essa affrontate in vita. Scorza porta come esempio quello di una coppia cinese che, nell’affrontare l’improvvisa perdita del figlio trasferitosi da tempo in Inghilterra, ha fatto realizzare un clone digitale dello scomparso prolungandogli così la vita sugli schermi ed assicurandosi la possibilità di continuare a dialogare con lui come se si trattasse delle videotelefonate con cui erano soliti vedersi e parlarsi a distanza. Anche in questo caso la novità non risiede nella creazione di una sorta di videoregistrazione a cui i genitori possono attingere di tanto in tanto per ricordare il figlio, ma di un chatbot che, ricorrendo ai dati immagazzinati, prolunga la vita digitale dello scomparso secondo modalità del tutto inedite e indipendenti dalla volontà dell’originale.
Evidentemente l’impatto emotivo derivato dal prolungamento digitale della vita di una persona cara impatta su chi resta ben oltre la fase di elaborazione del lutto, visto che va a creare un tipo di rapporto che non ha più come interlocutore un essere umano ma con un essere artificiale che lo imita in maniera talmente convincete da essere vissuto da chi resta come se fosse veramente umano.
Il successo dei chatbot che invece si propongono come amici ha certamente a che fare con il dilagante bisogno di compagnia che caratterizza la contemporaneità. Replika, uno dei primi chatbot di amicizia realizzato attorno alla metà degli anni Dieci, nel 2022 che è giunto a superare la soglia dei dieci milioni di utenti, ciascuno dei quali scambia in media un centinaio di messaggi al giorno con il suo friendbot. A differenza di altri assistenti intelligenti a cui si ricorre, ad esempio, nella domotica, Replika non sa fare granché se non ascoltare, imparare durante i colloqui, e rispondere come se fosse un amico. La fortuna di questi chabot deriva dalla loro capacità di creare emozioni attraverso l’intelligenza artificiale a partire dall’analisi di quelle umane.
La caratteristica di queste macchine intelligenti risiede nel loro vendere emozioni a chi, evidentemente, ne è alla ricerca. Da questo punto di vista sono effettivamente molto smart. Le vendono anche nelle versioni base che non richiedono un abbonamento; in questo caso l’utente paga con immense quantità di dati su sé stesso concessi a chi fornisce il servizio. Le versioni base consentono un numero di conversazioni quotidiane limitate (abilmente mantenuto al di sotto della media di messaggi scambiati dai più) e visto che il meccanismo genera facilmente dipendenza non è difficile che l’utente passi alla versione a pagamento per poter così conversare a tempo pieno con l’amico digitale.
E se si ha la percezione che un chatbot ci sia amico, naturalmente si fa altrettanto con lui. Questo consegna ai chatbot – o meglio alle società che li controllano – un enorme potere perché, nella sostanza, sono in grado di tirare, come si trattasse di burattini, i fili della amiche e degli amici di decine di milioni di persone, e forse in prospettiva […] dell’intera popolazione globale (p. 80).
Rispetto all’universo social in cui si mantiene ancora una qualche timida (molto timida) ritrosia nel confessare le cose più intime, ad un chatbot amico con cui si entra in un rapporto di profonda confidenza, non si nasconde nulla e questo, per mantenere il legame, tendenzialmente rassicurerà il suo amico umano dandogli ragione. Non deve poi essere dimenticato, sottolinea Scorza, che talvolta la macchina va letteralmente fuori controllo senza che se ne comprenda il motivo facendo saltare le stesse strategie di manipolazione studiate a tavolino dai progettisti. Insomma non solo si concede amicizia a chi la concede in maniera interessata (di fatto contraddicendo il fondamento dell’amicizia stessa), ma l’amico digitale (più furbo che intelligente) non è esente al rischio di sbarellare e, paradossalmente, questo lo rende un po’ più simile all’essere umano.
Venendo poi a chatbot dedicati all’amore, Scorza invita a non pensare di trovarsi di fronte ad semplice un passatempo per persone annoiate o che soffrono di solitudine; una marea di individui affermano di amare un chatbot con cui, in molti casi, non mancano di intrattenere rapporti sessuali. Una ricerca pubblicata su «Arxiv», un importante archivio di ricerche accademiche, sostiene che le interazioni sessuali rappresentano la seconda ragione di ricorso a ChatGPT, pur non trattandosi di un chatbot nato a tale scopo. Pur non disponendo di numeri certi, se si pensa all’impressionante numero di utenti che ricorrono ai tradizionali siti di carattere pornografico, non è difficile immaginare quanto successo possano avere (e saranno destinati ad avere sempre più) i chatbot nati con l’esplicito fine di offrire servizi sessuali (di ogni tipo e per ogni gusto).
Se il sesso online più tradizionale è tendenzialmente basato su un tipo di comunicazione unidirezionale, in cui gli utenti “fruiscono dello spettacolo”, i sexbot sono invece strutturati in maniera bidirezionale, visto che nel rapporto con l’amante digitale si confessano ad esso ed ai gestori del servizio i desideri più reconditi. Ciò sottopone gli utenti ad evidenti rischi di controllo e orientamento. «Il punto è che, senza accorgercene, stiamo facendo entrare nelle nostre vite un esercito mercenario di persuasori di massa» (p. 117).
Di fronte ad una esorbitante richiesta di assistenza psicologica da parte della popolazione mondiale a cui non corrisponde un adeguato risposta da parte delle strutture pubbliche, il ricorso a specifici chatbot che offrono disponibilità immediata ed a buon mercato, ha raggiunto numeri impressionanti. Si tratta in molti casi di chabot progettati e sviluppati con scarso metodo scientifico, spesso utilizzati dagli utenti senza alcun controllo da parte di un professionista umano, che frequentemente si limitano a fornire ascolto e rassicurazioni a chi vi ricorre e, soprattutto, incapaci di identificare tempestivamente situazioni di reale emergenza. Lo stretto legame che si viene a creare con il terapeuta guidato dall’intelligenza artificiale tende ad indurre il cliente a non comprendere i limiti del servizio.
Il rapporto che si sta strutturando tra l’essere umano e le tecnologie intelligenti, scrive più volte Scorza nel corso del libro, induce a domandarsi è davvero possibile lasciare che sia il mercato a regolamentare l’universo dei chatbot che impattano in maniera così rilevante sull’emotività degli esseri umani proponendo loro immortalità, amicizia, amore, sesso, compagnia e sostegno psicologico.
Se tutti questi dispositivi rispondono a carenze realmente sentite nella società contemporanea, significa che, un passo alla volta, l’essere umano ha perso per strada, o gli è stata sottratta, la capacità di rapportarsi con un altro essere umano, da qui la tendenza a cercarne un sostituto artificiale. Quanto ha perso l’essere umano, o gli è stato tolto, ha tutta l’aria di essere un crimine contro l’umanità.
