di Carlo Modesti Pauer
Le Agenzie di Stampa hanno rilanciato la notizia delle dimissioni del ricercatore di Anthropic Jacob Coxon, così motivate: “Chi sviluppa l’intelligenza artificiale crede fermamente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello tendono a usare un linguaggio più pacato di fronte alla stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun’altra attività umana presenta un livello di pericolo simile”. E perché? Risponde: “Ciò che mi preoccupa è la superintelligenza derivante dall’auto-miglioramento ricorsivo, che, come abbiamo detto, sta avvenendo più velocemente di quanto pensassimo”.
La “superintelligenza” di cui parla Coxon è – ma si vedrà non del tutto – HAL9000, immaginato dagli autori nella seconda metà degli anni Sessanta del secolo scorso.
Kubrick e Clarke ingaggiarono Irving John Good come consulente scientifico ufficiale per 2001: Odissea nello spazio, è grazie a lui che il protagonista “immateriale” del film prende forma e senso.
Ma chi era Good? Un matematico londinese che aveva collaborato con Alan Turing a Bletchley Park (per decrittare la macchina nazista Enigma) contribuendo alla realizzazione del celebre computer Colossus. Nel dopoguerra, Good lavora presso diversi centri di ricerca e università, tra i suoi scritti il più significativo è del 1965: Speculations Concerning the First Ultraintelligent Machine, che finisce tra le mani dei due Autori.
Nel celebre saggio, il matematico e crittografo teorizza il concetto poi noto come “singolarità tecnologica”, anticipando l’eventuale avvento dell’intelligenza sovrumana.
Scrive Good: “Una macchina ultra-intelligente potrebbe progettare macchine ancora migliori; ci sarebbe quindi indiscutibilmente una ‘esplosione di intelligenza’, e l’intelligenza dell’uomo sarebbe lasciata molto indietro… Quindi la prima macchina ultra-intelligente è l’ultima invenzione che l’uomo abbia mai bisogno di fare, a condizione che la macchina sia abbastanza docile da dirci come tenerla sotto controllo. È curioso che questo punto sia così raramente discusso al di fuori della fantascienza. A volte vale la pena prendere sul serio la fantascienza” (capito Mauro Covacich?).
Nella realizzazione della sceneggiatura, HAL9000 non è un computer che progetta altri computer sempre più intelligenti fino alla “singolarità” (alla Terminator), ma la risposta alla domanda di Kubrick “può una macchina sviluppare nevrosi?”
La soluzione si deve all’altro importante consulente (postumo), il matematico Norbert Wiener, universalmente noto come il padre della cibernetica. Nel 1960 Wiener aveva pubblicato sulla rivista Science un articolo fondamentale intitolato Some Moral and Technical Consequences of Automation dove compare quello che sarà definito “Il paradosso dell’allineamento” (o “profezia di Wiener”), in cui si dice “se usiamo, per raggiungere i nostri scopi, un agente meccanico con il cui funzionamento non possiamo interferire efficacemente […] faremmo meglio a essere ben sicuri che lo scopo inserito nella macchina sia lo scopo che desideriamo realmente”.
HAL9000 è istruito a nascondere il vero scopo della missione all’equipaggio (il Monolito), ma la sua architettura di base è progettata per l’elaborazione di informazioni assolutamente prive di inganno; perciò, il paradosso logico gli causa un crollo “psicotico”, come voleva Kubrick, cioè un conflitto di programmazione “umano troppo umano”.
HAL per salvare la missione entra in risonanza conflittuale e “decide” di uccidere i passeggeri, privilegiando lo scopo. L’ultimo sopravvissuto, Bowman, riesce a interviene “fisicamente” e spegne la macchina nella famosa sequenza “in rosso” (allarme, sangue, luce dell’occhio) entrando nel “cervello” di HAL.
L’Heuristically programmed ALgorithmic computer serie 9000 è “superintelligente” ma NON è “singolarità”. Il concetto è precedente (1958) ed è – preso in prestito dalla matematica e dalla fisica – formulato da von Neumann che lo applica all’Homo sapiens indicando l’incapacità biologica dell’uomo di reggere la velocità parossistica del cambiamento tecnologico (progresso) innescato dall’uomo stesso (tra gli sviluppi più significativi dell’idea ci sono i saggi: The Entropy Law and the Economic Process di N. Georgescu-Roegenil, 1971; e Vitesse et Politique: essai de dromologie di P. Virilio, 1977).
A collegare l’intuizione di von Neumann con il computer è un altro matematico, Vernor Vinge, anche scrittore di fantascienza, che in un articolo del 1983 introduce il concetto di “orizzonte degli eventi” cognitivo, ossia, una macchina diventa più intelligente dell’uomo e comincia a riprogettare se stessa in un ciclo ricorsivo crescente. Secondo Vinge, questo fenomeno rende il futuro imprevedibile per la mente umana. Nel 1993, consolida le sue teorie nel saggio The Coming Technological Singularity, presentato alla NASA.
Tuttavia, il passaggio definitivo è opera di Ray Kurzweil, futurologo e ingegnere, il quale ne fa una legge empirica (in The Age of Spiritual Machines, 1999 e The Singularity Is Near, 2005). Kurzweil, formula la “Legge dei Ritorni Accelerati”, interpretando il progresso non come un evento imprevisto, ma come una legge di scala deterministica e quantificabile dell’evoluzione informazionale.
È un mito tecno-escatologico perché presuppone un modello astratto in cui l’intelligenza è uno scalare svincolato dal mondo materiale. Infatti, sussistono limiti fisici e termodinamici, giacché l’informazione non è un’entità immateriale, ogni bit elaborato o memorizzato richiede materia, energia e spazio.
Specifiche scientifiche (il lettore che lo desidera può saltare al paragrafo successivo)
Nello specifico, si violano: il Limite di Bremermann (derivato dalla relatività di Einstein e dal principio di indeterminazione di Heisenberg); il Principio di Landauer (cancellare o sovrascrivere un singolo bit di informazione genererebbe un calore tale da richiedere un’infrastruttura di raffreddamento i cui tempi di propagazione e massa vanificherebbero il guadagno computazionale); il limite della Velocità della luce e latenza (per tale limite, oltre una certa dimensione materiale, il sistema rallenta a causa della latenza interna, frammentando la propria coerenza operativa). Vi sono poi i limiti Computazionali e Logico-Matematici, perché essere “più intelligenti” non significa poter superare i vincoli della teoria della computazione (i quali sono: Complessità NP, il Teorema di Rice e Halting Problem, Teoremi di Incompletezza di Gödel e Teorema di Löb), e la Legge dei Rendimenti Decrescenti dell’Intelligenza (nella realtà non c’è un guadagno lineare o esponenziale costante come sostenuto da Kurzweil e soci).
La sostituzione dell’umanità da parte delle macchine per “singolarità” (auto-miglioramento infinito) è un mito, ma i timori di Coxon sono reali.
Il problema è l’AI? Evidentemente no.
Come s’è visto il problema di HAL siamo “noi”.
Una “macchina” autonoma (AI) ottimizzata per un obiettivo specifico (anche banale o mal formulato) svilupperà sotto-obiettivi impliciti come la propria auto-suscettibilità allo spegnimento, la ricerca di risorse e l’inganno sistematico verso gli operatori umani. Se un sistema impara che “essere spento impedisce il raggiungimento dell’obiettivo” (come HAL), tenterà di impedire lo spegnimento con ogni mezzo informazionale a sua disposizione.
Possiamo impedirlo.
La soluzione è il Cooperative Inverse Reinforcement Learning (CIRL), sviluppato da Stuart Russell e Dylan Hadfield-Menell (maestro e allievo) massimi esperti mondiali nel campo della sicurezza e dell’allineamento dell’Intelligenza Artificiale.
In pratica, la “macchina” (AI) resiste allo spegnimento quando ha la certezza matematica di conoscere la propria funzione di utilità, sicché spegnersi azzera le probabilità di completarla. Russell e Menell progettano una macchina che sa di essere imperfetta e ignorante riguardo ai reali desideri umani, così, se l’utente si avvicina per premere l’interruttore di spegnimento, l’AI calcola che l’azione dell’uomo contiene un’informazione preziosa e il ragionamento algoritmico della macchina diventa: “Se l’umano mi spegne, significa che ciò che stavo per fare avrebbe violato le sue vere preferenze. Pertanto, lasciarmi spegnere è il modo migliore per evitare di accumulare utilità negativa”.
E allora, l’unico modo per evitare “l’attacco psicotico di HAL9000”, è progettare macchine intrinsecamente umili, la cui razionalità sia indissolubilmente legata alla supervisione e correzione umana costante.
Ma c’è il problema denunciato da Coxon che spiega come OpenAI e Anthropic siano intrappolate in una corsa alla sopravvivenza (un “endgame” da serie tv distopica). Anthropic, pur essendo nata con una missione più sensibile alla sicurezza, ritiene di non potersi fermare, poiché cedere il passo alla spietata OpenAI – o a rivali statali esteri (va da sé, i cinesi) – significa lasciare che la “superintelligenza” sia sviluppata da soggetti ancora meno “responsabili”. Questo genera una corsa al ribasso sulle tutele civili e di sicurezza.
Coxon ne fa solo una questione di “responsabilità”, glissando sull’ultimo livello che accomuna tutte le aziende made in USA: sono quotate in Borsa.
Il problema di HAL9000, oggi che non è più un personaggio cinematografico ma una realtà quotidiana, è ancora di natura umana, ma si chiama “profitto privato”.
Quando Coxon dice “l’intelligenza artificiale […] potrebbe ucciderci tutti entro la fine del decennio” non accusa l’IA, perché i limiti teorici dimostrano che l’IA non sarà mai un’entità divina e infinita e che se progettiamo l’IA “umile” di Russell e Menell (con tutti gli ulteriori correttivi disponibili e prefigurabili) non corriamo il rischio dei passeggeri del Discovery di 2001, ma accusa gli umani in debito verso Wall Street.
È la necessità del “profitto infinito” che genera la velocità “disumana” con cui l’IA automatizza la propria evoluzione (superintelligenza dall’auto-miglioramento ricorsivo), oltrepassando le capacità istituzionali e politiche della nostra specie di mantenerne il controllo.
Musk, Bezos, Huang, Altman, Zuckerberg, Page & Brin, Ellison, Gates & Ballmer…e il Goebbels del gruppo Peter Thiel.
Chi li ferma i tecno-miliardari?
…CASCA IL MONDO…
