machine learning – Carmilla on line

Per una sociologia degli algoritmi. La cultura nel codice e il codice nella cultura

gioacchino toni — Fri, 01 Mar 2024 21:00:20 +0000

di Gioacchino Toni

Massimo Airoldi, Machine Habitus. Sociologia degli algoritmi, Luiss University Press, Roma 2024, pp. 178, € 21,00 edizione cartacea, € 11,99 edizione ebook

Che gli algoritmi siano strumenti di potere agenti sulla vita degli individui e delle comunità, che lo facciano in maniera del tutto opaca e che alcuni di essi siano capaci di apprendere dagli esseri umani e dai loro pregiudizi, è ormai patrimonio diffuso anche perché, in un modo o nell’altro, lo si sta sperimentando direttamente. Dalla percezione di come le macchine sembrino essere sempre più simili agli esseri umani sono sin qua derivati soprattutto studi comparativi incentrati su conoscenze, abilità e pregiudizi delle macchine oscurando quella che Massimo Airoldi ritiene essere la ragione sociologica alla radice di tale somiglianza: la cultura.

Airoldi, sociologo dei processi culturali e comunicativi, vede nella cultura – intesa come «pratiche, classificazioni, norme tacite e disposizioni associate a specifiche posizioni nella società» – «il seme che trasforma le macchine in agenti sociali»¹. La cultura nel codice è ciò che permette agli algoritmi di machine learning di affrontare la complessità delle realtà sociali come se fossero attori socializzati. Il codice è presente anche nella cultura «e la confonde attraverso interazioni tecno-sociali e distinzioni algoritmiche. Insieme agli esseri umani, le macchine contribuiscono attivamente alla riproduzione dell’ordine sociale, ossia all’incessante tracciare e ridisegnare dei confini sociali e simbolici che dividono oggettivamente e intersoggettivamente la società in porzioni diverse e diseguali»².

Visto che la vita sociale degli esseri umani è sempre più mediata da infrastrutture digitali che apprendono, elaborano e indirizzano a partire dai dati disseminati quotidianamente – più o meno volontariamente, più o meno consapevolmente – dagli utenti, secondo Airoldi occorre considerare le “macchine intelligenti”, al pari degli individui, come «agenti attivi nella realizzazione dell’ordine sociale»³, visto che «ciò che chiamiamo vita sociale non è altro che il prodotto socio-materiale di relazioni eterogenee, che coinvolgono al contempo agenti umani e non umani»⁴. Al fine di comprendere il comportamento algoritmico è perciò necessario capire come la cultura entri nel codice dei sistemi algoritmici e come essa sia a sua volta plasmata da questi ultimi.

La necessità di provvedere a una sociologia degli algoritmi deriva, secondo l’autore di Machine Habitus, dalla combinazione di due epocali trasformazioni: una di ordine quantitativo, costituita dall’inedita diffusione delle tecnologie digitali nella quotidianità individuale e sociale, e una di ordine qualitativo, inerente al livello che ha potuto raggiungere l’intelligenza artificiale grazie al machine learning permesso dai processi di datificazione digitale. «Questo cambiamento paradigmatico ha reso improvvisamente possibile l’automazione di compiti di carattere sociale e culturale, a un livello senza precedenti». Ad essere sociologicamente rilevante non è quanto accade nel “cervello artificiale” della macchina ma, puntualizza lo studioso, «ciò che quest’ultima comunica ai suoi utenti, e le conseguenze che ne derivano»⁵. I livelli raggiunti dai modelli linguistici con cui operano sistemi come ChatGpt mostrano modalità di partecipazione sempre più attive e autonome dei sistemi algoritmici nel mondo sociale destinati, con buona probabilità, ad incrementarsi ulteriormente in futuro.

Gli algoritmi possono essere sinteticamente descritti come sistemi automatizzati che, a partire dalla disponibilità e dalla rielaborazione di dati in entrata (input), producono risultati (output). Si tratta di un’evoluzione socio-tecnica che ha conosciuto diverse fasi, schematicamente così riassumibili: l’Era analogica (non digitale), che va dall’applicazione manuale degli algoritmi da parte dei matematici antichi fino alla comparsa dei computer digitali al termine della seconda guerra mondiale; l’Era digitale, sviluppatasi a partire dagli ultimi decenni del secolo scorso, che ha condotto all’archiviazione digitale delle informazioni, dunque alla loro circolazione attraverso internet e all’elaborazione automatizzata di enormi volumi di dati ponendo le premesse per la successiva evoluzione; l’Era delle piattaforme, contesto di applicazione delle macchine autonome e fonte della loro “intelligenza” attraverso il deep learning di inizio del nuovo millennio.

Se nell’era digitale la commercializzazione degli algoritmi aveva soprattutto scopi analitici, con il processo di platformizzazione questi sono divenuti a tutti gli effetti anche dispositivi operativi. Dall’effettuazione meccanica di compiti assegnati si è passati a tecnologie IA in grado di apprendere dall’esperienza datificata che funzionano come agenti sociali «che plasmano la società e ne sono a loro volta plasmati»⁶.

Mentre ad inizio millennio il discorso sociologico in buona parte guardava ai big data, ai nuovi social network e alle piattaforme streaming per certi versi limitandosi ad evidenziarne le potenzialità, in ambiti più tangenziali si ponevano le basi di quegli studi che nell’ultimo decennio hanno dato vita ai critical algorithm studies e ai critical marketing studies che hanno posto l’accento: sulla loro opera di profilazione selvaggia; sui meccanismi di indirizzo comportamentale; sullo sfruttamento di risorse naturali e manodopera; su come l’analisi automatizzata e decontestualizzata dei big data conduca a risultati imprecisi o distorti; su come la trasformazione dell’azione sociale in dati quantificati online risulti sempre più importante nel capitalismo contemporaneo; sulle modalità con cui vengono commercializzati e mitizzati gli algoritmi; su come il meccanismo di delega sempre più diffusa delle scelte umane ad algoritmi opachi restringa le libertà e agency umane e su quanto questi non si limitino a mediare ma finiscano per concorrere a costruire la realtà, assumendo un ruolo di “inconscio tecnologico”.

Alla luce dello svilupparsi di tanta letteratura critica, Airoldi motiva il suo obiettivo di costruire un framework sociologico complessivo a partire da una riflessione sul concetto di feedback loop degli algoritmi di raccomandazione tendenti alla reiterazione e all’amplificazione di pattern già presenti nei dati. Le raccomandazioni automatiche generate dagli algoritmi di una piattaforma come Amazon tendono ad indirizzare notevolmente il consumo degli utenti e siccome, allo stesso tempo, gli algoritmi analizzano le modalità di consumo, si genera un vero e proprio feedback loop. Se l’influenza della società sulla tecnologia e l’influenza di quest’ultima sulla prima procedono di pari passo, si giunge secondo lo studioso a due “quesiti sociologici”: la cultura nel codice (l’influenza della società sui sistemi algoritmici) e il codice nella cultura (l’influenza dei sistemi algoritmici sulla società).

Circa l’influenza della società sui sistemi algoritmici, lo studioso ricorda come le piattaforme “imparino” «dai discorsi e dai comportamenti datificati degli utenti, i quali portano con sé le tracce delle culture e dei contesti sociali da cui questi hanno origine»⁷; dunque derivino dalla società pregiudizi e chiusure mentali. Proporsi di “ripulire” i dati, oltre che probabilmente impossibile, non è forse nemmeno auspicabile in quanto presupporrebbe, in definitiva, un pensiero unico costruito a tavolino secondo logiche parziali.

Per quanto riguarda, invece, l’influenza dei sistemi algoritmici sulla società, basti pensare che gli algoritmi di piattaforme come Netflix ed Amazon riescono ad indirizzare circa l’80% delle “scelte” degli utenti; ciò rende l’idea di come i sistemi autonomi digitali non si limitino a mediare le esperienze digitali ma le costruiscano orientando i comportamenti e le opinioni degli utenti. «Ciò che accade dunque è che i modelli analizzano il mondo, e il mondo risponde ai modelli. Di conseguenza, le culture umane finiscono per diventare “algoritmiche”»⁸.

Spesso, sostiene Airoldi, si è insistito nel guardare le cose in maniera unidirezionale prospettando un certo determinismo tecnologico mentre in realtà diversi studi recenti dimostrano come gli output prodotti dai sistemi autonomi vengano costantemente negoziati e problematizzati dagli esseri umani. «Gli algoritmi non plasmano in maniera unidirezionale la nostra società datificata. Piuttosto, intervengono all’interno di essa, prendono parte a interazioni socio-materiali situate che coinvolgono agenti umani e non umani. Dunque il contenuto della “cultura algoritmica” è il risultato emergente di dinamiche interattive tecno-sociali»⁹.

Alla luce di quanto detto, le due questioni principali che approfondisce lo studioso in Machine Habitus riguardano le modalità con cui sono socializzati gli algoritmi e come le macchine socializzate partecipano alla società riproducendola.

Airoldi riprende il concetto di habitus elaborato da Pierre Bourdieu: «luogo dove interagiscono struttura sociale e pratica individuale, cultura e cognizione. Con i loro gesti istintivi, schemi di classificazione sedimentati e bias inconsci, gli individui non sono né naturali né unici. Piuttosto sono il “prodotto della storia”»¹⁰. Né determinata a priori, né completamente libera, «l’azione individuale emerge dall’interazione tra un “modello” cognitivo plasmato dall’habitus e gli “input” esterni provenienti dall’ambiente. Risulta evidente come un sistema automatico dipenda dalla scelta dell’habitus datificato su cui viene addestrato. «A seconda dell’insieme di correlazioni esperienziali e disposizioni stilistiche che strutturano il modello, l’algoritmo di machine learning genererà risultati probabilistici diversi. Ergo la frase di Bourdieu “il corpo è nel mondo sociale, ma il mondo sociale è nel corpo” potrebbe essere facilmente riscritta in questo modo: il codice è nel mondo sociale, ma il mondo sociale è nel codice»¹¹.

L’habitus codificato dai sistemi di machine learning è l’habitus della macchina. Di fronte a nuovi dati di input, i sistemi di machine learning si comportano in modo probabilistico, dipendente dal percorso pre-riflessivo. Le loro pratiche «derivano dall’incontro dinamico tra un modello computazionale adattivo e uno specifico contesto di dati, vale a dire tra “la storia incorporata” dell’habitus della macchina e una determinata situazione digitale»¹². Nonostante siano privi di vita sociale, riflessione e coscienza, gli algoritmi di machine learning rivestono un ruolo importante nel funzionamento del mondo sociale visto che contribuiscono attivamente alla reiterazione/amplificazione delle diseguaglianze sia di ordine materiale che simbolico. In sostanza, scrive Airoldi, ancora più degli esseri umani, tali macchine contribuiscono a riprodurre, dunque perpetuare un ordine sociale diseguale e naturalizzato.

La proposta dello studioso è pertanto quella di guardare ai sistemi di machine learning come ad «agenti socializzati dotati di habitus, che interagiscono ricorsivamente con gli utenti delle piattaforme all’interno dei campi tecno-sociali dei media digitali, contribuendo così in pratica alla riproduzione sociale della diseguaglianze e della cultura»¹³.

Ricostruita la genesi sociale del machine habitus, Airoldi sottolinea come questo si differenzi dal tipo di cultura nel codice presente in tanti altri artefatti tecnologici, «cioè la cultura dei suoi creatori umani, la quale agisce come deus in machina»¹⁴. Nonostante il discorso pubblico sull’automazione tenda a concentrarsi sui benefici che è in grado di offrire in termini sostanzialmente economici (tempo/denaro), ad essere stato introiettato a livello diffuso è soprattutto il convincimento della sua supposta oggettività, dell’assenza di arbitrarietà. Basterebbe qualche dato per dimostrare quanto la tecnologia sia, ad esempio, genderizzata e razzializzata: la stragrande maggioranza degli individui che hanno realizzato le macchine sono uomini bianchi, circa l’80% dei professori di intelligenza artificiale, l’85% dei ricercatori di Facebook ed il 90% di Google sono maschi (Fonte: AI Now 2019 Report).

Di certo per comprendere la cultura contenuta nei codici non è sufficiente individuare i creatori di macchine e il deus in machina; nei più recenti modelli di IA le disposizioni culturali fatte proprie dai sistemi di machine learning non derivano dai creatori ma da una moltitudine di esseri umani utenti di dispositivi digitali coinvolti a tutti gli effetti, in buona parte a loro insaputa, nel ruolo di “addestratori” non retribuiti che agiscono insieme a lavoratori malpagati.

Se correggere i pregiudizi presenti nel design degli algoritmi è relativamente facile, molto più problematico è agire sui data bias da cui derivano il loro addestramento. «Quando una macchina apprende da azioni umane datificate, essa non apprende solo pregiudizi discriminatori, ma anche una conoscenza culturale più vasta, fatta di inclinazioni e disposizioni e codificata come machine habitus»¹⁵. Per un sistema di machine learning i contesti di dati sono astratte collezioni di attributi elaborati come valori matematici e per dare un senso a una realtà vettoriale datificata, tali sistemi sono alla ricerca di pattern che non hanno nulla di neutrale, derivando dagli umani che stanno dietro le macchine.

Una volta affrontata la cultura nel codice nelle macchine che apprendono da contesti di dati strutturati socialmente (da “esperienze” datificate affiancate da un deus in machina codificato da chi le ha realizzate), dal momento che, come detto, le macchine imparano dagli umani e questi ultimi dalle prime attraverso un meccanismo di feedback loop, Airoldi si concentra sul codice nella cultura indagando i modi con cui le macchine socializzate plasmano la società partecipando ad essa.

Gli algoritmi agiscono all’interno di un più generale ambiente tecnologico composto da piattaforme, software, hardware, infrastrutture di dati, sfruttamento di risorse naturali e manodopera, insomma in un habitat tecnologico che, a differenza di quanto si ostina a diffondere una certa mitologia dell’high tech, non è affatto neutro, sottostante com’è ad interessi economici e politici. Risulta dunque di estrema importanza occuparsi di come i sistemi di machine learning prendano parte e influenzino la società interagendo con essa considerando i loro contesti operativi e la loro agency (i loro campi e le loro pratiche, in termini bourdieusiani). Nonostante le macchine socializzate non siano senzienti, queste, sostiene Airoldi, hanno «capacità agentiche». Certo, si tratta di agency diverse da quelle umane mosse da intenzioni e forme di consapevolezza, ma che comunque si intrecciano ad esse. «La società è attivamente co-prodotta dalle agency culturalmente modellate di esseri umani e macchine socializzate. Entrambe operano influenzando le azioni dell’altra, generando effetti la cui eco risuona in tutte le dimensioni interconnesse degli ecosistemi tecno-sociali»¹⁶.

Visto che ormai i “sistemi di raccomandazione” delle diverse piattaforme risultano più influenti nel guidare la circolazione di prodotti culturali e di intrattenimento (musica, film, serie tv, libri…) rispetto ai tradizionali “intermediari culturali” (critici, studiosi, giornalisti…), viene da domandarsi se non si stia procedendo a vele spiegate verso una “automazione del gusto” con tutto ciò che comporta a livello culturale e di immaginario. È curioso notare, segnala lo studioso, che se il sistema automatico delle raccomandazioni conosce “tutto” degli utenti, questi ultimi invece non sanno “nulla” di esso. Se tale asimmetria informativa è «una caratteristica intrinseca dell’architettura deliberatamente panottica delle app e delle piattaforme commerciali»¹⁷, occorre domandarsi quanto sia effettivamente arginabile attraverso un incremento del livello di alfabetizzazione digitale degli esseri umani e attraverso politiche votate a ottenere una maggiore trasparenza del codice. Quel che è certo è che ci si trova a rincorrere meccanismi che si trasformano con una velocità tale per cui risulta difficile pensare a come “praticare l’obiettivo” in tempo utile, prima che tutto cambi sotto ai nostri occhi.

Airoldi ricostruisce come la cultura nel codice sia impregnata delle logiche dei campi platformizzati, dove i sistemi di machine learning vengono applicati e socializzati, e come le stesse logiche di campo e la cultura siano “confuse” dalla presenza ubiqua di output algoritmici. È soprattutto a livello di campo, ove si ha un numero elevatissimo di interazioni utente-macchina, che, sostiene lo studioso, importanti domande sociologiche sul codice nella cultura necessitano di risposta. «Le logiche di campo pre-digitali incapsulate dalle piattaforme sono sistematicamente rafforzate da miliardi di interazioni algoritmiche culturalmente allineate? Oppure, al contrario, le logiche di piattaforma che confondono il comportamento online finiscono per trasformare la struttura e la doxa dei campi sociali a cui sono applicate?»¹⁸.

Dopo essersi occupato, nei primi capitoli, della genesi sociale del machine habitus, delle sue specificità rispetto alla cultura nel codice presente in altri tipi artefatti tecnologici e del codice nella cultura, analizzando i modi con cui le macchine socializzate plasmano la società partecipando ad essa, Airoldi si propone di «riassemblare la cultura nel codice e il codice nella cultura al fine di ricavare una teoria del machine habitus in azione» così da mostrare «come la società sia alla radice dell’interazione dinamica tra sistemi di machine learning e utenti umani, e come ne risulti (ri)prodotta di conseguenza»¹⁹.

Una volta mostrato come i sistemi di machine learning sono socializzati attraverso l’esperienza computazionale di contesti di dati generati dagli esseri umani da cui acquisiscono propensioni culturali durevoli in forma di machine habitus, costantemente rimodulate nel corso dell’interazione umano-macchina, Airoldi affronta alcune questioni nodali riconducibili a una serie di interrogativi: cosa cambia nei «processi di condizionamento strutturale che plasmano la genesi e la pratica del machine habitus» rispetto a quanto teorizzato da Bourdieu per il genere umano?; «come le disposizioni cultuali incorporate e codificate come machine habitus mediano nella pratica le interazioni umano-macchina all’interno dei campi tecno-sociali?»; «in che modo i feedback loop tecno-sociali influenzano le traiettorie disposizionali distinte di esseri umani e macchine socializzate, nel tempo e attraverso campi diversi?»; «quali potrebbero essere gli effetti aggregati degli intrecci tra umani e macchine a livello dei campi tecno-sociali?»²⁰.

Inteso come attore sociale in senso bourdieusiano, un algoritmo socializzato risulta tanto produttore quanto riproduttore di senso oggettivo, derivando le sue azioni da un modus operandi di cui non è produttore e di cui non ha coscienza. Non essendo soggetti senzienti, i sistemi di machine learning non problematizzano vincoli ad essi esterni come, ad esempio, forme di discriminazione e di diseguaglianza che però, nei fatti, “interiorizzano”. Le piattaforme digitali sono palesemente strutturate per promuovere engagement e datificazione a scopi di profitto e funzionano al meglio con gli utenti a minor livello di alfabetizzazione digitale e di sapere critico. «Se il potere dell’inconscio sociale dell’habitus risiede nella sua invisibilità […] il potere degli algoritmi e dell’intelligenza artificiale sta nella rimozione ideologica del sociale dalla black box computazionale, che viene quindi narrata come neutrale, oggettiva, o super-accurata. Al di là delle ideologie, sullo sfondo di qualsiasi interazione utente-macchina si nasconde un intreccio più profondo, che lega gli agenti umani e artificiali alla doxa e alle posizioni sociali di un campo, attraverso habitus e machine habitus»²¹.

I sistemi di machine learning non soddisfano (come vorrebbero i tecno-entusiasti della personalizzazione) o comandano (secondo i tecno-apocalittici della manipolazione) ma negoziano, nel tempo e costantemente, con gli esseri umani un terreno culturale comune. È dunque, sostiene lo studioso, dalla sommatoria di queste traiettorie non lineari che deriva la riproduzione tecno-sociale della società. A compenetrarsi in un infinito feedback loop sono due opposte direzioni di influenza algoritmica: una orientata alla trasformazione dei confini sociali e simbolici ed una volta al loro rafforzamento.

In un certo senso, scrive Airoldi, «gli algoritmi siamo noi». Noi che tendiamo ad adattarci all’ordine del mondo come lo troviamo, che sulla falsariga di quanto fanno i sistemi di machine learning apprendiamo dalle esperienze che pratichiamo nel mondo riproducendole. Lo sudioso propone dunque una rottura epistemologica nel modo di comprendere la società e la tecnologia: i sistemi di machine learning vanno a suo avviso intesi «come forze interne alla vita sociale, sia soggette che parte integrante delle sue proprietà contingenti»²². Oggi una sociologia degli algoritmi, ma anche la stessa sociologia nel suo complesso, sostiene Airoldi, dovrebbe essere costruita attorno allo studio di questa riproduzione tecno-sociale.

Nella parte finale del libro, lo studioso delinea alcune direzioni di ricerca complementari per una «sociologia (culturale) degli algoritmi»: seguire i creatori di macchine ricostruendo la genesi degli algoritmi e delle applicazioni di IA, dunque gli interventi umani che hanno contribuito a «spacchettare la cultura nel codice e i suoi numerosi miti»; seguire gli utenti dei sistemi algoritmici individuando «gli intrecci socio-materiali dalla loro prospettiva sorvegliata e classificata»; seguire il medium per mappare la infrastruttura digitale «concentrandosi sulle sue affordance e/o sulle pratiche più che umane che la contraddistinguono»²³; seguire l’algoritmo, ad esempio analizzando le proposte generate automaticamente dalle piattaforme.

Se è pur vero che le macchine socializzate sono tendenzialmente utilizzate da piattaforme, governi e aziende per datificare utenti al fine di orientare le loro azioni, non si può addebitare loro la responsabilità dei processi di degradazione e sfruttamento della vita sociale. «Il problema non è il machine learning strictu sensu […] ma semmai gli obiettivi inscritti nel codice e, soprattutto, il suo contesto applicativo più ampio: un capitalismo della sorveglianza che schiavizza le macchine socializzate insieme ai loro utenti»²⁴. Altri usi di IA, altri tipi di intrecci tra utente e macchina sarebbero possibili. Certo. Ma si torna sempre lì: servirebbe un contesto diverso da quello sopra descritto.

Massimo Airoldi, Machine Habitus. Sociologia degli algoritmi, Luiss University Press, Roma 2024, p. 10. ↩
Ivi, p. 11. ↩
Ivi, p. 13. ↩
Ivi, p. 15. ↩
Ivi, p. 17. ↩
Ivi, p. 24. ↩
Ivi, p. 28. ↩
Ivi, p. 30. ↩
Ibid. ↩
Ivi, p. 33. ↩
Ivi, p. 35. ↩
Ivi, pp. 35-36. ↩
Ivi, p. 37. ↩
Ivi, p. 38. ↩
Ivi, p. 52. ↩
Ivi, p. 80. ↩
Ivi, p. 90. ↩
Ivi, p. 98. ↩
Ivi, p. 107. ↩
Ivi, p. 106. ↩
Ivi, p. 116. ↩
Ivi, p. 137. ↩
Ivi, p. 142. ↩
Ivi, p. 144. ↩

Estetiche inquiete. Produci(ti), consuma(ti), crepa tra social media e nuove tecnologie

gioacchino toni — Thu, 23 Jun 2022 20:01:50 +0000

di Gioacchino Toni

Si è visto [su Carmilla] come la carica contestataria dello street style, sempre più globalizzato, sia stata in buona parte assorbita dalle logiche della moda contemporanea dei grandi brand. Continuando a seguire le riflessioni di Nello Barile, Dress Coding. Moda e stili dalla strada al Metaverso (Meltemi 2022), vale la pena soffermarsi sui rapporti che nella contemporaneità intercorrono tra moda, street style, social media e nuove tecnologie.

Se a lungo si è guardato ai media come a “sistemi di vampirizzazione” delle culture giovanili, attorno alla metà degli anni Novanta tale visione molare del sistema mediale ha iniziato a mostrare i suoi limiti ed il dibattito si è tendenzialmente spostato su «un modello dialogico che vede i media e i detentori del “capitale sottoculturale” in un processo di costruzione reciproca delle rispettive identità» (p. 62). Tale cambiamento di prospettiva, sottolinea Barile, non sottovaluta affatto la funzione svolta dai media nel consolidamento di una moda all’interno dell’ambito mainstream.

Se si tiene presente che, rispetto ai legami forti costruiti su uno spiccato senso di appartenenza – che si instaurano nelle comunità e negli ambiti familiari o amicali –, i legami deboli – che si creano tra individui fisicamente e socialmente lontani o che vantano contatti rari e asistematici– conferiscono maggior dinamismo al sistema in quanto si prestano a facilitare aperture a sollecitazioni esterne e ad agevolare cambiamenti, non è difficile comprendere l’incidenza di Internet nel processo di trasmissione e consolidamento delle tendenze. La capacità del Web di moltiplicare i legami deboli e veicolare anche i contesti sottoculturali si presta alla propagazione di trend che, indipendentemente da come e perché si sono originati, vengo agevolmente dirottati verso finalità commerciali manistream.

In risposta al diffondersi negli anni Novanta di segnali di rigetto nei confronti dei grandi marchi, questi ultimi hanno iniziato a ricorrere alla figura del cool hunter per «intercettare i contesti esperienziali ad alto contenuto di autenticità» (p. 64). Si tratta di una figura che osserva, seleziona ed amplifica le tendenze a cui ricorrono i brand nella loro opera di saccheggio delle culture alternative da cui ricavano suggestioni creative da trasformare in esperienze e lifestyle mercificati.

Quella del cool hunter è necessariamente una figura liminale che pur operando per le aziende non può integrarsi pienamente in esse appartenendo al contempo a quegli ambienti creativi alternativi in cui vive ed opera. Si tratta in sostanza di una sorta di “infiltrato” abile nel trasformare esperienze ludiche in occasioni di reddito, una figura capace di cogliere «il valore strategico della “strada” nello sviluppo prima culturale e conseguentemente economico» (p. 66) delle scena urbana.

A cavallo del passaggio di millennio, con l’affermarsi dei social, sostiene Barile, l’epoca “fisica” del cool hunter tramonta e l’interesse si sposta sulle banche dati offerte da Internet sempre più dettagliate ed aggiornate circa le tendenze in atto; alcune piattaforme approfittano della decostruzione del sistema moda operata dalla fast fashion per sviluppare mappature e sistemi previsionali automatizzati dei trend. La disarticolazione del sistema stagionale della moda e la centralità assunta del consumatore fniscono per rendere indispensabile il ricorso a nuove tecnologie.

Da qualche anno sono stati implementati sistemi di previsione delle tendenze tramite il machine learning e l’intelligenza artificiale. Questo perché i social media sono sempre più i contenitori dei trending topics del momento. L’osservazione dei social consente pertanto di monitorare la reazione dei pubblici di un dato brand, di osservare le tendenze in ascesa, di studiare le preferenze degli utenti tramite tecniche quali-quantitative come la Sentiment Analysis, o di conoscere in maniera più approfondita le conversazioni tra membri di una online community sui contenuti o i prodotti di un brand con la netnography. […] L’introduzione del machine learning e della IA ha trasformato la concezione stessa di trend analysis e forecasting. Questo perché la disponibilità enorme di dati, reperibili tramite social media e motori di ricerca, consente di addestrare le Reti Neurali Artificiali (RNA) che, partendo dall’apprendimento di serie storiche di dati quali-quantitativi, sono in grado di formulare previsioni sullo sviluppo dei trend nel futuro (pp. 67-69).

Si attivano pertanto strategie basate sull’elaborazione dei dati raccolti, ad esempio, tra il pubblico di qualche influencer, dall’analisi degli hashtag, dai profili individuali, dai commenti rilasciati ecc. L’anello intermedio tra la figura del cool hunter e quella dell’influencer, suggerisce Barile, può essere individuata nei fashion bloggers che, con il loro intervento da posizione indipendente, contribuiscono a destrutturare il sistema-moda tradizionale sostituendo l’insieme di competenze in esso sedimentate con uno spontaneismo in linea con un generale processo di orizzontalizzazione – reale o percepito che sia – della comunicazione e della società. Esiste pertanto, sostiene lo studioso, «una linea di continuità che, dall’esautorazione del ruolo dello stilista, iniziata negli anni Sessanta, conduce, attraverso l’epoca del cool hunting, agli influencers e ai sistemi customer-centrici gestiti dall’Intelligenza Artificiale» (p. 71).

L’accelerazione online determinata dalla pandemia ha enormemente rafforzato il ruolo delle piattaforme nella «gestione dell’immaginario visuale e fotografico degli influencer» (p. 71). A differenza delle vecchie figure degli opinion leader, gatekeeper ecc, l’influencer si presenta come «una sorta di prosumer “evoluto”, un produttore/consumatore di contenuti online capace di trasformarsi in vero e proprio medium di se stesso» (p. 71) attento nel rapportarsi ai brand di streetwear a non compromettere la propria credibilità. I contenuti esperienziali confezionati dagli influencer hanno a che fare tanto con «la capacità dei social di “scolpire” le identità online» quanto con «la capacità di “confezionare” le identità trasformate in veri e propri prodotti» (p. 71).

Analogamente a quanto avvenuto nella televisione dei reality e dei talk show a sfondo confessionale, anche la comunicazione della moda opera mediaticamente sulla dimensione quotidiana, questa sembra però, soprattutto grazie alla diffusione della versione virtuale degli influencer, spingersi fino al punto di presentare il digitale stesso come “la nuova moda” a compimento di quella logica del simulacro tratteggiata sin dai primi anni Ottanta da Jean Baudrillard a proposito della trasformazione contemporanea dello star system.

Per definizione, gli influencer virtuali sono persone immaginarie generate dal computer, che simulano caratteristiche e personalità degli esseri umani. Il fenomeno riguarda diverse piattaforme di social media […] dove le virtual influencer giocano sulla sostanziale ambiguità tra essere un personaggio reale che veste in modo stravagante ma plausibile, che frequenta luoghi ordinari del quotidiano, ma che allo stesso tempo produce in chi la osserva un effetto di grande straniamento, tipico della cosiddetta “valle inquietante” (“uncanny valley”), teorizzata dagli studiosi di robotica, ovvero il simultaneo effetto di familiarità e di spaesamento suggerito da queste figure. Come già accade nel caso degli influencer umani, le nuove celebrità sintetiche e pressoché riproducibili illimitatamente, vanno a caccia di unicità, di autenticità, di risorse che possono garantire loro un notevole seguito di follower ma anche un loro sostanziale attaccamento (p. 75).

Se da un lato la loro natura artificiale rappresenta un freno al processo di identificazione del pubblico, dall’altro permettono una costruzione identitaria modulare dell’influencer sintetico in funzione di target specifici analizzati puntualmente anche dal punto di vista emozionale: l’influencer artificiale può così svolgere proficuamente la sua funzione a partire dalle personalità dei follower.

Viviamo in un regime customer-centrico, che pone il consumatore al centro del nuovo ecosistema digitale, per due motivi principali: perché esso produce dati che sono sempre più il vero prodotto della nuova economia dell’attenzione; perché grazie a questi dati è possibile conoscere, prevedere e coinvolgere sempre più le scelte del consumatore. L’utilizzo dell’intelligenza artificiale nella moda espanderà enormemente il processo di centralizzazione e customizzazione dell’offerta, tanto da coinvolgere anche la parte più ideativa e creativa, che storicamente spettava allo stilista. La centralità del consumatore, già paventata nella retorica comunicativa dei marchi anni Novanta, è oggi implementata dal nuovo ecosistema digitale. Per capire meglio tale processo occorre fare un passo indietro, alle origini della mass customization (p.137).

La comunicazione digitale ha stravolto tanto le tradizionali procedure di ideazione, progettazione e confezionamento dei capi di abbigliamento quanto quelle distributive e di reperimento da parte dei consumatori. La centralità di questi ultimi nelle strategie aziendali contemporanee tende a indirizzare verso una “produzione industriale su misura” basata su una «fabbricazione tramite economie di scala di componenti basilari che possono essere riassemblate in modalità differenti per offrire prodotti relativamente diversificati» (p. 140). Ecco allora perché la conoscenza del sistema cognitivo del consumatore diviene centrale: è attorno a questo che si dispiega una strategia di differenziazione volta a soddisfarlo.

Stringendo alleanze con i gradi detentori di dati del Web, le grandi piattaforme on-line dell’abbigliamento stanno sviluppando sistemi di machine learning che operano incrociando quanto disponibile nelle banche dati che raccolgono pareri creativi di operatori del settore e dati offerti dai colossi del Web per proporre configurazioni sempre più individualizzate. «Il sistema si basa su un elevato livello di customizzazione in cui si richiede all’utente di scegliere il proprio mood (triste, allegro, eccitato ecc.), il proprio stile (gotico, rockabilly ecc.) e di tracciare un disegno intorno alla figura umana raffigurata al centro del video, da cui verrà ricavato l’outfit finale proposto dalla piattaforma» (p. 144).

Se il futuro della moda sembrerebbe indirizzarsi verso la sostituzione dello stilista con il consumatore stesso, occorre però interrogarsi non solo a proposito di quale reale grado di libertà disponga quest’ultimo ma anche di quanto sia ulteriormente reso operativo all’interno di una catena produttiva che si estende oltre i terminali dell’ideazione e del consumo del capo acquistato contemplando anche gli aspetti più intimi dell’emotività e della personalità degli individui. Tutto ciò conduce alla creazione di reti che, integrando canali diversi, coniugando esperienza on-line ed esperienza off-line, strutturano un ambiente che circonda l’utente-generatore di dati capace di relazionarsi con quanto si conosce del cliente con finalità predittive.

È in tale contesto che ha preso piede l’idea di Metaverso, concetto formulato dalla letteratura Cyberpunk negli anni Novanta, visto ora come «occasione di rilancio di piattaforme in crisi; è il collettore di una serie di servizi innovativi e a pagamento come gli NFT [NFT – Non-Fungible Token: modalità di identificazione in modo univoco e certo di un prodotto digitale creato su Internet] e le nuove strategie di gamification; è il punto di raccordo tra mondo fisico e virtuale che implicherà ulteriori problemi di protezione dei dati personali dei suoi utenti» (p. 158).

Negli ultimi anni l’interesse dei brand di moda e delle piattaforme di vendita online nei confronti della virtualità, del gaming, degli NFT e del Metaverso, è cresciuto esponenzialmente. Dalla retorica sulla Realtà virtuale degli anni Novanta e inizio Duemila (come nel caso di Second Life), passando per le applicazioni della Realtà Aumentata come nuova frontiera della Quarta Rivoluzione Industriale, giungiamo oggi al Metaverso che rappresenta un punto di sintesi tra le diverse caratteristiche della Realtà Virtuale e della Realtà Aumentata […]. Il termine non è affatto nuovo ma deriva ovviamente dal Cyberpunk, in particolare dal testo di Neal Stephenson, Snowcrash (1992). Nel testo è suggerito un avvicinamento tra mondo reale e mondo virtuale ma tra i due prevale ovviamente il secondo. […] Il nuovo Metaverso rappresenta un punto di convergenza tra reale e virtuale su cui le aziende puntano per moltiplicare i propri servizi e i propri utili. […] Al di là delle promesse mirabolanti e pubblicitarie del Metaverso proposto come nuova esperienza parallela ed extramondana, in accordo con la sua eredità psichedelica degli anni Novanta, il valore di questa innovazione starà nella sua capacità di accordarsi con il mondo della vita dei consumatori, di integrarsi con la loro realtà quotidiana, di aumentarla in maniera non eccessivamente invasiva (pp. 160-166).

A fronte di un tale scenario resta da chiedersi quanto siano ancora distinguibili una realtà quotidiana off-line ed una on-line strutturata dalle piattaforme e quali margini di autonomia, autenticità ed identità restino agli individui sempre più mercificati e costretti a mettersi in vetrina producendosi, vendendosi e, per certi versi, anche a comprarsi, prima che faccia capolino l’obsolescenza biologica-merciologica. Insomma, dal produci-consuma-crepa siamo passati al produci(ti)-consuma(ti)-crepa. Un bel passo in avanti, non c’è che dire.

Estetiche inquiete serie completa su Carmilla

Culture e pratiche di sorveglianza. L’era degli oggetti smart presuppone un’umanità altrettanto smart?

gioacchino toni — Wed, 29 Dec 2021 21:00:03 +0000

di Gioacchino Toni

Telefoni e orologi smart, abiti e accessori smart, elettrodomestici e abitazioni smart, mezzi di locomozione e persino intere città smart; la realtà contemporanea pare attraversata da una generale promessa smart ma, viene da domandarsi, tale contesto di oggetti smart presuppone un’umanità altrettanto smart?

Le innovazioni digitali permettono di rendere gli oggetti interattivi in ogni loro aspetto, rendendoli capaci di inviare e ricevere informazioni, di monitorare, di decidere e dare istruzioni. Di “Internet of things” (IoT) ha parlato per la prima volta Kevin Ashton attorno al cambio di millennio riferendosi all’idea di connettere macchine al web in modo tale da permettere scambi di informazioni tra macchine ed esseri umani. IoT sta indubbiamente trasformando le vite degli esseri umani, modificandone le abitudini e il modo di relazionarsi al mondo.

Un’utile e sintetica mappatura del fenomeno IoT in lingua italiana è offerta dal volume di Stefano Za, Internet of Things. Gli ecosistemi digitali nell’era degli oggetti interconnessi (Luiss University Press, 2021) uscito nel 2018 e giunto oggi a una seconda edizione aggiornata all’avvento del 5G, in cui l’autore traccia l’impatto degli “oggetti digitali” sulla vita degli esseri umani.

Visto che sin dal titolo viene fatto riferimento agli ecosistemi digitali, in apertura di volume l’autore tratteggia una definizione di essi. In generale con ecosistema si intende un insieme di componenti, viventi e non, in grado di influenzarsi vicendevolmente modificando l’ambiente in cui si trovano a operare formando così un unico sistema delineato. Nello specifico, un ecosistema digitale è costituito soprattutto, ma non solo, da “artefatti digitali”. Tale tipo di ecosistema «con le sue componenti e le loro interazioni, ha sia un’entità fisica (tradizionale/materiale) sia un’entità digitale (virtuale), racchiudendo le peculiarità di ciò che viene definito sistema cyber-fisico» (p. 11). Gli elementi smart costituiscono una componente importante di tali ecosistemi digitali e rientrano in quell’ambito di IoT in cui gli oggetti sono in grado di interagire tanto con altri oggetti o macchine quanto con esseri umani attraverso Internet.

Dopo aver ricostruito i passaggi storici dello sviluppo di Internet, Za si sofferma sulla nascita del fenomeno IoT: «una rete di oggetti interconnessi tra loro capaci di raccogliere e scambiare informazioni attraverso l’uso della rete, di Internet» (p. 33). IoT, sostiene lo studioso, assume un ruolo rilevante soprattutto grazie al suo intrecciarsi con il cloud computing, i big data e il machine learning.

Nel primo caso si ha a che fare con tecnologie che consentono di elaborare, archiviare e memorizzare dati attraverso risorse hardware e software distribuite in rete. Possono essere software utilizzati dall’utente finale (Software as a Service – SaaS), o che consentono di amministrare la configurazione e le funzionalità di una piattaforma (Platform as a Service – PaaS), oppure server virtuali ove è possibile installare software di sistema e applicativi (Infrasrtucture as a Service – IaaS). In tutti i casi il cloud computing consente di avere in dotazione risorse a capacità computazionale in maniera flessibile senza essere in possesso di particolari hardware potendovi ricorrere ovunque sia presente una connessione Internet.

Il machine learning ha invece a che fare con l’ambito dell’intelligenza artificiale i cui algoritmi «dettano le regole su come leggere e interpretare i dati al fine di individuare la migliore soluzione a determinati problemi legati ai dati analizzati» (p. 44). Le applicazioni di machine learning hanno strutturano modelli sulla base dello storico, dunque sono strettamente connesse ai big data e al cloud computing.

IoT rappresenta pertanto una rete di oggetti connessi a Internet capace di raccogliere e scambiare dati ricorrendo a tecnologie in cui è presente un circuito elettrico: dagli smartphone agli elettrodomestici, dai macchinari industriali agli impianti per la gestione automatizzata del magazzino sino ai mezzi di trasporto.

Tutti questi oggetti […] raccolgono informazioni in maniera strutturata, le trasmettono in rete affinché siano memorizzare spesso in soluzioni cloud. Questi dati alimentano la crescita dei big data i quali vengono utilizzati da algoritmi sofisticati come quelli di machine learning per elaborare soluzioni via via sempre migliori e più specifiche (p. 45).

Venendo al 5G, lo studioso indica tra gli elementi che lo caratterizzano rispetto alle precedenti generazioni: un’inedita capacità di trasmissione; una netta diminuzione dei tempi di latenza; la possibilità di collegare contemporaneamente un elevato numero di dispositivi IoT.

Circa i principali settori di impiego IoT si possono distinguere due marco-aree: una attinente le persone (consumer segment) e una alle imprese (business segment). Nella prima rientra, ad esempio, l’ambito della domotica (dagli elettrodomestici smart agli smart home assistent), quello dei “dispositivi indossabili” (wearable devices, come gli smatwatch e gli smartglasses), compresi i dispositivi sanitari indossabili e il settore della guida autonoma o assistita. All’area attinente le imprese appartengono, ad esempio, il monitoraggio del comportamento nell’acquisto in negozio e i sistemi di pagamento smart, le Smart Utilities & Energy, i sistemi di predizione dei guasti integrati nei macchinari industriali e nei mezzi di trasporto e la gestione della logistica. Altri settori che ricorre a IoT sono quello delle smart cities e quello sanitario ospedaliero.

A partire dal 2011 si inizia a parlare di “Industria 4.0” – espressione introdotta dall’azienda tedesca Bosch – indicando una nuova modalità organizzativa della produzione contraddistinta dall’interconnessione o di IoT, cloud computing, cognitive computing e big data. Dalla fusione tra il mondo reale/fisico degli impianti e quello virtuale/digitale dell’informazione scaturisce un sistema misto cyber-fisico finalizzato, ad esempio, a ridurre gli sprechi, a raccogliere informazioni dal processo lavorativo rielaborandole in tempo reale, anticipare errori e malfunzionamenti attraverso la virtualizzazione dell’azienda, sfruttare al massimo la creatività del lavoratore e incorporare le richieste del cliente nel corso del processo produttivo.

Nella parte conclusiva del volume vengono tratteggiati quelli che l’autore individua come i principali benefici e rischi introdotti da IoT. Gli smart devices consentono inedite potenzialità di monitoraggio tanto del funzionamento del dispositivo quanto dell’ambiente esterno. I dispositivi IoT possono essere controllati da remoto dall’utente o da algoritmi incorporati o presenti su piattaforme. Implementate le fasi di monitoraggio e controllo, le aziende possono efficacemente ottimizzare le prestazioni del prodotto/dispositivo ricorrendo a dispositivi intelligenti che applicano algoritmi basati su analisi dei dati storici e attuali. «La capacità di monitoraggio, controllo e ottimizzazione, se combinate opportunamente, possono permettere di fare acquisire al dispositivo un certo livello di autonomia » (p. 81).

Tutti questi dispositivi sono però decisamente vulnerabili; nell’ambito della smart home basti pensare al celebre attacco dell’ottobre 2016 che ha utilizzato migliaia di smart object per mandare in tilt il sistema, oppure al caso tedesco che ha visto l’utilizzo di una bambola per carpire conversazioni private e dati sensibili all’interno della sfera domestica. Altri celebri casi di hackeraggio riguardano il blocco nel 2016 del riscaldamento di alcuni edifici di Lappeenranra in Finlandia e quello portato nel gennaio 2017 a un hotel austriaco che si è visto bloccare il sistema di controllo smart di porte e finestre.

Relativamente ai wearable device, come smartwatch e braccialetti per il fitness, occorre sottolineare come tali dispositivi siano progettati esplicitamente per rilevare informazioni sullo stato di salute, di forma fisica e di localizzazione dell’utente che li indossa. Si tratta evidentemente di dati sensibili che gli individui forniscono perdendone il controllo. Non manca la possibilità che vengano portati attacchi anche ai dispositivi IoT utilizzati in ambito ospedaliero: si pensi alla possibilità di indurre a malfunzionamenti le apparecchiature mediche.

Le stesse smart-tv si rivelano strumenti utili per accumulare informazioni circa le abitudini e le preferenze degli utenti che poi pososn essere vendute ad agenzie pubblicitarie. Dalle informazioni diffuse da WikiLeaks, secondo The Guardian, la CIA sembrerebbe essere in grado di «prendere il controllo dei televisori connessi a Internet e ascoltare segretamente conversazioni in casa delle persone anche quando i dispositivi sembrano essere spenti» (p. 86). In realtà, ancora una volta, sono le grandi corporation a essere un passo avanti rispetto alle agenzie statali:

il recente utilizzo degli smart assistant (es. Alexa di Amazon), rende tutto molto più semplice. Questi dispositivi intelligenti sono collegati non solo con gli smart object presenti in casa ma anche con altre piattaforme su cui abbiamo un account e quindi informazioni personali, come ad esempio il calendario e le email. Questi assistenti intelligenti una volta attivati sono perennemente in ascolto e più ascoltano più imparano su di noi, sul nostro modo di parlare e sulle nostre abitudini, fornendoci di conseguenza soluzioni sempre più appropriate e corrette, supportandoci nella vita di tutti i giorni. In questo senso siamo noi ad autorizzare il tracciamento delle nostre attività, essendo un prerequisito per il corretto funzionamento dello smart assistant (p. 87).

Il livello di dipendenza dall’ecosistema digitale degli esseri umani sta indubbiamente aumentando sempre più. Se improvvisamente Internet, l’infrastruttura alla base dell’ecosistema digitale, smettesse di funzionare si avrebbe una disconnessione su vasta scala che negherebbe agli individui l’accesso a una miriade di informazioni su cui si basano le loro previsioni, decisioni e azioni. Un’ipotesi del genere è stata ovviamente contemplata dalla fiction distopica; lo stesso romanzo The Silence (2020) di Don De Lillo prospetta uno scenario in cui improvvisamente tutta la tecnologia digitale ammutolisce e tutti gli schermi diventano neri generando il panico tra la popolazione. Di certo un’improvvisa e duratura disconnessione digitale nell’era degli oggetti, delle merci intelligenti lascerebbe forse l’umanità a fare i conti con l’inettitudine accumulata un poco alla volta delegando acriticamente una fetta di intelligenza agli oggetti/merci.

Su Carmilla – Serie completa Culture e pratiche della sorveglianza