Comunicare con gli algoritmi

Quando i geniali estensori del Cluetrain Manifesto (1999) intuirono che la grande rivoluzione portata da Internet sarebbe stata costituita dall’esplosione del potere conversazionale degli individui (“I mercati sono conversazioni”) avevano colto pienamente nel segno (vedi su questo  un mio vecchio post, Cluetrain Manifesto: il ritorno); ma non avevano previsto che alle conversazioni si sarebbero aggiungi anche individui artificiali come bot, chatbox, avatar. Oggi le conversazioni che avvengono tramite Internet sono sempre meno human to human, e sempre più human to machine, se non addirittura machine to machine.

I costruttori di siti Internet, ad esempio, li rendono attrattivi non solo per i consumatori in carne e ossa, ma anche, e soprattutto, per i bot inviati dai motori di ricerca che ne classificano le pagine. Catturare l’attenzione degli algoritmi di indicizzazione è essenziale per determinare la decisione d’acquisto, a sua volta automatizzata. E lo si fa attraverso altri operatori artificiali.

Ecco allora che la domanda “Di cosa parliamo quando parliamo con gli algoritmi” assume una rilevanza centrale. Ne parliamo con Elena Esposito, professore ordinario di Sociologia dei processi culturali e comunicativi presso le Università di Bielefeld (Germania) e Bologna, autrice dell’eccellente Comunicazione artificiale edito da EGEA. Titolo doppiamente significativo, poiché allude al tema del libro, ovvero le caratteristiche della comunicazione con entità artificiali, ma anche alla connotazione di questo tipo di comunicazione: il suo essere, appunto, una “comunicazione artificiale”.

Gli algoritmi non sono intelligenti

MM Nel tuo libro  sostieni che ciò che possiamo osservare nelle interazioni con gli algoritmi non è una forma artificiale di intelligenza, ma piuttosto una forma artificiale di comunicazione. “Intelligenza e capacità comunicativa non sono la stessa cosa. Gli algoritmi sono in grado di agire come partner di comunicazione – che siano intelligenti o meno è un’altra questione. I recenti algoritmi di machine learning sono così efficienti non perché hanno imparato a imitare l’intelligenza umana e a comprendere le informazioni, ma piuttosto perché i loro programmatori hanno abbandonato il tentativo e l’ambizione di farlo, e si sono orientati verso un modello differente. Gli algoritmi di machine learning che utilizzano i big data, a mio parere, stanno riproducendo artificialmente non l’intelligenza ma la capacità di comunicare, e lo fanno sfruttando in modo parassitario la partecipazione degli utenti sul web”.

Se questo è vero, dobbiamo riconsiderare il concetto di comunicazione. Si può ancora parlare di comunicazione quando uno dei due interlocutori non comprende le informazioni trasmesse?

ES Questo è un punto cruciale, e dipende dal concetto di comunicazione a cui si fa riferimento. Io adotto l’approccio di Niklas Luhmann, che definisce la comunicazione a partire dal ricevente e non dall’emittente: una comunicazione avviene non quando qualcuno dice o scrive qualcosa, ma quindo il ricevente ottiene un’informazione relativa al comportamento della controparte – cioè quando capisce qualcosa e capisce che l’altro gliela voleva comunicare. Quando si tratta di interazione con gli algoritmi, il vantaggio di questa impostazione è che è compatibile con l’idea che si possa comunicare con un interlocutore che non pensa e non comprende le informazioni, se il suo partner attribuisce l’informazione che ottiene ai processi autonomi della macchina. Non c’è bisogno cioè di supporre che l’algoritmo ci voglia dire qualcosa per ottenere delle informazioni che non esisterebbero senza il suo contributo e la sua elaborazione autonoma dei dati. Si può allora ipotizzare che l’algoritmo funga da partner di comunicazione.

MM Che cosa ne consegue per l’elaborazione sociale delle informazioni?

ES Questo approccio  non presuppone che i partecipanti alla comunicazione condividano lo stesso pensiero o parte di esso. I pensieri di ciascuno sono solo suoi e ognuno di noi li elabora in modo proprio. Non c’è bisogno di far circolare un’unità di informazione, e non c’è bisogno di entrare nella testa dell’altro – tramite la comunicazione, piuttosto, si creano degli stimoli che consentono a ciascuno di produrre le proprie informazioni, e alla società di far circolare stimoli nuovi.

Il linguaggio scritto

MM La diffusione di testi scritti da macchine sta influenzando il modo di leggere e scrivere degli umani? Nel corso delle Conversazioni del progetto Librare confluite in Dai testi analogici agli ecosistemi digitali, ad esempio, è stata messa in discussione la definizione di Umberto Eco del libro come “oggetto perfetto”. Secondo il DG di Mondadori Education Aaron Buttarelli «diciamo libro ma dobbiamo pensare a una macchina complessa fatta, oltre che di carta, anche, ad esempio, di una versione digitale interattiva che dà accesso a contenuti integrativi e a piattaforme per l’apprendimento e il testing», o, ancora, c’è chi insiste sulla crossmedialità degli universi semantici, per cui non c’è da stupirsi se oggi nascono serialità che sfruttano la multicanalità per valorizzare la richiesta degli spettatori/giocatori/lettori di continuare a fare evolvere un certo tipo di esperienza. Tuttavia i vertici dell’editoria italiana sembrano, chi più chi meno, riconoscersi piuttosto nelle parole di Marco Sbrozi: «pensare a graphic novel, videogiochi, Facebook come evoluzioni del libro vuol dire ignorare il significato del libro come luogo privilegiato della parola scritta, sempre attivabile mentalmente o ad alta voce, ma rappresentata da segni interpretabili e combinabili astrattamente e logicamente. Vuol dire involgarire il significato della scrittura, sottraendola alla dimensione del pensiero nella sua purezza, per farne un elemento marginale (nella graphic novel), regolamentare (nei videogame), quotidianamente inutile nella dimensione della chiacchiera vana (Facebook)». 

«Qualsiasi forma di libro che non sia quello stampato, ma sia multimediale, “aumentato”, o anche, perché no, interattivo, merita un altro nome» sintetizza Derrick de Kerckhove. Chi ha ragione? 

ES Le nuove forme di comunicazione digitale hanno messo in evidenza la differenza fra il libro e il testo, che si può percepire oggi quando la forma standard del libro non è più l’unica possibilità di far circolare i testi. Un libro non è solo un oggetto, ma anche una forma di comunicazione. La nozione corrente di testo è legata alla scrittura, e più propriamente alla stampa, che ha generato l’idea di un oggetto unitario con una sua identità che  viene preservata nei vari supporti – libro a stampa, manoscritto, traduzioni – e che deve essere interpretato in modo coordinato. La differenza fra libro e testo, in realtà, era già stata introdotta degli studi sulla comunicazione in condizioni di oralità primaria, che ha prodotto composizioni estremamente raffinate e complesse (si pensi all’Iliade e l’Odissea) che non erano scritte, ma che noi siamo in grado di osservare solo come testi, cioè riferendoci alle categorie di una cultura dotata di scrittura – perdendo di vista la loro flessibilità e adattabilità al contesto. Per Ong sarebbe come descrivere un cavallo come un’automobile senza ruote.

Il libro è una forma di comunicazione con specifiche caratteristiche (non interattività, riferimento all’intenzione dell’autore) – ma ora le nuova forme digitali di scrittura mostrano che il testo può essere indipendente dal libro. Io non vedo perché una graphic novel non dovrebbe essere un libro (anche i libri hanno sempre avuto le illustrazioni), e non ho difficoltà a riconoscere che colui che legge Guerra e Pace sul Kindle ha letto lo stesso testo di chi ha letto il libro a stampa. Le questioni fondamentali che si pongono oggi, a mio parere, non riguardano la “concorrenza” sta formato a stampa e formato digitale, ma piuttosto la possibilità di sperimentare delle forme inedite di uso e circolazione dei testi. Se il testo diventa un oggetto interattivo – come, ad esempio, un romanzo di cui i lettori possono decidere il decorso, o addirittura un videogame –  si tratta di una forma diversa di comunicazione – che forse, come sostiene de Kerckhove, richiede un altro nome.

Il linguaggio online

MM In Rete interagiamo quotidianamente con artefatti (piattaforme, bot …) che sono espressione  di Intelligenze Artificiali affette da  bias ovvero distorsioni cognitive tali da inficiarne le capacità cognitive, in quanto replicano i pregiudizi anche incosci di chi le ha create. Il timore è che la diffusione di AI produca rischi di discriminazione algoritmica sia di natura rappresentativa (come le macchine ci leggono e ci categorizzano?) sia di natura allocativa (come decidono a chi dare un prestito o un lavoro?). Quanto è grave questo fenomeno e come lo si può contenere?

ES Il bias è un problema cruciale e in qualche modo inevitabile, perchè lo si può vedere come l’altro lato dell’apparente intelligenza delle macchine. Il bias esiste in tutti i casi in cui si ha una prospettiva di osservazione, cioè un punto di vista da cui si guardano le cose e si producono informazioni. Come argomentava già Wittgenstein, senza un punto di vista non si vede niente, ma quello che si vede dipende sempre dalla prospettiva di osservazione, cioè è parziale e limitato – e non può essere altrimenti. Gli  algoritmi non hanno un loro punto di vista ma funzionano così bene perché traggono delle indicazioni dai programmatori che li hanno progettati (che hanno inevitabilmente i loro punti di vista) e anche dai comportamenti degli utenti (che hanno anch’essi i loro punti di vista che guidano il loro comportamento, che generano i “big data” elaborati dagli algoritmi). Di qui derivano i problemi del “systematic bias” e dell’”algorithmic bias”, che si possono aggravare nel “confirmation bias” quando l’uso degli algoritmi porta a confermare le distorsioni da cui sono partiti. Eliminare il bias a mio parere è impossibile, ma si può pensare di riconoscerlo e controllarlo, come facciamo con i pregiudizi che circolano nella comunicazione umana. Le recenti ricerche sulla “explainable AI” (Intelligenza Artificiale spiegabile) lavorano in questo senso, cercando di offrire degli strumenti per riconoscere le distorsioni nel comportamento (bias rappresentativo) e nell’uso (bias allocativo) di algoritmi che sono spesso oscuri e intrasparenti.

Il Linguaggio virtuale

MM Realtà immersive, videogiochi, metaversi: sempre più spesso interagiamo con avatar creati da Intelligenze Artificiali in mondi tridimensionali virtuali o aumentati. Queste conversazioni human to machine stanno cambiando il modo in cui percepiamo il mondo e quindi le nostre modalità di espressione e comunicazione?

ES Sì e no. Partecipando alle realtà immersive digitali sperimentiamo la possibilità di vedere il mondo da una prospettiva diversa dalla nostra, e questo amplifica enormemente la portata e la diversità delle osservazioni possibili. Ma questo di per sé non è una novità: avviene già da alcuni secoli, da quando esiste il romanzo moderno che ha introdotto la forma comunicativa della finzione. Chi legge un romanzo o guarda un film sperimenta una realtà che non esiste (è creata dall’autore e lo si sa benissimo) ma ciononostante non è una bugia – è un universo alternativo che ci consente di vivere delle esperienze “fittizie” che poi influenzano pesantemente il nostro modo di rapportarci con la realtà e con il mondo. Ciascuno di noi sa che cosa vuol dire innamorarsi prima di incontrare la persona che amerà – tramite i film e i romanzi, che incidono sulle nostre aspettative, sulle immagini del mondo e sui rapporti con gli altri.

I vari metaversi da questo punto di vista non sono nulla di nuovo – ma da un’altra prospettiva lo sono perché introducono una dimensione che in precedenza non era possibile: la possibilità di interagire direttamente con il mondo nella finzione. Le realtà virtuali consentono in un certo senso di entrare nello specchio, cosa che nella forma tradizionale di finzione non è mai stata possibile. In questo i videogiochi – in cui si combatte, ci si nasconde, si influenza il decorso della storia – sono fenomeni nuovi che producono una forma inedita di intreccio tra realtà reale e realtà artificiale.  L’interattività è una dimensione realmente nuova, che distingue il virtuale dalla finzione, con conseguenze che sono ancora da esplorare: ne derivano da un lato gli spaventosi scenari di guerre condotte a distanza, ma anche la possibilità di realizzare delle operazioni chirurgiche su pazienti che si trovano in un altro continente.

Il linguaggio organizzato per liste

MM Un tema che mi affascina da molti anni (lo affrontavo in un capitolo del mio libro del 2006, Nulla due volte. Il management attraverso la poesia di Wislawa Szymborska e che ho ripreso in post qui su NOVA100 qualche anno dopo) è quello della centralità delle liste nel nostro modo (umano, quindi, dato che non sono un bot… almeno credo!) di organizzare il pensiero. Come ricorda anche nel tuo libro,  l’elenco è una tecnica antichissima. Risale a Esiodo e Omero arrivando alla nostra quotidianità. La prima cosa che ci accade, quando veniamo al mondo, è di essere iscritti all’anagrafe, ovvero all’elenco burocratico che certifica la nostra esistenza. L’ultima è la lettura del testamento, un catalogo a tutti gli effetti. Fra questi due momenti, passiamo la vita a scrivere liste: sull’agenda, sul diario, sul calendario appeso al muro; le digitiamo sul telefonino, le appiccichiamo con i post-it sul frigorifero, sul computer, in bacheca. Per ricordarci di andare dal parrucchiere, di prenotare un posto al cinema, di andare alla partita di calcetto… Per non parlare delle wishlist che compiliamo su Amazon, e-bay, TripAdvisor. E cos’è la blockchain, la modalità più sicura e diffusa oggi di effettuare transazioni in Rete, se non una lista, in continua crescita, di “blocchi” collegati tra loro e resi sicuri mediante l’uso della crittografia?

Tornando alle origini della cultura occidentale,  la descrizione dello scudo di Achille in Omero serve a tramandare di padre in figlio alcune informazioni certe. Che so, qual è la pelle migliore che si deve scegliere per costruire uno scudo robusto. In origine, l’elenco era un modo di catalogare la realtà con l’obiettivo di dominarla, di definire la one best way di fare le cose, direbbe lo Scientific Manager di Taylor.

È però un modo di usare la tecnica dell’elenco che sopravvive fino a Moby Dick, poi sempre più di frequente gli scrittori denunciano l’impossibilità di questa operazione. Basta pensare all’elencazione “ellittica” di Montale, che ha un precedente ironico-crepuscolare in Gozzano, ma anche agli irresistibili anticlimax di Campanile o all’accumulo caotico frequente nei monologhi interiori di Joyce (“Cos’è che vola? Rondine? Pipistrello probabilmente. Pip. Eccola là. Bestiolina buffa. Chissà dove vive. Lassù sulla Torre” – Ulisse, NdR). Poeti come Carver e Szymborska usano la lista per accennare all’inesauribilità dell’identità individuale e collettiva.

La crisi dell’elenco come sistema di controllo panoptico della realtà coincide con la crisi del modello scientifico del lavoro. Ma ecco che cacciata dalla finestra del pensiero analogico, la “vertigine della lista” ritorna dalla finestra dell’elaborazione algoritmica…

ES Sono d’accordissimo con la tua descrizione della rilevanza delle liste come forma di organizzazione dei dati, e della loro ritrovata centralità nella società digitale. Come diceva Umberto Eco, il web “pensa” nella forma della lista. Ma perché? Nel mio libro cerco di ricondurre questa tendenza a una caratteristica delle liste sfruttata già nelle culture antiche, ma progressivamente marginalizzata nella società moderna: le liste non presuppongono un ordine, ma consentono di crearlo. Questo avveniva ad esempio nelle liste cuneiformi mesopotamiche, che erano utilizzate a scopi mnemonici e raccoglievano i materiali piu eterogenei senza un principio di fondo – ma una volta che gli oggetti erano stati elencati in una colonna, si potevano notare delle corrispondenze e delle somiglianze, e si potevano combinare gli oggetti in schemi e pattern. Secondo Jack Goody, i progressi dell’astrazione e della concettualizzazione sono stati la conseguenza, non il presupposto, delle liste scritte. Si può lavorare con le liste senza conoscere gli oggetti che si trattano, ed evidenziare le regolarità e le strutture in un secondo tempo – come si faceva nell’antichità e come fanno gli algoritmi che ricercano dei “patterns” nei dati senza conoscere e comprendere i materiali su cui lavorano.

L’ipotesi che presento nel libro è che la visualizzazione sia una risposta all’opacità dei recenti algoritmi e un modo per renderla produttiva. Invece di spiegare e interpretare i testi nel tradizionale “close reading”, le Digital  Humanities stanno escogitando dei modi differenti per gestire l’incomprensibilità dei processi digitali e sfruttarla nelle interazioni con gli utenti umani. La visualizzazione è una soluzione potente e sempre più diffusa.

Il lavoro autonomo degli algoritmi porta a individuare nei dati delle strutture (o pattern) senza l’intervento dei ricercatori, e in modo spesso incomprensibile. Visualizzando i loro risultati, però, gli algoritmi possono mostrare qualcosa che i ricercatori non stavano cercando, e offrirlo alla loro interpretazione e esplorazione.  L’interpretazione dei pattern può così condurre a informazioni nuove. Ciò che viene mostrato sono le configurazioni “scoperte” autonomamente dagli algoritmi, che possono servire per ampliare l’ orizzonte interpretativo dei ricercatori.

Il linguaggio visuale

MM “Gli strumenti di visualizzazione” scrivi “sono fondamentali per il lavoro delle Digital Humanities, soprattutto negli studi che coinvolgono grandi quantità di dati. Secondo Gitelman e Jackson, «i dati vengono mobilitati graficamente». La lettura «a distanza» di Franco Moretti trasforma i testi in «mappe, grafici, alberi». I pattern identificati dagli algoritmi vengono tradotti in configurazioni spaziali che trasformano la complessa topologia dell’elaborazione digitale in immagini bidimensionali (ed eventualmente tridimensionali). Questo tipo di tecniche si stanno diffondendo sempre di più, spostandosi «da un ambito di ricerca specialistico ed esotico ed entrando nel mainstream della progettazione di applicazioni di interfaccia utente».” Ma perché la disciplina testuale per eccellenza, l’analisi letteraria, si sta spostando verso strumenti di tipo visivo?

ES L’ipotesi che presento nel libro è che la visualizzazione sia una risposta all’opacità dei recenti algoritmi e un modo per renderla produttiva. Invece di spiegare e interpretare i testi nel tradizionale “close reading”, le Digital  Humanities stanno escogitando dei modi differenti per gestire l’incomprensibilità dei processi digitali e sfruttarla nelle interazioni con gli utenti umani. La visualizzazione è una soluzione potente e sempre più diffusa.

Il lavoro autonomo degli algoritmi porta a individuare nei dati delle strutture (o pattern) senza l’intervento dei ricercatori, e in modo spesso incomprensibile. Visualizzando i loro risultati, però, gli algoritmi possono mostrare qualcosa che i ricercatori non stavano cercando, e offrirlo alla loro interpretazione e esplorazione.  L’interpretazione dei pattern può così condurre a informazioni nuove. Ciò che viene mostrato sono le configurazioni “scoperte” autonomamente dagli algoritmi, che possono servire per ampliare l’orizzonte interpretativo dei ricercatori.

Il linguaggio emotivo

MM Il cervello umano è una meravigliosa macchina in grado di compiere miliardi di operazioni al secondo e di coordinare un sistema complesso ed estremamente delicato come il corpo umano. A partire dallo studio sperimentale dei meccanismi cellulari e molecolari alla base del funzionamento cerebrale, è possibile ricostruire al computer reti neuronali realistiche in grado di prevedere il comportamento del cervello. Allo stato attuale nell’ambito delle neuroscienze c’è grande attenzione alle interazioni e alle applicazioni verso il vasto mondo costantemente in espansione dell’intelligenza artificiale. Ma è possibile pensare di creare una forma di intelligenza artificiale autonoma che sia simile ad un cervello umano nella sua complessità?

ES Ma ce n’è bisogno? La complessità strabiliante del cervello umano è legata anche dal fatto che sappiamo ancora molto poco di come è fatto e di come lavora. Conviene allora pensare di riprodurre artificialmente la nostra ignoranza? Le analogie con il cervello (con quel poco che sappiamo del suo funzionamento) servono senz’altro da ispirazione ai programmatori, ma si sta diffondendo l’idea che lo scopo del loro lavoro non sia creare una forma di intelligenza che assomigli al cervello umano. La più recenti tecniche di programmazione producono degli algoritmi che funzionano in modo esplicitamente diverso dal nostro cervello, lavorando con un numero elevatissimo di dimensioni, per noi impossibile da seguire e da ricostruire.

La persistenza dell’analogia con il cervello umano, a mio parere, ha un altro motivo. Dal momento che  il cervello umano è l’unica macchina che conosciamo che consente di generare informazione e partecipare alla comunicazione, si tende a pensare che se vogliamo riprodurre questa capacità dobbiamo riprodurre il cervello umano. Ma oggi gli algortimi più avanzati mostrano che si può generare la capacità di partecipare alla comunicazione senza riprodurre il cervello umano.