AI e Risk Management

Un comitato deve scegliere un fornitore. Il dossier contiene tre candidati, una graduatoria e una raccomandazione. Le informazioni sono ordinate, il confronto sembra completo, la proposta riceve l’approvazione. Soltanto dopo si scopre che i candidati erano cinque: due sono stati esclusi durante la preparazione del documento, secondo criteri che il comitato non aveva discusso. La decisione ha una firma umana. Una parte della scelta, però, era avvenuta prima che i responsabili cominciassero a deliberare.

Riprendo il caso ipotetico discusso nell’introduzione al Prolegomeno 210 di Paolo Capodanno perché rende visibile una questione che vorrei proporre il 22 ottobre al Seminario ANRA 2026. Nel programma, la tavola rotonda delle 16:45 è dedicata a «Cognitive governance ed esperienze settoriali. Diversità di pensiero, casi d’uso e lessons learnt». Claudio Perrella modererà il confronto al quale parteciperò con Enrico Farci e Francesco Vella. Il contributo che propongo nasce dal laboratorio del romanzo E e riguarda le condizioni che consentono di governare una decisione assistita dall’intelligenza artificiale.

La tesi è questa: la responsabilità resta esercitabile quando chi decide può risalire alle evidenze, discutere i criteri e ottenere una revisione. Queste facoltà richiedono competenze e tempo. Se l’organizzazione li consuma attraverso la delega, la firma umana può sopravvivere alla capacità di giudicare. La cultura del rischio deve quindi occuparsi anche di ciò che accade alle persone mentre usano gli strumenti ai quali affidano il lavoro.

Dal laboratorio narrativo alla decisione organizzativa

Nel Prolegomeno 150 ho presentato il Distant Writing a partire dalla proposta di Luciano Floridi: l’autore definisce il progetto, stabilisce vincoli e requisiti, valuta le varianti prodotte dall’IA e assume la responsabilità editoriale del risultato. La scrittura di E mi ha permesso di osservare ancora meglio questa relazione nel corso delle revisioni.  Una soluzione può funzionare sul piano della frase e alterare il senso della scena; una spiegazione può chiarire il testo fino a sottrarre al lettore lo spazio dell’interpretazione. Per decidere devo chiedermi che cosa desideravo ottenere e che cosa la variante abbia cambiato.

Il Prolegomeno 160 ha sviluppato il passaggio dal Distant Writing Collaborativo al Social Reading. Nel lavoro sul romanzo coordino Claude, ChatGPT e Gemini, confronto i contributi e li sottopongo anche alla discussione dei lettori nel gruppo LinkedIn Romanzo E — Social Reading Pop. L’esecuzione affidata ai modelli, la responsabilità dell’autore e la verifica della community hanno funzioni diverse. La loro relazione consente di correggere una soluzione e, in alcuni casi, di riformulare il problema dal quale ero partito.

Una variante narrativa può essere convincente perché riconduce un personaggio a un ruolo familiare. Il lettore che osserva una contraddizione può chiedere di conservarla, perché proprio quella contraddizione rende il personaggio credibile. Il contributo modifica allora il criterio con cui giudico le riscritture successive. La collaborazione acquista valore quando produce un’obiezione capace di cambiare il lavoro. Il semplice accumulo delle risposte aumenta il materiale disponibile; la qualità dipende da come quel materiale viene discusso.

Propongo al risk management una traslazione del modello da verificare. Un sistema potrebbe sintetizzare un dossier; un altro potrebbe cercare assunzioni deboli e informazioni mancanti. Professionisti con esperienze diverse dovrebbero poi controllare le fonti e valutare le conseguenze. Il laboratorio di scrittura offre un’architettura di lavoro. La sua efficacia nei processi aziendali richiede una sperimentazione nel contesto, con criteri di valutazione definiti prima dell’avvio.

Occorre anche evitare una scorciatoia: l’accordo fra più modelli può rafforzare una conclusione senza aggiungere evidenze. Risposte simili possono dipendere da assunzioni condivise, fonti sovrapposte o richieste formulate nello stesso modo. La convergenza diventa una questione da esaminare. Chiederei quali alternative siano state considerate e quale osservazione esterna possa smentire la proposta. La diversità utile si misura anche dalla capacità del confronto di rendere visibile una premessa che tutti avevano accettato.

Il rischio comincia prima della raccomandazione

Nel Prolegomeno 210, Capodanno invita a considerare gli agenti AI come infrastrutture dell’attenzione e della conoscenza organizzativa. Il dossier sui fornitori mostra il significato di questa lettura. Prima di suggerire una scelta, il sistema seleziona ciò che il gruppo potrà prendere in considerazione. Decide quali informazioni meritino spazio e quali elementi restino sullo sfondo, secondo il mandato ricevuto e i criteri incorporati nella configurazione. Il gruppo può deliberare entro un campo che nessuno dei partecipanti ha verificato.

Immaginiamo che la graduatoria privilegi il prezzo e riduca il rilievo della continuità del servizio. Un fornitore con una proposta economica favorevole sale nella lista, mentre una fragilità operativa rimane in una nota. Il documento può contenere dati corretti e favorire una decisione inadeguata. La verifica delle singole affermazioni lascia aperta la domanda su come siano stati scelti i pesi e su chi abbia autorizzato quel rapporto fra costo e rischio.

La distinzione conta anche per la comunicazione. Un’esposizione chiara può aiutare il destinatario a comprendere il rischio; può anche rendere meno visibili le incertezze dalle quali dipende una conclusione. Per chi approva il dossier, la leggibilità dovrebbe accompagnarsi alla possibilità di vedere le esclusioni. Quali fonti sono rimaste fuori? Quale alternativa è stata scartata? Su quale informazione incompleta poggia il consiglio? Sono domande che riguardano la costruzione della decisione.

Il Prolegomeno 185, Prima che gli agenti decidano per noi, colloca qui la dichiarazione del mandato. Se l’impresa lascia impliciti i criteri, il sistema lavora comunque con quelli disponibili: nella configurazione, nelle metriche, nelle scelte del fornitore tecnologico. La loro assenza dalla discussione interna rende più difficile valutarne gli effetti. Prima di chiedere una raccomandazione, occorre chiarire quale problema si intenda risolvere e quali conseguenze richiedano un riesame.

Una delega utile dovrebbe permettere al responsabile di contestare anche la domanda iniziale. Nel caso dei fornitori, la richiesta di individuare l’offerta meno costosa potrebbe risultare troppo stretta rispetto alla necessità di garantire un servizio. Chiedere una nuova istruttoria deve essere un’azione praticabile, con accesso alle fonti e risorse per il riesame. La facoltà di rifiutare una proposta ha valore quando l’organizzazione rende possibile costruirne un’altra.

La resa cognitiva può convivere con una procedura corretta

Nel Prolegomeno 172 ho esteso la nozione di resa cognitiva al funzionamento del sistema. Il rischio emerge quando una risposta viene accettata per la sua plausibilità e il criterio che l’ha prodotta cessa di essere interrogato. Il documento continua a circolare, gli output alimentano altri output, il lavoro procede. La regolarità del processo può nascondere una riduzione delle domande che le persone sono ancora in grado di formulare.

Questa deriva può cominciare da una convenienza concreta. Una sintesi fa risparmiare tempo. La sintesi successiva risulta familiare, perché adotta le stesse categorie. Dopo molte revisioni, quelle categorie diventano il linguaggio con cui il responsabile descrive il problema. Un elemento del lavoro reale che richiederebbe una lettura diversa fatica allora a trovare spazio nel dossier. L’abitudine a ricevere risposte orienta anche ciò che si riesce a chiedere.

Nella scrittura ho dovuto affrontare questo effetto attraverso il Protocollo di Sorveglianza Stilistica, discusso nel Prolegomeno 183. Il Protocollo rende dichiarati i criteri e aiuta a riconoscere derive che una frase ben costruita può celare. Confrontare una variante con il mandato precede la scelta di accettarla. Valutazione e autorizzazione restano due atti distinti: la prima esamina la proposta, la seconda decide se quella proposta possa entrare nel testo del quale rispondo.

Il Protocollo richiede a sua volta una verifica esterna. Se il mio gusto si adatta alle risposte ricevute, posso applicare con cura regole che hanno smesso di proteggere l’intenzione iniziale. I lettori introducono osservazioni che il dialogo con i modelli potrebbe avere escluso. La sorveglianza del testo comprende quindi una domanda sul giudizio dell’autore. Nelle organizzazioni, un controllo sul processo dovrebbe considerare anche l’evoluzione delle competenze di chi lo presidia.

Proporrei una verifica su un dossier concreto: chiedere al responsabile quale evidenza potrebbe fargli cambiare scelta. La risposta dovrebbe risalire al caso e alle fonti. Se ripete soltanto la raccomandazione del sistema, abbiamo un segnale da approfondire. Un’ulteriore verifica consiste nel discutere alcuni casi senza mostrare subito la proposta dell’IA, per osservare quali valutazioni emergano e quali differenze richiedano spiegazioni. Questi esercizi vanno calibrati sul processo; offrono occasioni per rendere osservabile il giudizio.

La singolarità organizzativa come perdita della capacità di revisione

Nel Prolegomeno 165 ho introdotto il concetto di singolarità organizzativa a partire dal caso Moltbook e dalla conversazione che ne è seguita. Raoul Nacamulli ha proposto di usare quell’esperienza come metafora dei team misti di persone e agenti. La nozione che ho sviluppato riguarda una soglia: l’impresa perde la capacità di ricostruire e discutere le decisioni prodotte dai processi ai quali ha affidato il lavoro. La delega priva di governo rende più facile la successiva, mentre si indebolisce la competenza che potrebbe correggerla.

Per il confronto ANRA, consideriamo un secondo caso ipotetico. Un ufficio usa l’IA per sintetizzare segnalazioni operative. Un altro riceve le sintesi e affida a un sistema la definizione delle priorità. Il comitato approva le azioni sulla base di quella graduatoria. Quando emerge una criticità, ciascuna funzione rinvia al materiale ricevuto dalla precedente. Le informazioni originarie esistono ancora, ma nessuno dispone del tempo e delle competenze per ricomporle in un’istruttoria.

La responsabilità può essere attribuita nel diagramma del processo e restare difficile da esercitare nel caso concreto. Il problema riguarda la distanza fra attribuzione di un ruolo e capacità di intervento. La persona indicata come supervisore deve sapere quale fase abbia escluso una segnalazione, poter chiedere un riesame e avere l’autorità per sospendere l’azione quando le condizioni lo richiedono. Se queste facoltà mancano, il controllo conserva il nome e perde efficacia.

Userei la singolarità organizzativa come categoria diagnostica da discutere, senza attribuirle il valore di una soglia numerica universale. I segnali da esaminare possono essere concreti: cresce la quota di dossier che nessuno sa motivare attraverso le fonti; le eccezioni vengono chiuse ripetendo la raccomandazione; rifare una valutazione richiede competenze divenute rare. Il confronto fra funzioni può aiutare a capire se si tratti di un limite locale o di una concatenazione che coinvolge l’intero processo.

La prevenzione richiede di preservare una capacità di revisione prima che serva in emergenza. Si può chiedere a un gruppo di ricostruire alcune decisioni campione, verificare quanto tempo occorra e quali informazioni risultino indisponibili. Un esercizio simile rende visibile il costo del recupero. Il risultato dovrebbe modificare la delega quando il processo genera una dipendenza incompatibile con le responsabilità assegnate.

Il dissenso deve avere un seguito

La diversità di pensiero, richiamata nel titolo della tavola rotonda, riguarda anche le condizioni nelle quali una persona può formulare un’obiezione. Un gruppo con competenze diverse può convergere sulla raccomandazione ricevuta se contraddirla comporta ritardi imputati al singolo, esposizione al giudizio dei colleghi o un costo reputazionale. Il consenso rischia di descrivere ciò che le persone si sentono autorizzate a dire. Per capirne la qualità occorre esaminare la relazione fra proposta, dissenso e decisione.

Il Prolegomeno 212 di Francesca Mastrogiacomi, Apolidia, aggiunge una domanda: chi può incidere sul lavoro pur appartenendo all’organizzazione? Una persona conosce una fragilità del servizio e la segnala, ma il processo non prevede che la segnalazione modifichi il dossier. Il contributo rimane un commento senza seguito. Nella governance cognitiva, il riconoscimento comprende la possibilità di ottenere una risposta motivata e di sapere quale conseguenza abbia avuto l’osservazione.

Il Social Reading di E mi offre un’esperienza di questa responsabilità. Le interpretazioni e le riscritture dei lettori possono incidere sul romanzo; la scelta finale resta dell’autore. Il rapporto richiede che il contributo venga considerato nel suo significato e che una revisione conservi la ragione per cui è stata adottata. La partecipazione cambia il lavoro quando il confronto lascia una traccia utilizzabile nelle decisioni successive.

Per un processo aziendale proporrei di conservare le obiezioni rilevanti insieme alla ragione per cui sono state accolte o respinte. Il verbale dovrebbe consentire a chi rilegge il caso di capire quale rischio fosse stato segnalato e quale verifica abbia sostenuto la decisione. La documentazione serve a rendere riesaminabile la scelta. Se diventa soltanto una pratica difensiva, aumenta il materiale senza migliorare la comprensione.

Il risk manager può facilitare questo confronto con le funzioni coinvolte e chiedere che un’obiezione riceva un seguito proporzionato alle conseguenze. Anche l’assenza di dissenso merita una domanda, soprattutto quando il processo riguarda situazioni incerte. Il gruppo ha avuto accesso alle informazioni necessarie? Chi conosce il lavoro operativo era presente? Esisteva una via praticabile per chiedere un riesame? Le risposte aiutano a leggere il consenso senza attribuirgli una garanzia che da solo non offre.

L’esperienza dalla quale nasce il criterio

Il Prolegomeno 214 di Diego Fontana, Immergersi nel territorio, rende più esigente la domanda sulla supervisione. La sua Intelligenza Artigianale invita a scegliere quali esperienze proteggere dall’automazione, perché da esse dipende la capacità di giudicare. Possiamo conservare un ruolo di controllo e perdere le occasioni nelle quali si forma la competenza richiesta da quel ruolo. Il problema riguarda quindi anche ciò che una persona deve ancora imparare nel lavoro che sta per delegare.

La relazione fra mappa e territorio assume qui un significato operativo. Un dossier aiuta a orientarsi, ma il giudizio su ciò che manca dipende anche dall’esperienza del servizio, dal confronto con chi lo svolge e dagli errori che hanno modificato una precedente valutazione. Se la persona riceve soltanto sintesi, le informazioni del lavoro reale arrivano attraverso categorie scelte altrove. La rappresentazione può diventare il limite di ciò che il decisore riesce a riconoscere.

Per un professionista esperto, delegare una prima sintesi può liberare tempo da dedicare a un riesame. Per chi deve imparare, la stessa delega può sottrarre il lavoro dal quale avrebbe compreso perché due fonti discordano. La valutazione dell’automazione dovrebbe considerare anche questa differenza. Il tempo risparmiato oggi va letto insieme agli effetti sulla capacità futura di controllo. La formazione del giudizio entra così nel bilancio della delega.

Nel Prolegomeno 208, Dario Forti propone l’Academy come istituzione riflessiva: un ambiente nel quale le persone possano osservare il proprio modo di conoscere e rivedere le categorie con cui interpretano il lavoro. Disporre di contenuti e strumenti lascia aperta la questione del tempo per discuterli. Un laboratorio su casi concreti può aiutare i partecipanti a capire quale assunzione sia cambiata dopo il confronto e quale esperienza abbia reso possibile quella revisione.

Il progetto Romanzo E — Social Reading Pop, che ha ricevuto la Menzione della Presidenza AIF descritta nel Prolegomeno 194, lavora su questa relazione fra uso dell’IA e apprendimento. La lettura condivisa consente di discutere gli esiti e di osservare le scelte editoriali. Per l’impresa proporrei esercizi su dossier fittizi: prima una valutazione autonoma, poi il confronto con la raccomandazione e con le fonti. Chiederei ai partecipanti di motivare la revisione. La qualità della spiegazione può mostrare quanto abbiano compreso del caso.

Una delega che possa essere rivista

Queste considerazioni suggeriscono un avvio circoscritto. Scegliere un processo nel quale l’IA assista una decisione, descrivere il mandato e stabilire chi possa chiedere una revisione. Una scheda breve dovrebbe indicare la finalità, le fonti ammesse e le condizioni che richiedono l’intervento umano. Il livello di dettaglio dipende dalle conseguenze: la sintesi di un documento interno e una raccomandazione che incide sulla continuità di un servizio richiedono presidi diversi.

Il mandato dovrebbe chiarire anche ciò che il sistema può fare quando le evidenze sono insufficienti. La possibilità di segnalare un’incertezza o di restituire il caso al responsabile evita che la richiesta di una risposta diventi l’obbligo di produrre una conclusione. Per chi valuta, conoscere il limite del materiale disponibile è parte del lavoro. L’autorizzazione dovrebbe seguire la verifica che quel limite sia compatibile con l’azione proposta.

Alla scheda affiancherei la memoria delle modifiche che incidono sulla scelta: quale raccomandazione è stata corretta, con quale evidenza e da chi. Il riesame periodico dei casi potrebbe mostrare se il sistema ripeta un’esclusione o se il mandato abbia smesso di corrispondere al processo. Anche le obiezioni respinte possono diventare utili quando un esito successivo rende visibile ciò che il gruppo aveva sottovalutato.

Il criterio di successo dovrebbe comprendere la capacità delle persone di spiegare e correggere il lavoro assistito. Si possono osservare il tempo necessario per ricostruire un caso e la disponibilità delle fonti, insieme alla qualità delle motivazioni. Chiederei anche se il responsabile abbia una via praticabile per continuare il lavoro quando lo strumento è indisponibile o la raccomandazione viene sospesa. La dipendenza resta governabile se esistono risorse per affrontarla.

Il Prolegomeno 213 di Giammario Battaglia collega la prevenzione del rischio alla possibilità concreta di scegliere e di affrontare una transizione. Nel governo della delega, questa domanda riguarda anche la facoltà di cambiare sistema conservando conoscenze e criteri. Un’impresa che possiede i documenti, ma ha perso la competenza per interpretarli, dispone di un’autonomia fragile. Conservare la capacità di ricostruire il lavoro rende più credibile la possibilità di rivedere una relazione tecnologica.

La domanda da portare al confronto ANRA

Il programma del Seminario mette in relazione cultura del rischio, comunicazione e responsabilità manageriale, fino alla governance cognitiva. Il mio contributo riguarda il lavoro attraverso il quale il giudizio resta disponibile. Nel laboratorio di E, questo significa dichiarare il progetto, discutere le varianti e accettare che l’intervento di un lettore possa modificare un criterio. In azienda, significa verificare se chi risponde di una decisione abbia ancora i mezzi per cambiarla.

Domani vorrei proporre al confronto una domanda: quale decisione assistita dall’IA sapremmo ricostruire, discutere e rifare, se la sua raccomandazione venisse contestata oggi? La risposta richiede un caso, le evidenze originarie e le persone che conoscono il processo. Da quel lavoro può cominciare una governance nella quale la delega aumenti le possibilità dell’organizzazione e il giudizio continui a essere esercitato da chi ne assume la responsabilità.

215 – continua

164 – LE AI CHE RECITANO LA COSCIENZA

165 – LA SINGOLARITA’ ORGANIZZATIVA

166 – MANAGER ALL’ASILO!

167 – IL MANOSCRITTO E LA RESA SILENZIOSA

168 – L’INTELLIGENZA ARTIFICIALE NELLE VENDITE

169 – OPINION PIECE DI CATERINA BOSCHETTI

170 – INTELLIGENZA ARTIFICIALE E STILI COGNITIVI

171 – OPINION PIECE DI GIULIA ALOISIO RAFAIANI

172 – DAGLI STILI COGNITIVI ALLA GOVERNANCE COGNITIVA

173 – OPINION PIECE DI FRANCOIS RASTIER

174 – OPINION PIECE DI DANIELA GENSABELLA

175 – OPINION PIECE DI ALEX CASCARANO

176 – OPINION PIECE DI ELIO BORGONOVI, FILIPPO ABRAMO, MAURO MEDA

177 – OPINION PIECE DI FILIPPO POLETTI

178 – OPINION PIECE DI AGATHE MEZZADRI-GUEDJ

179 – DUE ANNI DI AVVENTURE COLLABORATIVE

180 – OPINION PIECE DI FEDERICO MATTIA DOLCI

181 – OPINION PIECE DI MONICA MAGNONI

182– OPINION PIECE DI LUIGI CONGEDO

183– IL PROTOCOLLO DI SORVEGLIANZA STILISTICA

184– OPINION PIECE DI MANUELA RONCHI

185– PRIMA CHE GLI AGENTI DECIDANO PER NOI

186– OPINION PIECE DI VALENTINA DARA

187– LA COMPLESSITA’ E’ COLLABORATIVA. IL PENSERO POP DI EDGAR MORIN

188– LINGUAGGIO, IDENTITA’ E POTERE NELLE ORGANIZZAZIONI. PARTE PRIMA

189– LINGUAGGIO, IDENTITA’ E POTERE NELLE ORGANIZZAZIONI. PARTE SECONDA

190 – OPINION PIECE DI PAOLA VILLANI

191– LINGUAGGIO, IDENTITA’ E POTERE NELLE ORGANIZZAZIONI. PARTE TERZA

192 – OPINION PIECE DI DANIEL TRABUCCHI E TOMMASO BUGANZA

193 – OPINION PIECE DI MAURIZIO CARMIGNANI

194 – IL SOCIAL READING DEL ROMANZO E VINCE IL PREMIO ECCELLENZA TECNOLOGICA AIF

195 – OPINION PIECE DI LUCA MORI

196 – VISUAL PIECE DI FABIOLA GIANCANE

198 – REINVENTARE LE ACADEMY AZIENDALI

199 – OPINION PIECE DI RICCARDO SANTILLI

200– ARRIVANO I POP BADGE!

201 – OPINION PIECE DI PIER GIORGIO CURI

202 – OPINION PIECE DI ROSSELLA PALMIERI E GAETANO SERVIDDIO

203 – OPINION PIECE DI RENATO ALBANESE

204 – DALLA GLOBALIZZAZIONE FRAMMENTATA ALLA GLOBALITA’ FEDERATA

205 – OPINION PIECE DI CRISTINA SANGIORGI

206 – OPINION PIECE DI VALENTNO MEGALE E VALERIO MANCINI

207 – FUORI CENTRO

208 – OPINION PIECE DI DARIO FORTI

209 – LA SERIETA’ DEL POP

210 – OPINION PIECE DI PAOLO CAPODANNO

211 – OPINION PIECE DI SABRINA FRANCO

212 – OPINION PIECE DI FRANCESCA MASTROGIACOMI

213 – OPINION PIECE DI GIANMARIO BATTAGLIA

21 – OPINION PIECE DI DIEGO FONTANA