AI: stiamo assicurando un rischio che ancora non conosciamo

Il d.lgs. 9 settembre 2026, n. 160 introduce una disciplina speciale per i danni cagionati nell’utilizzo di sistemi di intelligenza artificiale: accesso alle prove, presunzione del nesso causale, possibilità di conoscere la copertura assicurativa del potenziale responsabile e, soprattutto, azione diretta contro l’assicuratore. (testo del decreto)

Leggendolo mi sono posto una domanda abbastanza banale: ma tutti questi sinistri da AI, dove sono?

Perché una disciplina speciale della prova e addirittura un’azione diretta contro la compagnia fanno pensare a un problema già piuttosto concreto. Ci si aspetterebbero richieste risarcitorie in aumento, sentenze contraddittorie, statistiche, dati attuariali, magari qualche assicuratore preoccupato.

Nei lavori preparatori italiani non c’è praticamente nulla di tutto questo.

Il Governo pone un problema diverso: chi subisce il danno vede il risultato, ma le informazioni necessarie per capire che cosa sia accaduto dentro il sistema sono normalmente nella disponibilità di chi quel sistema lo ha prodotto, integrato o utilizzato. La relazione parla espressamente di asimmetria informativa e probatoria. (Atto del Governo n. 418)

Quindi il presupposto non è: i sinistri sono già molti.

È: quando arriveranno, rischiamo di non sapere come provarli.

E andando indietro nei documenti europei si scopre che è esattamente così che questa storia è cominciata.

Nel 2020 il Parlamento europeo approva una risoluzione sulla responsabilità civile dell’AI che definisce espressamente la materia future-oriented. Per i sistemi ad alto rischio immagina addirittura responsabilità oggettiva e assicurazione obbligatoria, prendendo a riferimento anche il modello automobilistico. Nello stesso documento ammette però che le tecnologie in questione sono ancora poco diffuse e che mancano serie storiche sufficienti per costruire un vero mercato assicurativo del rischio AI. (Parlamento europeo, 20 ottobre 2020)

Non è una contraddizione. È proprio il progetto: decidere come allocare il rischio prima di averne una statistica.

Nel 2022 la Commissione ridimensiona l’ambizione. Niente regime generale di responsabilità oggettiva, niente assicurazione obbligatoria: la proposta di AI Liability Directive si concentra soprattutto sull’accesso alle prove e sulle presunzioni, cercando di risolvere il problema più immediato, cioè come fa il danneggiato a dimostrare la causalità quando il funzionamento del sistema è tecnicamente complesso e opaco. (proposta di AI Liability Directive)

Anche qui, però, l’assicurazione resta dentro il ragionamento.

La Commissione prova a stimare l’effetto delle nuove regole sui premi, ma lo fa ammettendo apertamente che mancano dati sufficienti e che la valutazione deve fondarsi su assunzioni ragionate. In altre parole: si cercava già di capire come assicurare un rischio che non era ancora seriamente misurabile. (Impact Assessment della Commissione)

Ed è questo, molto più dei numeri, il dato interessante.

Il rischio poteva essere enorme; semplicemente non sapevamo ancora quanto spesso si sarebbe verificato, quanto sarebbe costato e quanto sarebbe stato facile o difficile distribuirlo.

Basta pensare a qualche caso.

Un sistema diagnostico non rileva una lesione. Il medico si affida al risultato e la diagnosi arriva sei mesi dopo. Di chi è l’errore? Del modello? Dei dati sui quali è stato addestrato? Dell’ospedale che lo ha integrato? Dell’aggiornamento? Dei dati inseriti? Del medico che avrebbe dovuto capire che quella risposta non tornava?

Un sistema industriale non segnala un’anomalia e provoca danni agli impianti, fermo produttivo e lesioni. Oppure un modello di credit scoring contiene un errore che penalizza automaticamente migliaia di persone prima ancora che qualcuno se ne accorga.

Il punto è questo: l’errore può diventare seriale.

Peraltro stiamo discutendo di tutto questo mentre l’AI comincia a uscire definitivamente dal computer e a entrare nell’organizzazione materiale della società.

La strategia europea Apply AI ne promuove l’adozione nella sanità, nei trasporti, nell’energia, nella robotica, nell’industria, nelle comunicazioni e nella pubblica amministrazione. La stessa Commissione parla di un approccio “AI first” nelle decisioni strategiche delle organizzazioni. (Commissione europea, Apply AI Strategy)

In sanità il processo è già iniziato. E qui il punto non è fantasticare su ospedali comandati da una macchina. Basta sommare applicazioni molto più normali: diagnostica per immagini, monitoraggio dei parametri, valutazione del rischio clinico, supporto alle prescrizioni, gestione delle priorità, dimissioni, posti letto, turni, approvvigionamenti. (WHO Europe, AI in health care)

È perfettamente possibile — anzi auspicabile — che tutto questo riduca gli errori.

Ma se cento ospedali utilizzano lo stesso modello, lo stesso aggiornamento o la stessa infrastruttura, un errore raro può propagarsi in un modo che l’errore del singolo medico non potrebbe mai fare.

Potremmo quindi avere meno errori, ma errori molto più correlati.

Per un assicuratore è un problema non banale. La scalabilità dell’AI può produrre perdite correlate tra molti assicurati e diverse linee di copertura; la concentrazione su pochi provider cloud e AI aggiunge un problema di accumulazione che i modelli assicurativi tradizionali digeriscono male. (Geneva Association) (Swiss Re Institute)

Qui torna un tema sul quale avevo già ragionato in “L’AI ci sterminerà? Forse il vero rischio è ben diverso”.

Il problema potrebbe non essere che l’AI diventi pericolosamente stupida. Potrebbe essere che diventi talmente brava da renderci progressivamente irragionevole non seguirla.

Se domani un sistema diagnostico dimostrasse, su una quantità enorme di casi, di essere significativamente più affidabile del medico, cosa succederebbe quando il medico decidesse di ignorarne la raccomandazione e il paziente subisse un danno?

Forse la domanda in giudizio non sarebbe più «perché ha seguito la macchina?».

Sarebbe: «perché non l’ha seguita?»

È una prospettiva abbastanza curiosa per una tecnologia della quale continuiamo a dire che deve rimanere sotto “supervisione umana”. Il controllo formalmente resterà all’uomo; il margine sostanziale per esercitarlo potrebbe diventare sempre più difficile da utilizzare.

È dentro questo scenario che il decreto italiano smette di sembrare così prematuro.

La storia nazionale passa da un momento preciso. Il 19 marzo 2025 compare nelle Commissioni riunite del Senato l’emendamento 22.200 (testo 2), che introduce nella delega la tutela civilistica del danneggiato e una specifica regolazione dell’onere della prova, da costruire «tenuto conto della classificazione dei sistemi di intelligenza artificiale e dei relativi obblighi» dell’AI Act. (Senato, seduta del 19 marzo 2025)

È un passaggio temporalmente interessante: poche settimane prima la Commissione europea aveva annunciato il ritiro della AI Liability Directive, che verrà poi formalmente ritirata. E la relazione italiana del 2026 riconosce esplicitamente che il quadro europeo è mutato e che parte della disciplina nazionale riprende proprio indicazioni contenute nella proposta europea ormai abbandonata.

L’Italia, insomma, prosegue per conto proprio.

L’articolo 17 consente al danneggiato di ottenere registri, documentazione tecnica, documenti sul risk management e informazioni sulla supervisione umana. La relazione dice apertamente che lo scopo è anche «valorizzare la funzione probatoria degli obblighi di compliance».

Questo passaggio merita più attenzione di quanta ne riceva.

La documentazione predisposta oggi per dimostrare di avere rispettato l’AI Act può essere esattamente quella che domani verrà utilizzata per dimostrare la responsabilità civile.

Ed è anche, inevitabilmente, la documentazione che interessa all’assicuratore per capire che cosa sta assicurando.

Non serve quindi sostenere che il decreto sia stato scritto “per le assicurazioni”. Non ne abbiamo prova e sarebbe una lettura troppo facile. Basta osservare un effetto molto concreto: le regole di compliance contribuiscono a produrre le informazioni necessarie per trasformare un rischio tecnologico ancora opaco in un rischio progressivamente valutabile e prezzabile.

Poi arriva l’articolo 20.

Il danneggiato può sapere se esiste una copertura assicurativa pertinente e, se esiste, può agire direttamente contro la compagnia.

La relazione indica senza particolari misteri da dove arriva l’idea: l’articolo 144 del Codice delle assicurazioni, cioè la RCA.

Solo che nella RCA l’assicurazione è obbligatoria.

Qui no.

È una scelta tecnicamente singolare: si importa dalla RCA l’azione diretta, ma non il suo presupposto naturale, cioè l’assicurazione obbligatoria.

Peraltro la compagnia conserva le eccezioni derivanti dal contratto anteriori al sinistro e risponde entro il massimale.

È un ibrido interessante.

Ed è difficile pensare che non produrrà conseguenze sul mercato: imprese, broker e assicuratori dovranno cominciare a chiedersi seriamente se e come le polizze RC esistenti coprano l’utilizzo dell’AI, quali sistemi vengano utilizzati, quali esclusioni siano opportune e quale prezzo attribuire al rischio.

Non necessariamente un regalo alle compagnie. Anzi, essere convenuti direttamente in giudizio non è esattamente una vacanza.

Ma certamente un acceleratore della necessità di definire quel rischio.

Resta poi l’articolo 18, che è forse il passaggio più interessante per noi civilisti.

La delega chiedeva che la disciplina dell’onere della prova tenesse conto della classificazione dei sistemi e dei relativi obblighi. La relazione governativa parla addirittura di una presunzione causale «modulata in funzione della classificazione di rischio del sistema».

L’articolo 18, però, dice che quando il danno deriva dalla violazione di uno o più obblighi dell’AI Act, il nesso causale tra violazione e danno è presunto salvo prova contraria.

Assonime ha già osservato che una violazione relativa, per esempio, alla gestione del rischio non è necessariamente equivalente, sotto il profilo causale, a qualsiasi altro inadempimento regolatorio. (Assonime, Consultazione 16/2026)

Una risposta possibile c’è: gli obblighi dell’AI Act sono già differenziati secondo sistemi e operatori, quindi la modulazione potrebbe essere incorporata nel rinvio stesso al Regolamento.

Possibile.

Ma rimane una domanda piuttosto semplice: se la relazione dice che la presunzione è modulata secondo il rischio, dove si vede esattamente questa modulazione nel testo?

Dire oggi “eccesso di delega” sarebbe troppo. Dire che il problema non esiste sarebbe altrettanto sbrigativo.

Alla fine, quindi, credo che la domanda iniziale — dove sono tutti questi sinistri da AI? — abbia una risposta abbastanza chiara.

Non ci sono ancora, almeno non nella quantità che normalmente associamo alla nascita di un regime speciale di responsabilità.

Ma probabilmente è proprio questo il punto.

Stiamo iniziando a inserire l’AI negli ospedali, nelle fabbriche, nei trasporti, nell’energia e nelle decisioni economiche. Fra dieci anni potremmo dipendere dagli stessi modelli per porzioni enormi della nostra vita quotidiana.

Forse faranno molti meno errori di noi.

Speriamolo.

Il problema è che un nostro errore resta spesso nostro. Il loro può diventare di tutti contemporaneamente.

Ed è in questa prospettiva che il legislatore sta cercando di decidere oggi come dovremo provare quei danni, chi dovrà risponderne e quale parte del rischio potrà essere trasferita alle assicurazioni.

Il legislatore sta distribuendo oggi il costo di un rischio che ancora non sa misurare. Può darsi che sia lungimiranza. Può darsi che stiamo costruendo troppo presto un sistema destinato a funzionare in modo diverso da come immaginiamo. In ogni caso, il vero problema non è se l’AI farà danni. È capire chi pagherà quando inizierà a farli su scala.