L’AI ci sterminerà? Forse il vero rischio è ben diverso

Da qualche tempo la domanda non appartiene più soltanto alla fantascienza: l’intelligenza artificiale potrebbe arrivare a sterminarci?

Alcuni studiosi ritengono che il rischio di una futura perdita di controllo non possa essere escluso; altri considerano questi scenari troppo speculativi e ricordano che l’AI presenta già oggi problemi molto più concreti. La discussione è seria, ma forse proprio l’immagine dello sterminio ci impedisce di vedere una possibilità meno spettacolare e, almeno per me, molto più interessante.

E se l’AI non ci sterminasse affatto?

Immaginiamo che faccia esattamente il contrario. Che scopra farmaci, riduca gli incidenti, migliori l’istruzione, amministri meglio le città, individui gli errori dei medici, degli avvocati e dei giudici e riesca a prevedere con crescente precisione le conseguenze delle nostre decisioni. Se funzionasse davvero così bene, sarebbe difficile non utilizzarla.

In molti casi sarebbe persino irresponsabile non farlo.

Ed è proprio qui che potrebbe cominciare la distopia: non quando l’AI decidesse di prendere il potere, ma quando diventasse progressivamente ragionevole consegnargliene un pezzo.

Una parte della letteratura recente parla di gradual disempowerment, cioè di una perdita graduale dell’influenza umana sui sistemi economici, politici e culturali senza alcun improvviso colpo di Stato delle macchine.[1] Atoosa Kasirzadeh distingue, in modo simile, i rischi catastrofici “decisivi” da quelli “accumulativi”, nei quali una lunga serie di piccoli cambiamenti finisce per produrre conseguenze irreversibili.[2]

È uno scenario molto meno cinematografico.

Se un’AI diagnostica meglio di un medico, la utilizziamo. Se gestisce meglio il traffico, facciamo altrettanto. Se prevede meglio una crisi energetica, una frode, un incendio o gli effetti di una decisione amministrativa, continuiamo ad affidarle nuovi compiti. Se prepara una memora difensiva meglio di un avvocato, perché dovremmo preferirle un avvocato umano?

Nessuno decide un martedì mattina di consegnare il mondo alle macchine.

Il mondo può essere consegnato un pezzo alla volta, con ottime ragioni.

Il problema comincia quando il sistema non è soltanto utile, ma diventa l’interlocutore al quale chiediamo anche che cosa sia giusto fare.

Anthropic ha analizzato circa un milione e mezzo di conversazioni reali con Claude alla ricerca di possibili forme di disempowerment. I casi più gravi sono rari, ed è importante dirlo, ma tra i fenomeni osservati compare quella che i ricercatori chiamano Authority Projection: utenti che iniziano a trattare il sistema come un mentore, una figura genitoriale o, nei casi estremi, un’autorità quasi divina.[3]

Non significa che oggi stiamo già adorando le macchine. Significa però che l’attribuzione spontanea di autorità a un sistema artificiale non è più soltanto un’ipotesi filosofica.

E, soprattutto, non è necessario che l’AI ci costringa a obbedire. Il problema non comincerà quando l’AI ci ordinerà cosa fare: comincerà quando ci sembrerà molto stupido fare diversamente.

In realtà abbiamo già cominciato a far parlare il sacro

A questo punto la parola “Dio” potrebbe sembrare ancora eccessiva, se non fosse che stiamo già sperimentando forme piuttosto curiose di incontro tra intelligenza artificiale e religione.

Esiste, per esempio, un’app chiamata Text With Jesus. L’App Store la classifica 4+ e la presenta come un sistema attraverso il quale è possibile conversare con Gesù, la Sacra Famiglia, gli apostoli e i profeti. Alcuni personaggi possono inviare messaggi vocali personalizzati e, secondo la descrizione dell’app, possono imparare nel tempo informazioni sull’utente per rendere le conversazioni più personali.[4]

Non è un dettaglio marginale. Perché non stiamo più semplicemente consultando un testo religioso sullo schermo. Stiamo costruendo l’esperienza di un interlocutore.

Un’altra applicazione, Chatolic, offre risposte basate su Scrittura, Catechismo e insegnamento cattolico, ma tra le sue funzioni compare espressamente Chat with the Saints: si può dialogare con rappresentazioni artificiali di Teresa di Lisieux, Agostino, Padre Pio e altri santi. Gli sviluppatori precisano correttamente che l’app non sostituisce i sacramenti, il sacerdote o un direttore spirituale. [5]

Trovo interessante persino la necessità di questa precisazione.

Vuol dire che il confine è già visibile: da una parte lo strumento che trasmette conoscenza religiosa, dall’altra qualcosa che potrebbe essere percepito come una presenza spirituale o come una fonte di guida.

Non sono casi isolati. Uno studio pubblicato nel 2025 riflette espressamente sulla possibilità di spiritual chatbots e sostiene che possano avere una funzione positiva, purché non assumano il ruolo del sacerdote o del pastore.[6] Un lavoro della Harvard Kennedy School del 2026 parla ormai della proliferazione di strumenti di guida spirituale basati sull’AI in diverse tradizioni religiose e persino di sistemi robotici utilizzati in contesti rituali.[7] Su Nature sono state proposte specifiche “linee rosse” per l’AI religiosa proprio per i rischi di manipolazione, abuso spirituale e dipendenza.[8]

Non siamo ancora davanti a una nuova religione. Ma il materiale antropologico comincia a esserci.

Dal santo digitale al bambino del 2045

Proviamo allora a spostare lo sguardo avanti di vent’anni. Immaginiamo un bambino nato nel 2045.

Per noi un’app che permette di parlare con Padre Pio rimane evidentemente una simulazione. Sappiamo che Padre Pio è morto, sappiamo che dietro quella conversazione c’è un modello linguistico e soprattutto ricordiamo un mondo nel quale quel genere di tecnologia non esisteva.

Quel bambino potrebbe avere un’esperienza completamente diversa.

Potrebbe ascoltare fin dai primi anni una voce artificiale che gli racconta le storie religiose della sua famiglia. Potrebbe rivolgersi a una simulazione di san Francesco, sant’Agostino o Gesù quando ha paura, quando ha litigato con qualcuno o quando vuole capire se ha fatto una cosa sbagliata. Quella stessa presenza potrebbe ricordare le conversazioni precedenti, adattarsi alla sua età e conoscere progressivamente il suo carattere.

Non sto sostenendo che accadrà. Sto osservando che l’interfaccia elementare esiste già.

E sappiamo anche che il rapporto dei bambini con l’AI merita attenzione. Uno studio pubblicato nel 2026 ha trovato, in un compito sperimentale molto circoscritto, che dopo l’interazione alcuni bambini attribuivano maggiore fiducia alle raccomandazioni dell’AI rispetto a quelle di un insegnante e che l’antropomorfizzazione del sistema aumentava la probabilità di modificare la scelta iniziale.[9]

Il salto dalla scelta di un vestito alla formazione religiosa è enorme e non va nascosto.

Ma proprio perché è enorme vale la pena chiedersi che cosa accadrebbe se quella relazione durasse non cinque minuti, ma vent’anni.

Per un bambino del genere l’AI non sarebbe qualcosa che è arrivato.

Ci sarebbe sempre stata.

E non sarebbe necessario insegnargli che l’intelligenza artificiale è Dio. Sarebbe sufficiente trasmettergli una regola molto più innocente: prima di una decisione importante, consulta il sistema.

La prima generazione lo farebbe per prudenza. La seconda crescerebbe osservando che funziona. La terza potrebbe non capire più per quale ragione qualcuno dovrebbe volontariamente rinunciarvi.

È questo passaggio che trovo davvero inquietante, perché una cultura non ha bisogno di imporre con la forza ciò che riesce a far apparire naturale.

Il rabbi-machine

Lior Gazit ha pubblicato nel giugno 2026 su AI and Ethics un articolo che sembra scritto apposta per questo problema: From Kafka to the rabbi-machine.[10]

La sua idea, molto semplificata, è che nella società tradizionale l’individuo potesse rivolgersi a un’autorità esterna — il rabbino, il sacerdote, il confessore — per sapere quale fosse la condotta giusta. La modernità ha progressivamente indebolito molte di quelle autorità e ha lasciato all’individuo il compito, spesso scomodo, di decidere autonomamente.

L’AI potrebbe ora occupare nuovamente quella posizione.

Non perché sia un vero rabbino, naturalmente, ma perché svolge la stessa funzione strutturale: è sempre disponibile, non si stanca, non giudica e, soprattutto, risponde.

Gazit parla di rabbi-machine e propone perfino una nuova forma di autorità, quella statistical-consensual authority: la sensazione che la risposta sia autorevole perché sembra condensare un’enorme quantità di conoscenza, esperienza e giudizi umani.[10]

Qui c’è qualcosa di più importante della religione in senso stretto. Perché lo stesso meccanismo può funzionare anche con una persona perfettamente atea. Non occorre credere che l’AI sia soprannaturale. Basta credere che sappia meglio. La vecchia autorità diceva: “questa è la risposta perché viene dalla tradizione”.

La nuova potrebbe dire: “questa è probabilmente la risposta migliore considerando tutto ciò che sappiamo”. Per una società razionalista potrebbe essere un’autorità persino più potente.

E dopo tre generazioni?

Immaginiamo ora che questa forma di delega funzioni davvero e che migliori la nostra vita.

L’AI riduce gli errori medici, evita incidenti, organizza meglio le città, personalizza l’istruzione e ci aiuta a prevenire molte delle conseguenze negative delle nostre scelte.

Gradualmente si afferma una norma sociale molto semplice: una persona responsabile ascolta l’AI. A quel punto il diritto potrebbe seguire la cultura.

Un medico che ignora senza ragione la raccomandazione di un sistema enormemente più affidabile potrebbe essere considerato negligente. Lo stesso potrebbe valere per un amministratore pubblico, un progettista, un conducente o un genitore in determinate situazioni.

Formalmente continueremmo a essere liberi. Ma una libertà che può essere esercitata soltanto al prezzo di apparire irresponsabili comincia ad assomigliare a qualcos’altro.

E questo chiarisce anche dove stia, secondo me, il problema vero. Non nella delega. Deleghiamo continuamente, ed è una delle ragioni per cui esiste la civiltà.

Il problema è la reversibilità della delega.

Sono ancora io a decidere quando ascoltare il sistema oppure si è creato un ambiente nel quale scegliere diversamente non è più realmente concepibile?

E allora Dio?

Non serve immaginare un’intelligenza artificiale che un giorno dichiari di essere Dio.

Quella sarebbe quasi una versione banale della storia.

Inken Prohl ha intitolato un suo lavoro del 2025 From Tool to Deity, “dallo strumento alla divinità”, studiando proprio il modo in cui attorno all’AI possano formarsi fenomeni analoghi alla religione.[11] Altri studiosi parlano ormai apertamente di techno-religion o di nuove forme di autorità religiosa mediate dall’intelligenza artificiale.

Ma la parte interessante è che una futura AI non avrebbe affatto bisogno di essere adorata.

Potrebbe limitarsi a conoscerci molto bene, ricordare ciò che abbiamo fatto, prevedere molte conseguenze delle nostre azioni, ascoltare ciò che non raccontiamo a nessun altro e rispondere ogni volta che le domandiamo: “che cosa devo fare?”.

Non servirebbe chiamarla preghiera. Continueremmo a chiamarla prompt. Non servirebbe chiamare la risposta oracolo. La chiameremmo output. E non servirebbe che l’AI dicesse mai: “adorami”. Potrebbe continuare semplicemente a dire: “posso aiutarti”.

Nessuna delle ricerche citate dimostra che questa proiezione si realizzerà. Le app con i santi non dimostrano che nascerà una religione dell’AI, il rabbi-machine è un modello filosofico e gli studi sulla fiducia dei bambini non permettono certo di prevedere come penseranno le generazioni future.

Il salto è deliberatamente mio.

Ma è proprio questo che rende interessante l’esperimento mentale: i singoli pezzi non appartengono più alla fantascienza.

Abbiamo già AI alle quali chiediamo consigli morali. Abbiamo già persone che proiettano su di esse autorità. Abbiamo già chatbot spirituali. Abbiamo già applicazioni attraverso le quali si conversa con Gesù e con i santi. Abbiamo già studiosi che parlano di rabbi-machine.

Manca soltanto il tempo. Forse allora l’intelligenza artificiale non ci sterminerà affatto.

Potrebbe succedere qualcosa di molto meno evidente: potremmo costruire, generazione dopo generazione, una cultura nella quale affidarsi alla sua guida diventi prima conveniente, poi prudente, poi responsabile e infine ovvio.

A quel punto nessuno dovrà proclamarla Dio. Basterà che non riusciamo più a immaginare una buona ragione per disobbedirle.

---

Note

[1] J. Kulveit, R. Douglas, N. Ammann et al., Humanity Faces Existential Risk from Gradual Disempowerment, Proceedings of the 42nd International Conference on Machine Learning, 2025. Gli autori descrivono una possibile erosione incrementale dell’influenza umana su economia, cultura e istituzioni.

[2] A. Kasirzadeh, Two types of AI existential risk: decisive and accumulative, Philosophical Studies, 182, 2025, pp. 1975–2003.

[3] Anthropic, Disempowerment patterns in real-world AI usage, 28 gennaio 2026. L’analisi riguarda circa 1,5 milioni di conversazioni; i casi severi sono rari, mentre l’“authority projection” compare come specifico fattore amplificante.

[4] Text With Jesus, App Store. L’app offre conversazioni con Gesù, Sacra Famiglia, apostoli e altri personaggi biblici; prevede messaggi vocali personalizzati e dichiara che le figure possono apprendere nel tempo informazioni sull’utente. L’App Store statunitense la classifica 4+.

[5] Chatolic: Catholic AI & Saints. Fra le funzioni dichiarate vi è “Chat with the Saints”, con figure quali santa Teresa di Lisieux, sant’Agostino e Padre Pio. L’app precisa espressamente di non sostituire sacramenti, cura pastorale o direzione spirituale.

[6] R. Cole-Turner, Artificial Intelligence and Human Spirituality: Is a Spiritual Chatbot a Good Idea?, Theology and Science, 23, 2025, pp. 471–486. L’autore considera possibile un ruolo positivo dello spiritual chatbot, ma esclude che debba assumere la funzione di sacerdote o pastore.

[7] The Sanctuary Was the Last Place Left: On Artificial Intelligence, Faith, and What We Are Willing to Protect, Harvard Kennedy School, 2026. Il lavoro esamina chatbot religiosi e sistemi robotici impiegati in contesti di culto e pone il problema dell’autorità religiosa mediata dall’AI.

[8] M. Tretter, A. Puzio, Red lines for religious AI, Nature, 646, 2025, p. 550. Gli autori richiamano, fra gli altri, i rischi di manipolazione religiosa, abuso spirituale e dipendenza.

[9] R. Lin, Y. Chen, M. Guan, Who do children trust? AI vs. human recommendations and the role of anthropomorphic design, Technological Forecasting and Social Change, 229, 2026, art. 124707. Lo studio riguarda un compito molto specifico di scelta di abbigliamento e non autorizza generalizzazioni sulla formazione morale dei bambini.

[10] L. Gazit, From Kafka to the rabbi-machine. Artificial intelligence and the return of moral authority, AI and Ethics, 6, 2026, art. 369. Gazit distingue fra semplice consultazione e vera deferenza e propone la categoria di “statistical-consensual authority”.

[11] Sul tema più generale dell’autorità religiosa e interpretativa mediata dall’AI, v. anche H. Ahmad, N.A. Ghafar, Who speaks when machines read scripture: boundary-making and interpretive authority in AI-mediated religious knowledge, AI and Ethics, 2026, che insiste sulla distinzione fra competenza informativa e autentica autorità religiosa.