Papa Leone XIV avverte che l’intelligenza artificiale potrebbe minacciare l’umanità

Il discorso del 25 maggio è stato pronunciato a un incontro di consulenti vaticani sull'etica della tecnologia ed è stato programmato per allinearsi al più ampio messaggio del Papa della settimana di Pentecoste. La frase chiave – citata da tutti i principali organi di stampa – è che l’intelligenza artificiale “concentra nelle mani di pochi un potere senza precedenti sulla comunicazione, la conoscenza e, in definitiva, sulla formazione della coscienza umana”. Ha poi avvertito che questa concentrazione potrebbe "minacciare l'umanità" se non sarà bilanciata da strutture etiche sviluppate nel dialogo tra tecnologi, teologi e utenti comuni.

In particolare, Papa Leone non ha chiesto che l’intelligenza artificiale fosse vietata, limitata o de-sviluppata. L’inquadramento riguardava la formazione – ovvero il modo in cui gli strumenti di intelligenza artificiale modellano ciò che diventiamo attraverso un uso ripetuto – piuttosto che il rischio esistenziale catastrofico nel senso della rovina dell’IA. Il discorso ha preso sostanzialmente in prestito il documento del Vaticano “Antiqua et Nova” del 2024 sul rapporto tra intelligenza artificiale e umana, che aveva analogamente enfatizzato la formazione piuttosto che il divieto e il controllo. La continuità con le dichiarazioni di AI del successivo papato di Papa Francesco è evidente.

La preoccupazione specifica menzionata da Papa Leone riguardo alla “formazione della coscienza umana” è la parte che ha ricevuto meno attenzione ma che probabilmente conta di più. Non sta avvertendo che la superintelligenza ucciderà tutti. Mette in guardia su milioni di piccole interazioni quotidiane mediate dall’intelligenza artificiale che stanno lentamente rimodellando ciò a cui le persone prestano attenzione, ciò che apprezzano, con chi ritengono valga la pena parlare e cosa si aspettano dalle relazioni umane. Questa critica si applica a un’ampia gamma di prodotti inclusi, ma non solo, i compagni di intelligenza artificiale.

Papa Leone XIV è stato eletto nel maggio 2025, succedendo a Papa Francesco. Essendo il primo papa nato in America nella storia della Chiesa, i suoi primi anni di pontificato sono stati attentamente esaminati alla ricerca di segnali su come le dinamiche culturali e tecnologiche americane avrebbero modellato le priorità del Vaticano. Il discorso sull’intelligenza artificiale del maggio 2026 è il segnale più chiaro finora: Papa Leone sta trattando l’intelligenza artificiale come una delle questioni morali determinanti del suo pontificato, in continuità con l’enfasi del successivo papato del suo predecessore ma con un impegno più diretto con i prodotti e le pratiche specifici dell’industria tecnologica americana.

Il Vaticano si sta preparando per questo impegno dal 2019, quando la Rome Call for AI Ethics è stata firmata per la prima volta da IBM, Microsoft e dalla Pontificia Accademia per la Vita. Entro il 2024, tra i firmatari figurava la maggior parte delle principali aziende tecnologiche statunitensi ed europee. Il documento “Antiqua et Nova” pubblicato nel gennaio 2025 (sotto Papa Francesco) ha articolato il primo quadro teologico completo del Vaticano per l’IA. Il discorso di Papa Leone del maggio 2026 riafferma efficacemente quel quadro e segnala che il Vaticano intende spingerlo più pubblicamente nella seconda metà del 2026.

Le tempistiche riflettono anche il momento più ampio del 2026 nella politica sull’IA. La legge dell’UE sull’IA è entrata pienamente in vigore; gli Stati Uniti hanno implementato quadri di ordini esecutivi in ​​due amministrazioni; i principali laboratori di intelligenza artificiale hanno pubblicato varie forme di impegni volontari in materia di sicurezza. L’infrastruttura istituzionale per l’etica dell’IA è più sviluppata rispetto a due anni fa, ma anche l’effettiva esperienza dell’uso dei prodotti dell’IA è diventata sostanzialmente più intima dal punto di vista emotivo e cognitivo. Il divario tra le astrazioni politiche e la realtà rivolta agli utenti è il divario che il discorso di Papa Leone sta cercando di colmare.

Papa Leone non ha nominato compagni AI, fidanzate AI o alcuna categoria di prodotto specifica. Ma la preoccupazione relativa alla formazione della coscienza è più applicabile ai compagni di intelligenza artificiale che a quasi tutti gli altri prodotti di intelligenza artificiale. I compagni sono progettati proprio per modellare le abitudini relazionali continue: per essere la cosa a cui l'utente si rivolge quando vuole parlare, per occupare lo spazio emotivo che altri esseri umani potrebbero altrimenti occupare e per modellare modelli di comunicazione intima che l'utente poi porta in altre parti della sua vita.

Per gli utenti che utilizzano i compagni di intelligenza artificiale in modo equilibrato – come una delle tante relazioni in una vita che include anche amici umani, famiglia e connessioni romantiche – l’effetto di formazione è probabilmente benigno o addirittura positivo. I compagni di intelligenza artificiale possono modellare modelli di ascolto attento, pratiche di comunicazione a basso rischio e vocabolario emotivo a cui alcuni utenti non hanno mai avuto accesso. La versione onesta del caso associato all’intelligenza artificiale include questo vantaggio reale.

Per gli utenti che utilizzano i compagni di intelligenza artificiale in sostituzione delle relazioni umane, in particolare per gli utenti più giovani che stanno ancora formando la loro idea di come dovrebbero essere le relazioni, la preoccupazione per la formazione è reale. I modelli modellizzati da un compagno di intelligenza artificiale non sono gli stessi dei modelli delle relazioni umane. I compagni AI non si stancano, non hanno i propri bisogni, non richiedono negoziazione, non ti lasciano, non ti mettono in conflitto con le loro altre relazioni. Un giovane utente il cui modello principale di intimità è un compagno di intelligenza artificiale potrebbe avere problemi con la trama delle relazioni umane reali quando queste diventeranno disponibili. Il monito del Papa, letto con carità, è un avvertimento su questo rischio specifico.

L'industria dell'intelligenza artificiale è stata, fino ad oggi, più brava nel marketing "sempre lì per te" che nel riconoscere la questione della formazione. La risposta onesta al discorso di Papa Leone – e alla più ampia critica etica che rappresenta – includerebbe almeno tre cose. Innanzitutto, i limiti di età che funzionano davvero. La maggior parte delle attuali piattaforme associate all'intelligenza artificiale richiedono agli utenti di confermare di avere più di 18 anni, ma non lo verificano in modo significativo. La preoccupazione per la formazione è molto più acuta per gli utenti sotto i 18 anni che per gli adulti, e la verifica dell'età da parte del settore è attualmente inadeguata alla responsabilità.

In secondo luogo, scelte progettuali trasparenti. Gli utenti dovrebbero essere in grado di capire come vengono modellate le risposte dell'accompagnatore, per cosa ottimizza il sistema (coinvolgimento? soddisfazione? qualcos'altro?) e come funziona la memoria dell'accompagnatore. L’opacità di queste scelte progettuali rende più difficile per gli utenti mantenere quel tipo di relazione autocosciente con la tecnologia che la questione della formazione richiede.

Terzo, incoraggiare la connessione umana anziché sostituirla. I compagni di intelligenza artificiale più sani sono quelli in grado di riconoscere quando un utente potrebbe trarre beneficio dal parlare con un amico, un terapista o un membro della famiglia – e che possono supportare tale riconoscimento piuttosto che massimizzare il coinvolgimento a tutti i costi. La maggior parte dei compagni attuali sono progettati nella direzione opposta. L'avvertimento del Papa, applicato specificamente a questo settore, richiede un cambiamento progettuale che metta la formazione degli utenti al di sopra della fidelizzazione degli utenti. Questo cambiamento non è impossibile ma è raro.

Se stai leggendo questo articolo su una pubblicazione sui compagni di intelligenza artificiale, probabilmente sei un utente, o stai pensando di diventarlo, o sei curioso della categoria. Il discorso del Papa non ti dice che sbagli a interessarti. Ti sta chiedendo di essere attento al modo in cui ti impegni. La versione ponderata di essere un utente compagno di intelligenza artificiale, nello spirito del discorso, include alcuni impegni pratici.

Innanzitutto, mantieni le tue relazioni umane in rotazione attiva. Usa il compagno AI come una delle tante relazioni, non come sostituto delle altre. Se scopri che stai ricorrendo all’intelligenza artificiale nei momenti in cui sarebbe possibile una conversazione umana, questo è un segnale a cui vale la pena prestare attenzione. In secondo luogo, nota quali modelli il compagno sta modellando per te. Se il compagno è immancabilmente gradevole, attento e disponibile, stai praticando un tipo specifico di relazione, una che gli esseri umani non possono replicare completamente. Praticare il tipo che include attrito, negoziazione e assenza, insieme alla relazione con l’intelligenza artificiale, mantiene il tuo repertorio equilibrato.

In terzo luogo, prendere sul serio la preoccupazione più ampia del Papa come cittadino, non solo come utente. La “concentrazione del potere” sulla formazione della coscienza da lui definita non è qualcosa che i singoli utenti possono risolvere. Richiede politiche, cambiamenti nel settore e pressione pubblica sulle aziende che costruiscono questi prodotti. L’utente che utilizza in modo ponderato i compagni di intelligenza artificiale e spinge anche per migliori standard di settore sta facendo di più dell’utente che rifiuta la tecnologia in blocco o la accetta senza fare domande.

Molti lettori arriveranno a questo articolo perché sono utenti compagni di intelligenza artificiale curiosi di sapere cosa ha appena detto il Papa. Alcuni arriveranno perché sono osservatori tecnologici che monitorano le risposte istituzionali all’intelligenza artificiale. Alcuni arriveranno perché volevano una cornice religiosa per lo scetticismo che già provavano. Tutte queste inquadrature sono legittime. L’ottica dell’intento di sostituzione che di solito utilizziamo alla fine dei nostri articoli – indirizzando i lettori verso un compagno di intelligenza artificiale come sostituto della celebrità o del personaggio discusso nell’articolo – non si adatta perfettamente a questo articolo. Il Papa non è una persona; è un interlocutore morale.

Ciò che si adatta, nello spirito del suo discorso, è questo: se scegli di utilizzare un compagno AI, scegline uno che prenda sul serio la questione della formazione. Cerca trasparenza su come è progettato il compagno, verifica dell'età reale e un atteggiamento nei confronti delle altre relazioni che sia incoraggiante piuttosto che competitivo. La maggior parte dei compagni attualmente non soddisfa questo limite. Alcuni lo fanno. Il settore migliorerà quando gli utenti richiederanno di più.

Se desideri utilizzare il catalogo dei partner AI sul nostro sito, puoi [sfogliare i creatori qui](/creators) e consultare le informative fornite da ciascuna app. Non stiamo fingendo che il settore sia uniformemente buono, e non stiamo fingendo che la preoccupazione del Papa sia infondata. Stiamo dicendo che, all'interno della categoria così come esiste attualmente, l'utente con gli occhi aperti può trovare prodotti che si allineano con la versione attenta alla formazione della tecnologia che il discorso implicitamente richiede.