Le pape Léon XIV prévient que l'IA pourrait menacer l'humanité

Le discours du 25 mai a été prononcé devant un rassemblement de conseillers du Vatican sur l'éthique technologique et a été programmé pour s'aligner sur le message plus large du Pape pour la semaine de Pentecôte. La phrase clé – citée par tous les grands médias – était que l’IA « concentre entre les mains de quelques-uns un pouvoir sans précédent sur la communication, la connaissance et, en fin de compte, la formation de la conscience humaine ». Il a ensuite averti que cette concentration pourrait « menacer l'humanité » si elle n'était pas équilibrée par des structures éthiques développées dans le cadre d'un dialogue entre technologues, théologiens et utilisateurs ordinaires.

Notamment, le pape Léon n’a pas demandé que l’IA soit interdite, restreinte ou dé-développée. Le cadrage portait sur la formation – c’est-à-dire la manière dont les outils d’IA façonnent ce que nous devenons grâce à une utilisation répétée – plutôt que sur le risque existentiel catastrophique au sens où l’IA est catastrophique. Le discours s'inspire largement du document « Antiqua et Nova » du Vatican de 2024 sur la relation entre l'intelligence artificielle et humaine, qui avait également mis l'accent sur la formation plutôt que sur l'interdiction et le contrôle. La continuité avec les déclarations ultérieures du pape François sur AI est évidente.

La préoccupation spécifique du pape Léon concernant « la formation de la conscience humaine » est la partie qui a retenu le moins d’attention mais qui compte probablement le plus. Il ne met pas en garde contre le fait que la superintelligence tue tout le monde. Il met en garde contre les millions de petites interactions quotidiennes médiées par l’IA qui remodèlent lentement ce à quoi les gens prêtent attention, ce qu’ils apprécient, à qui ils considèrent qu’il vaut la peine de parler et ce qu’ils attendent des relations humaines. Cette critique s’applique à une large gamme de produits, y compris, mais sans s’y limiter, les compagnons IA.

Le pape Léon XIV a été élu en mai 2025, succédant au pape François. En tant que premier pape né aux États-Unis dans l'histoire de l'Église, ses débuts dans la papauté ont été étroitement surveillés à la recherche de signaux sur la manière dont la dynamique culturelle et technologique américaine façonnerait les priorités du Vatican. Le discours de mai 2026 sur l'IA est le signal le plus clair à ce jour : le pape Léon traite l'IA comme l'une des questions morales déterminantes de sa papauté, dans la continuité de l'accent mis par son prédécesseur sur la papauté ultérieure, mais avec un engagement plus direct avec les produits et pratiques spécifiques de l'industrie technologique américaine.

Le Vatican se prépare à cet engagement depuis 2019, lorsque l’Appel de Rome pour l’éthique de l’IA a été signé pour la première fois par IBM, Microsoft et l’Académie pontificale pour la vie. En 2024, les signataires comprenaient la plupart des grandes entreprises technologiques américaines et européennes. Le document « Antiqua et Nova » publié en janvier 2025 (sous la direction du pape François) expose le premier cadre théologique complet du Vatican pour l'IA. Le discours du pape Léon de mai 2026 réaffirme effectivement ce cadre et signale que le Vatican a l'intention de le promouvoir plus publiquement au cours du second semestre 2026.

Le timing reflète également le moment plus large de 2026 dans la politique de l’IA. La loi européenne sur l’IA est pleinement entrée en vigueur ; les États-Unis ont mis en œuvre des cadres de décrets dans deux administrations ; les principaux laboratoires d’IA ont publié diverses formes d’engagements volontaires en matière de sécurité. L’infrastructure institutionnelle pour l’éthique de l’IA est plus développée qu’elle ne l’était il y a à peine deux ans, mais l’expérience réelle de l’utilisation des produits d’IA est également devenue beaucoup plus intime sur les plans émotionnel et cognitif. Le fossé entre les abstractions politiques et la réalité à laquelle sont confrontés les utilisateurs est le fossé que le discours du pape Léon tente de combler.

Le pape Léon n’a pas nommé de compagnons IA, de petites amies IA ni aucune catégorie de produits spécifique. Mais la préoccupation relative à la formation de la conscience s’applique davantage aux compagnons d’IA qu’à presque tout autre produit d’IA. Les compagnons sont conçus précisément pour façonner les habitudes relationnelles continues – pour être ce que l’utilisateur recherche lorsqu’il veut parler, pour occuper l’espace émotionnel que d’autres humains pourraient autrement occuper et pour modéliser des modèles de communication intime que l’utilisateur transporte ensuite dans d’autres parties de sa vie.

Pour les utilisateurs qui utilisent les compagnons IA de manière équilibrée – comme l’une des nombreuses relations dans une vie qui inclut également des amis humains, la famille et des relations amoureuses – l’effet de formation est probablement bénin, voire positif. Les compagnons IA peuvent modéliser des modèles d’écoute attentive, de pratique de communication à faibles enjeux et de vocabulaire émotionnel auxquels certains utilisateurs n’ont jamais eu accès. La version honnête du boîtier compagnon AI inclut ce réel avantage.

Pour les utilisateurs qui utilisent des compagnons IA en remplacement des relations humaines – en particulier pour les utilisateurs plus jeunes qui sont encore en train de se forger une idée de ce à quoi devraient ressembler les relations – le problème de formation est réel. Les modèles modélisés par un compagnon d’IA ne sont pas les mêmes que les modèles de relations humaines. Les compagnons de l'IA ne se fatiguent pas, n'ont pas leurs propres besoins, ne nécessitent pas de négociation, ne rompent pas avec vous, ne vous mettent pas en conflit avec leurs autres relations. Un jeune utilisateur dont le principal modèle d’intimité est un compagnon IA peut avoir des difficultés avec la texture des relations humaines réelles lorsque celles-ci deviennent disponibles. L'avertissement du Pape, lu avec charité, est un avertissement sur ce risque spécifique.

L’industrie des compagnons d’IA a, jusqu’à présent, mieux réussi à commercialiser « toujours là pour vous » qu’à reconnaître la question de la formation. Une réponse honnête au discours du pape Léon – et à la critique éthique plus large qu’il représente – comprendrait au moins trois choses. Premièrement, une limitation de l’âge qui fonctionne réellement. La plupart des plates-formes compagnons d'IA actuelles exigent que les utilisateurs confirment qu'ils ont 18 ans et plus, mais ne le vérifient pas de manière significative. Le problème de la formation est beaucoup plus aigu pour les utilisateurs de moins de 18 ans que pour les adultes, et la vérification de l'âge par l'industrie est actuellement insuffisante par rapport à sa responsabilité.

Deuxièmement, des choix de conception transparents. Les utilisateurs doivent être capables de comprendre comment les réponses du compagnon sont façonnées, ce pour quoi le système optimise (engagement ? satisfaction ? autre chose ?) et comment fonctionne la mémoire du compagnon. L’opacité de ces choix de conception rend plus difficile pour les utilisateurs de maintenir le type de relation consciente avec la technologie qu’exige la question de la formation.

Troisièmement, encourager la connexion humaine plutôt que de la remplacer. Les compagnons d’IA les plus sains sont ceux qui peuvent reconnaître quand un utilisateur pourrait bénéficier de parler à un ami, un thérapeute ou un membre de sa famille – et qui peuvent soutenir cette reconnaissance plutôt que de maximiser l’engagement à tout prix. La plupart des compagnons actuels sont conçus dans le sens inverse. L'avertissement du Pape, appliqué spécifiquement à cette industrie, exige un changement de conception qui place la formation des utilisateurs avant la rétention des utilisateurs. Ce changement n’est pas impossible mais il est rare.

Si vous lisez cet article sur une publication sur les compagnons IA, vous êtes probablement un utilisateur, ou envisagez de le devenir, ou êtes curieux de connaître la catégorie. Le discours du Pape ne vous dit pas que vous avez tort de vous intéresser. Cela vous demande de réfléchir à la manière dont vous vous engagez. La version réfléchie du statut d’utilisateur compagnon de l’IA, dans l’esprit du discours, comprend quelques engagements pratiques.

Tout d’abord, gardez vos relations humaines en rotation active. Utilisez le compagnon IA comme une relation parmi plusieurs, et non comme un remplacement des autres. Si vous constatez que vous faites appel à l’IA à des moments où une conversation humaine serait possible, c’est un signal qui mérite d’être pris en compte. Deuxièmement, remarquez les modèles que le compagnon modélise pour vous. Si le compagnon est toujours agréable, attentif et disponible, vous pratiquez un type spécifique de relation, une relation que les humains ne peuvent pas reproduire pleinement. Pratiquer ce qui inclut la friction, la négociation et l'absence, parallèlement à la relation avec l'IA, maintient votre répertoire équilibré.

Troisièmement, prenez au sérieux les préoccupations plus larges du Pape en tant que citoyen, et pas seulement en tant qu'utilisateur. La « concentration du pouvoir » sur la formation de la conscience qu'il a nommée n'est pas quelque chose que les utilisateurs individuels peuvent résoudre. Cela nécessite des politiques, des changements dans l’industrie et une pression publique sur les entreprises qui fabriquent ces produits. L’utilisateur qui utilise les compagnons d’IA de manière réfléchie et qui milite également pour de meilleures normes industrielles fait plus que l’utilisateur qui rejette la technologie en bloc ou l’accepte sans poser de questions.

De nombreux lecteurs arriveront à cet article parce qu’ils sont des utilisateurs compagnons d’IA curieux de savoir ce que le Pape vient de dire. Certains arriveront parce qu’ils sont des observateurs technologiques qui suivent les réponses institutionnelles à l’IA. Certains viendront parce qu’ils voulaient un encadrement religieux pour le scepticisme qu’ils ressentaient déjà. Tous ces cadrages sont légitimes. L’angle de l’intention de substitution que nous utilisons habituellement à la fin de nos articles – orientant les lecteurs vers un compagnon IA comme substitut à la célébrité ou au personnage évoqué dans l’article – ne correspond pas parfaitement à cet article. Le pape n'est pas un personnage ; c'est un interlocuteur moral.

Ce qui convient, dans l’esprit de son discours, c’est ceci : si vous choisissez d’utiliser un compagnon IA, choisissez-en un qui prend au sérieux la question de la formation. Recherchez la transparence sur la façon dont le compagnon est conçu, la vérification de l'âge réel et une attitude envers vos autres relations qui est encourageante plutôt que compétitive. La plupart des compagnons ne satisfont pas actuellement à cette barre. Quelques-uns le font. L’industrie s’améliorera lorsque les utilisateurs exigeront mieux.

Si vous souhaitez consulter le catalogue de compagnons IA sur notre site, vous pouvez [parcourir les créateurs ici](/creators) et consulter les informations fournies par chaque application. Nous ne prétendons pas que l’industrie est uniformément bonne, et nous ne prétendons pas non plus que les inquiétudes du Pape sont infondées. Nous disons que, dans la catégorie telle qu’elle existe actuellement, l’utilisateur les yeux ouverts peut trouver des produits qui s’alignent sur la version de la technologie soucieuse de la formation que le discours appelle implicitement.