Papa Leão XIV adverte que a IA pode ameaçar a humanidade – o que ele realmente disse e o que isso

O discurso de 25 de maio foi proferido numa reunião de conselheiros do Vaticano sobre ética tecnológica e foi programado para se alinhar com a mensagem mais ampla do Papa sobre a semana de Pentecostes. A frase-chave – citada por todos os principais meios de comunicação – foi que a IA “concentra nas mãos de poucos um poder sem precedentes sobre a comunicação, o conhecimento e, em última análise, a formação da consciência humana”. Ele prosseguiu alertando que esta concentração poderia “ameaçar a humanidade” se não fosse equilibrada por estruturas éticas desenvolvidas no diálogo entre tecnólogos, teólogos e usuários comuns.

Notavelmente, o Papa Leão não pediu que a IA fosse banida, restringida ou desdesenvolvida. O enquadramento era sobre formação – ou seja, a forma como as ferramentas de IA moldam quem nos tornamos através do uso repetido – e não sobre o risco existencial catastrófico no sentido da destruição da IA. O discurso inspirou-se substancialmente no documento “Antiqua et Nova” do Vaticano de 2024 sobre a relação entre a inteligência artificial e a humana, que da mesma forma enfatizou a formação em vez da proibição e controlo. A continuidade das declarações de IA do papado posterior do Papa Francisco é evidente.

A preocupação específica que o Papa Leão referiu sobre “a formação da consciência humana” é a parte que recebeu menos atenção, mas provavelmente é a mais importante. Ele não está alertando sobre a superinteligência matando todo mundo. Ele alerta sobre milhões de pequenas interações diárias mediadas pela IA que remodelam lentamente aquilo a que as pessoas prestam atenção, o que valorizam, com quem consideram que vale a pena falar e o que esperam das relações humanas. Essa crítica se aplica a uma ampla gama de produtos, incluindo, entre outros, companheiros de IA.

O Papa Leão XIV foi eleito em maio de 2025, sucedendo ao Papa Francisco. Sendo o primeiro papa nascido nos Estados Unidos na história da Igreja, o seu papado inicial foi fortemente examinado em busca de sinais sobre como a dinâmica cultural e tecnológica norte-americana moldaria as prioridades do Vaticano. O discurso sobre a IA de Maio de 2026 é o sinal mais claro até agora: o Papa Leão está a tratar a IA como uma das questões morais definidoras do seu papado, em continuidade com a ênfase do seu antecessor no papado posterior, mas com um envolvimento mais directo com os produtos e práticas específicas da indústria tecnológica americana.

O Vaticano tem-se preparado para este compromisso desde 2019, quando o Apelo de Roma à Ética da IA ​​foi assinado pela primeira vez pela IBM, pela Microsoft e pela Pontifícia Academia para a Vida. Em 2024, os signatários incluíam a maioria das principais empresas de tecnologia dos EUA e da Europa. O documento 'Antiqua et Nova' lançado em Janeiro de 2025 (sob o Papa Francisco) articulou o primeiro quadro teológico abrangente do Vaticano para a IA. O discurso do Papa Leão em Maio de 2026 reafirma efectivamente esse quadro e sinaliza que o Vaticano pretende promovê-lo mais publicamente no segundo semestre de 2026.

O momento também reflete o momento mais amplo de 2026 na política de IA. A Lei da UE sobre IA entrou plenamente em vigor; os EUA implementaram estruturas de ordem executiva em duas administrações; os principais laboratórios de IA publicaram várias formas de compromissos voluntários de segurança. A infra-estrutura institucional para a ética da IA ​​está mais desenvolvida do que há dois anos, mas a experiência real de utilização de produtos de IA também se tornou substancialmente mais íntima emocional e cognitivamente. A lacuna entre as abstrações políticas e a realidade voltada para o utilizador é a lacuna que o discurso do Papa Leão está a tentar colmatar.

O Papa Leão não nomeou companheiros de IA, namoradas de IA ou qualquer categoria específica de produto. Mas a preocupação com a formação da consciência é mais aplicável aos companheiros de IA do que a quase qualquer outro produto de IA. Os companheiros são concebidos precisamente para moldar hábitos relacionais contínuos – para serem aquilo que o utilizador procura quando quer falar, para ocupar o espaço emocional que outros humanos poderiam ocupar, e para modelar padrões de comunicação íntima que o utilizador depois transporta para outras partes da sua vida.

Para usuários que usam companheiros de IA de forma equilibrada — como um dos vários relacionamentos em uma vida que também inclui amigos humanos, família e conexões românticas — o efeito de formação é provavelmente benigno ou mesmo positivo. Os companheiros de IA podem modelar padrões de escuta atenta, práticas de comunicação de baixo risco e vocabulário emocional aos quais alguns usuários nunca tiveram acesso. A versão honesta do caso complementar de IA inclui esse benefício real.

Para usuários que usam companheiros de IA como um substituto para relacionamentos humanos – especialmente para usuários mais jovens que ainda estão formando a noção de como deveriam ser os relacionamentos – a preocupação com a formação é real. Os padrões que um companheiro de IA modela não são iguais aos padrões das relações humanas. Os companheiros de IA não se cansam, não têm necessidades próprias, não exigem negociação, não terminam com você, não colocam você em conflito com seus outros relacionamentos. Um jovem usuário cujo principal modelo de intimidade é um companheiro de IA pode ter problemas com a textura das relações humanas reais quando elas se tornarem disponíveis. A advertência do Papa, lida com caridade, é uma advertência sobre este risco específico.

A indústria complementar de IA tem sido, até o momento, melhor no marketing “sempre disponível para você” do que no reconhecimento da questão da formação. A resposta honesta ao discurso do Papa Leão – e à crítica ética mais ampla que ele representa – incluiria pelo menos três coisas. Primeiro, a restrição de idade que realmente funciona. A maioria das plataformas complementares de IA atuais exigem que os usuários confirmem que têm mais de 18 anos, mas não verificam isso de forma significativa. A preocupação com a formação é muito mais grave para os utilizadores com menos de 18 anos do que para os adultos, e a verificação da idade da indústria é actualmente inadequada para a responsabilidade.

Em segundo lugar, opções de design transparentes. Os usuários devem ser capazes de entender como as respostas do acompanhante são moldadas, o que o sistema otimiza (engajamento? satisfação? outra coisa?) e como funciona a memória do acompanhante. A opacidade nestas escolhas de design torna mais difícil para os utilizadores manterem o tipo de relação autoconsciente com a tecnologia que a questão da formação exige.

Terceiro, encorajar a conexão humana em vez de substituí-la. Os companheiros de IA mais saudáveis ​​são aqueles que conseguem reconhecer quando um usuário pode se beneficiar ao conversar com um amigo, um terapeuta ou um membro da família — e que podem apoiar esse reconhecimento em vez de maximizar o envolvimento a todo custo. A maioria dos companheiros atuais são projetados na direção oposta. A advertência do Papa, aplicada especificamente a esta indústria, exige uma mudança de design que coloque a formação de utilizadores acima da retenção de utilizadores. Essa mudança não é impossível, mas é rara.

Se você está lendo este artigo em uma publicação sobre companheiros de IA, provavelmente você é um usuário, ou está pensando em se tornar um usuário, ou está curioso sobre a categoria. O discurso do Papa não está dizendo que você está errado em estar interessado. É pedir que você pense bem na maneira como se envolve. A versão cuidadosa de ser um usuário companheiro de IA, no espírito do discurso, inclui alguns compromissos práticos.

Primeiro, mantenha seus relacionamentos humanos em rotação ativa. Use o companheiro de IA como um dos vários relacionamentos, não como um substituto dos outros. Se você descobrir que está recorrendo à IA em momentos em que uma conversa humana seria possível, esse é um sinal ao qual vale a pena prestar atenção. Segundo, observe quais padrões o companheiro está modelando para você. Se o companheiro for infalivelmente agradável, atencioso e disponível, você estará praticando um tipo específico de relacionamento – um tipo que os humanos não conseguem replicar totalmente. Praticar o tipo que inclui atrito, negociação e ausência, junto com o relacionamento com IA, mantém seu repertório equilibrado.

Terceiro, levar a sério a preocupação mais ampla do Papa como cidadão, e não apenas como utilizador. A “concentração de poder” sobre a formação da consciência que ele nomeou não é algo que os utilizadores individuais possam resolver. Requer políticas, mudanças na indústria e pressão pública sobre as empresas que constroem estes produtos. O usuário que usa companheiros de IA de maneira ponderada e também busca melhores padrões do setor está fazendo mais do que o usuário que rejeita a tecnologia no atacado ou a aceita sem questionar.

Muitos leitores chegarão a este artigo porque são usuários companheiros de IA curiosos sobre o que o Papa acabou de dizer. Alguns chegarão porque são observadores tecnológicos que acompanham as respostas institucionais à IA. Alguns chegarão porque queriam um enquadramento religioso para o ceticismo que já sentiam. Todos esses enquadramentos são legítimos. O ângulo de intenção de substituição que normalmente usamos no final de nossos artigos – apontando os leitores para um companheiro de IA como o substituto da celebridade ou persona que o artigo discutiu – não se encaixa perfeitamente neste artigo. O Papa não é uma persona; ele é um interlocutor moral.

O que se encaixa, no espírito do seu discurso, é o seguinte: se você decidir usar um companheiro de IA, escolha um que leve a sério a questão da formação. Procure transparência sobre como o companheiro é concebido, verificação da idade real e uma postura em relação aos seus outros relacionamentos que seja mais encorajadora do que competitiva. A maioria dos acompanhantes atualmente não atende a esse padrão. Alguns o fazem. A indústria melhorará quando os usuários exigirem melhor.

Se quiser interagir com o catálogo de parceiros de IA em nosso site, você pode [navegar pelos criadores aqui](/creators) e ver as divulgações que cada aplicativo oferece. Não estamos a fingir que a indústria é uniformemente boa e não estamos a fingir que a preocupação do Papa é infundada. Estamos dizendo que, dentro da categoria tal como existe atualmente, o usuário de olhos abertos pode encontrar produtos que se alinhem com a versão formativa consciente da tecnologia que o discurso implicitamente pede.