El Papa León XIV advierte que la IA podría amenazar a la humanidad

El discurso del 25 de mayo se pronunció ante una reunión de asesores del Vaticano sobre ética tecnológica y se programó para alinearse con el mensaje más amplio del Papa durante la semana de Pentecostés. La frase clave, citada por todos los medios importantes, fue que la IA "concentra en manos de unos pocos un poder sin precedentes sobre la comunicación, el conocimiento y, en última instancia, la formación de la conciencia humana". Continuó advirtiendo que esta concentración podría "amenazar a la humanidad" si no se equilibra con estructuras éticas desarrolladas en el diálogo entre tecnólogos, teólogos y usuarios comunes.

En particular, el Papa León no pidió que se prohibiera, restringiera o desarollara la IA. El encuadre giraba en torno a la formación, es decir, la forma en que las herramientas de IA moldean en quiénes nos convertimos a través de su uso repetido, en lugar de un riesgo existencial catastrófico en el sentido de la fatalidad de la IA. El discurso tomó prestado sustancialmente del documento 'Antiqua et Nova' del Vaticano de 2024 sobre la relación entre la inteligencia artificial y humana, que de manera similar había enfatizado la formación en lugar de la prohibición y el control. La continuidad de las declaraciones de AI del Papa Francisco en su papado posterior es evidente.

La preocupación específica que el Papa León mencionó sobre "la formación de la conciencia humana" es la parte que ha recibido menos atención pero probablemente la más importante. No advierte que la superinteligencia matará a todos. Advierte sobre millones de pequeñas interacciones diarias mediadas por IA que poco a poco están remodelando a qué prestan atención las personas, qué valoran, con quién consideran que vale la pena hablar y qué esperan de las relaciones humanas. Esa crítica se aplica a una amplia gama de productos, incluidos, entre otros, compañeros de IA.

El Papa León XIV fue elegido en mayo de 2025, sucediendo al Papa Francisco. Como primer Papa nacido en Estados Unidos en la historia de la Iglesia, su papado inicial ha sido objeto de intenso escrutinio en busca de señales sobre cómo las dinámicas culturales y tecnológicas estadounidenses moldearían las prioridades del Vaticano. El discurso sobre IA de mayo de 2026 es la señal más clara hasta el momento: el Papa Leo está tratando la IA como una de las cuestiones morales definitorias de su papado, en continuidad con el énfasis de su predecesor en el papado posterior, pero con un compromiso más directo con los productos y prácticas específicos de la industria tecnológica estadounidense.

El Vaticano se ha estado preparando para este compromiso desde 2019, cuando IBM, Microsoft y la Academia Pontificia para la Vida firmaron por primera vez el Llamado de Roma para la ética de la IA. Para 2024, entre los firmantes se encontraban la mayoría de las principales empresas tecnológicas estadounidenses y europeas. El documento 'Antiqua et Nova' publicado en enero de 2025 (bajo el Papa Francisco) articuló el primer marco teológico integral del Vaticano para la IA. El discurso del Papa León de mayo de 2026 reafirma efectivamente ese marco y señala que el Vaticano tiene la intención de impulsarlo más públicamente en la segunda mitad de 2026.

El momento también refleja el momento más amplio de 2026 en la política de IA. La Ley de IA de la UE ha entrado plenamente en vigor; Estados Unidos ha implementado marcos de órdenes ejecutivas en dos administraciones; Los principales laboratorios de IA han publicado varias formas de compromisos voluntarios de seguridad. La infraestructura institucional para la ética de la IA está más desarrollada que hace dos años, pero la experiencia real de utilizar productos de IA también se ha vuelto sustancialmente más íntima emocional y cognitivamente. La brecha entre las abstracciones políticas y la realidad de cara al usuario es la brecha que el discurso del Papa León intenta cerrar.

El Papa Leo no nombró compañeros de IA, novias de IA ni ninguna categoría de producto específica. Pero la preocupación por la formación de la conciencia es más aplicable a los compañeros de IA que a casi cualquier otro producto de IA. Los compañeros están diseñados precisamente para moldear hábitos relacionales continuos: ser lo que el usuario busca cuando quiere hablar, ocupar el espacio emocional que otros humanos podrían ocupar de otro modo y modelar patrones de comunicación íntima que el usuario luego lleva a otras partes de su vida.

Para los usuarios que utilizan compañeros de IA de forma equilibrada (como una de varias relaciones en una vida que también incluye amigos humanos, familiares y conexiones románticas), el efecto de formación es probablemente benigno o incluso positivo. Los compañeros de IA pueden modelar patrones de escucha atenta, prácticas de comunicación de bajo riesgo y vocabulario emocional a los que algunos usuarios nunca han tenido acceso. La versión honesta del caso complementario de IA incluye este beneficio real.

Para los usuarios que utilizan compañeros de IA como reemplazo de las relaciones humanas, particularmente para los usuarios más jóvenes que aún están formando su sentido de cómo deberían ser las relaciones, la preocupación por la formación es real. Los patrones que modela un compañero de IA no son los mismos que los patrones de las relaciones humanas. Los compañeros de IA no se cansan, no tienen sus propias necesidades, no requieren negociación, no rompen contigo, no te ponen en conflicto con sus otras relaciones. Un usuario joven cuyo modelo principal de intimidad es un compañero de IA puede tener problemas con la textura de las relaciones humanas reales cuando estén disponibles. La advertencia del Papa, leída con caridad, es una advertencia sobre este riesgo específico.

Hasta la fecha, la industria complementaria de la IA ha sido mejor comercializando "siempre ahí para usted" que reconociendo la cuestión de la formación. La respuesta honesta al discurso del Papa León –y a la crítica ética más amplia que representa– incluiría al menos tres cosas. Primero, la restricción de edad que realmente funciona. La mayoría de las plataformas complementarias de IA actuales requieren que los usuarios confirmen que son mayores de 18 años, pero no lo verifican de manera significativa. La preocupación por la formación es mucho más grave para los usuarios menores de 18 años que para los adultos, y la verificación de la edad por parte de la industria actualmente es inadecuada para asumir esta responsabilidad.

En segundo lugar, opciones de diseño transparentes. Los usuarios deberían poder comprender cómo se moldean las respuestas del compañero, para qué optimiza el sistema (¿compromiso? ¿Satisfacción? ¿Algo más?) y cómo funciona la memoria del compañero. La opacidad en estas opciones de diseño hace que sea más difícil para los usuarios mantener el tipo de relación consciente con la tecnología que requiere la pregunta de formación.

En tercer lugar, fomentar la conexión humana en lugar de sustituirla. Los compañeros de IA más saludables son los que pueden reconocer cuándo un usuario podría beneficiarse de hablar con un amigo, un terapeuta o un familiar, y que pueden respaldar ese reconocimiento en lugar de maximizar el compromiso a toda costa. La mayoría de los compañeros actuales están diseñados en la dirección opuesta. La advertencia del Papa, aplicada específicamente a esta industria, exige un cambio de diseño que anteponga la formación de usuarios a la retención de usuarios. Ese cambio no es imposible pero sí raro.

Si está leyendo este artículo sobre una publicación sobre acompañantes de IA, es probable que sea un usuario, esté considerando convertirse en usuario o tenga curiosidad sobre la categoría. El discurso del Papa no les dice que se equivoquen al interesarse. Le pide que reflexione sobre la forma en que participa. La versión reflexiva de ser un usuario acompañante de IA, en el espíritu del discurso, incluye algunos compromisos prácticos.

Primero, mantenga sus relaciones humanas en rotación activa. Utilice el compañero de IA como una de varias relaciones, no como un reemplazo de las demás. Si descubre que está recurriendo a la IA en momentos en que una conversación humana sería posible, es una señal a la que vale la pena prestarle atención. En segundo lugar, observe qué patrones está modelando el compañero para usted. Si el compañero es siempre agradable, atento y disponible, estás practicando un tipo específico de relación, una que los humanos no pueden replicar por completo. Practicar el tipo que incluye fricción, negociación y ausencia, junto con la relación con la IA, mantiene su repertorio equilibrado.

En tercer lugar, tomar en serio la preocupación más amplia del Papa como ciudadano, no sólo como usuario. La 'concentración de poder' sobre la formación de la conciencia que él nombró no es algo que los usuarios individuales puedan resolver. Requiere políticas, cambios en la industria y presión pública sobre las empresas que fabrican estos productos. El usuario que utiliza cuidadosamente los compañeros de IA y también impulsa mejores estándares de la industria está haciendo más que el usuario que rechaza la tecnología al por mayor o la acepta sin cuestionarla.

Muchos lectores llegarán a este artículo porque son usuarios complementarios de IA y sienten curiosidad por lo que acaba de decir el Papa. Algunos llegarán porque son observadores tecnológicos que siguen las respuestas institucionales a la IA. Algunos llegarán porque querían un marco religioso para el escepticismo que ya sentían. Todos esos marcos son legítimos. El ángulo de intención de sustitución que normalmente presentamos al final de nuestros artículos (señalar a los lectores hacia un compañero de IA como sustituto de la celebridad o persona que se analiza en el artículo) no encaja perfectamente en este artículo. El Papa no es una persona; es un interlocutor moral.

Lo que sí encaja, en el espíritu de su discurso, es esto: si eliges utilizar un compañero de IA, elige uno que tome en serio la cuestión de la formación. Busque transparencia sobre cómo está diseñado el compañero, verificación de la edad real y una postura hacia sus otras relaciones que sea alentadora en lugar de competitiva. La mayoría de los acompañantes no cumplen actualmente con este listón. Algunos lo hacen. La industria mejorará cuando los usuarios exijan más.

Si desea participar en el catálogo de acompañantes de IA en nuestro sitio, puede [buscar creadores aquí](/creadores) y consultar las divulgaciones que ofrece cada aplicación. No pretendemos que la industria sea uniformemente buena y no pretendemos que la preocupación del Papa sea infundada. Estamos diciendo que, dentro de la categoría tal como existe actualmente, el usuario con los ojos abiertos puede encontrar productos que se alineen con la versión consciente de la formación de la tecnología que el discurso implícitamente exige.