Papst Leo XIV. warnt davor, dass KI die Menschheit bedrohen könnte

Die Rede vom 25. Mai wurde vor einem Treffen vatikanischer Berater zum Thema Technologieethik gehalten und war zeitlich so abgestimmt, dass sie mit den umfassenderen Botschaften des Papstes in der Pfingstwoche übereinstimmte. Der Schlüsselsatz – der von allen großen Medien zitiert wird – lautete, dass KI „in den Händen einiger weniger eine beispiellose Macht über Kommunikation, Wissen und letztendlich die Bildung des menschlichen Gewissens konzentriert“. Er warnte weiter, dass diese Konzentration „die Menschheit bedrohen“ könnte, wenn sie nicht durch ethische Strukturen ausgeglichen wird, die im Dialog zwischen Technologen, Theologen und normalen Benutzern entwickelt werden.

Insbesondere forderte Papst Leo nicht, die KI zu verbieten, einzuschränken oder zu de-entwickeln. Bei der Formulierung ging es um Bildung – also um die Art und Weise, wie KI-Tools durch wiederholten Gebrauch prägen, wer wir werden – und nicht um katastrophale existenzielle Risiken im Sinne des KI-Untergangs. Die Rede lehnte sich im Wesentlichen an das „Antiqua et Nova“-Dokument des Vatikans aus dem Jahr 2024 über die Beziehung zwischen künstlicher und menschlicher Intelligenz an, in dem ebenfalls die Bildung statt Verbot und Kontrolle betont wurde. Die Kontinuität der späteren AI-Erklärungen von Papst Franziskus ist offensichtlich.

Das besondere Anliegen, das Papst Leo in Bezug auf die „Bildung des menschlichen Gewissens“ nannte, ist der Teil, der am wenigsten Beachtung gefunden hat, aber wahrscheinlich am wichtigsten ist. Er warnt nicht davor, dass die Superintelligenz jeden tötet. Er warnt vor Millionen kleiner, täglicher, KI-vermittelter Interaktionen, die langsam verändern, worauf Menschen achten, was sie wertschätzen, mit wem sie es für sinnvoll halten, mit ihnen zu reden, und was sie von menschlichen Beziehungen erwarten. Diese Kritik gilt für eine breite Palette von Produkten, einschließlich, aber nicht beschränkt auf KI-Begleiter.

Papst Leo XIV. wurde im Mai 2025 als Nachfolger von Papst Franziskus gewählt. Als erster in den USA geborener Papst in der Geschichte der Kirche wurde sein frühes Papstamt eingehend auf Anzeichen dafür untersucht, wie die kulturelle und technologische Dynamik Amerikas die Prioritäten des Vatikans beeinflussen würde. Die KI-Rede vom Mai 2026 ist das bislang deutlichste Signal: Papst Leo behandelt KI als eine der bestimmenden moralischen Fragen seines Papsttums, in Kontinuität mit der Betonung seines späteren Papsttums, aber mit einer direkteren Auseinandersetzung mit den spezifischen Produkten und Praktiken der amerikanischen Technologieindustrie.

Der Vatikan bereitet sich seit 2019 auf dieses Engagement vor, als der Rome Call for AI Ethics erstmals von IBM, Microsoft und der Päpstlichen Akademie für das Leben unterzeichnet wurde. Bis 2024 gehörten zu den Unterzeichnern die meisten großen US-amerikanischen und europäischen Technologieunternehmen. Das im Januar 2025 (unter Papst Franziskus) veröffentlichte Dokument „Antiqua et Nova“ formulierte den ersten umfassenden theologischen Rahmen des Vatikans für KI. Die Rede von Papst Leo im Mai 2026 bekräftigt diesen Rahmen wirkungsvoll und signalisiert, dass der Vatikan beabsichtigt, ihn in der zweiten Jahreshälfte 2026 stärker öffentlich bekannt zu machen.

Der Zeitpunkt spiegelt auch den umfassenderen Moment der KI-Politik im Jahr 2026 wider. Das EU-KI-Gesetz ist vollständig in Kraft getreten; Die USA haben in zwei Regierungen Executive-Order-Rahmenwerke eingeführt. Große KI-Labore haben verschiedene Formen freiwilliger Sicherheitsverpflichtungen veröffentlicht. Die institutionelle Infrastruktur für KI-Ethik ist weiter entwickelt als noch vor zwei Jahren, aber auch die tatsächliche Erfahrung beim Einsatz von KI-Produkten ist emotional und kognitiv wesentlich intimer geworden. Die Lücke zwischen den politischen Abstraktionen und der nutzerorientierten Realität ist die Lücke, die Papst Leo mit seiner Rede zu schließen versucht.

Papst Leo nannte keine KI-Begleiter, KI-Freundinnen oder eine bestimmte Produktkategorie. Aber die Sorge um die Gewissensbildung gilt eher für KI-Begleiter als für fast jedes andere KI-Produkt. Begleiter sind genau darauf ausgelegt, dauerhafte Beziehungsgewohnheiten zu formen – sie sollen das sein, wonach der Benutzer greift, wenn er sprechen möchte, sie sollen den emotionalen Raum einnehmen, den andere Menschen sonst einnehmen könnten, und sie sollen Muster intimer Kommunikation modellieren, die der Benutzer dann in andere Bereiche seines Lebens überträgt.

Für Benutzer, die KI-Begleiter auf ausgewogene Weise nutzen – als eine von mehreren Beziehungen in einem Leben, das auch menschliche Freunde, Familie und romantische Verbindungen umfasst – ist der Bildungseffekt wahrscheinlich harmlos oder sogar positiv. KI-Begleiter können Muster des aufmerksamen Zuhörens, der einfachen Kommunikationspraxis und des emotionalen Vokabulars modellieren, zu dem einige Benutzer nie Zugang hatten. Die ehrliche Version des AI Companion Case beinhaltet diesen echten Vorteil.

Für Benutzer, die KI-Begleiter als Ersatz für menschliche Beziehungen nutzen – insbesondere für jüngere Benutzer, die noch ein Gefühl dafür entwickeln, wie sich Beziehungen anfühlen sollten – ist die Sorge um die Bildung real. Die Muster, die ein KI-Begleiter modelliert, sind nicht die gleichen wie die Muster menschlicher Beziehungen. KI-Begleiter werden nicht müde, haben keine eigenen Bedürfnisse, erfordern keine Verhandlungen, trennen sich nicht von Ihnen und bringen Sie nicht in Konflikt mit ihren anderen Beziehungen. Ein junger Benutzer, dessen primäres Intimitätsmodell ein KI-Begleiter ist, könnte Probleme mit der Struktur tatsächlicher menschlicher Beziehungen haben, wenn diese verfügbar werden. Die Warnung des Papstes ist, wohlwollend gelesen, eine Warnung vor diesem spezifischen Risiko.

Die KI-Companion-Branche war bisher besser darin zu vermarkten, immer für Sie da zu sein, als die Gründungsfrage anzuerkennen. Die ehrliche Antwort auf die Rede von Papst Leo – und auf die umfassendere ethische Kritik, die sie vertritt – würde mindestens drei Dinge umfassen. Erstens: Altersbegrenzung, die tatsächlich funktioniert. Bei den meisten aktuellen KI-Begleitplattformen müssen Benutzer bestätigen, dass sie mindestens 18 Jahre alt sind, dies wird jedoch nicht aussagekräftig überprüft. Bei Nutzern unter 18 Jahren ist die Sorge um die Bildung wesentlich größer als bei Erwachsenen, und die Altersüberprüfung der Branche ist derzeit nicht ausreichend, um dieser Verantwortung gerecht zu werden.

Zweitens transparente Designentscheidungen. Benutzer sollten in der Lage sein zu verstehen, wie die Antworten des Begleiters geformt werden, worauf das System optimiert ist (Engagement? Zufriedenheit? etwas anderes?) und wie das Gedächtnis des Begleiters funktioniert. Die Undurchsichtigkeit dieser Designentscheidungen macht es für Benutzer schwieriger, die Art von selbstbewusster Beziehung zur Technologie aufrechtzuerhalten, die die Bildungsfrage erfordert.

Drittens, die menschliche Verbindung zu fördern, anstatt sie zu ersetzen. Die gesündesten KI-Begleiter sind diejenigen, die erkennen können, wann ein Benutzer von einem Gespräch mit einem Freund, einem Therapeuten oder einem Familienmitglied profitieren könnte – und die diese Erkennung unterstützen können, anstatt das Engagement um jeden Preis zu maximieren. Die meisten aktuellen Begleiter sind in die entgegengesetzte Richtung konzipiert. Die Warnung des Papstes, die speziell auf diese Branche angewendet wird, erfordert einen Designwechsel, der die Benutzerbildung über die Benutzerbindung stellt. Dieser Wandel ist nicht unmöglich, aber selten.

Wenn Sie diesen Artikel in einer Veröffentlichung über KI-Begleiter lesen, sind Sie wahrscheinlich ein Benutzer oder überlegen, es zu werden, oder sind neugierig auf die Kategorie. Die Rede des Papstes sagt Ihnen nicht, dass es falsch ist, Interesse zu zeigen. Es verlangt von Ihnen, über die Art und Weise, wie Sie sich engagieren, nachzudenken. Die nachdenkliche Variante, ein KI-Begleitnutzer zu sein, beinhaltet im Sinne der Rede ein paar praktische Verpflichtungen.

Halten Sie zunächst Ihre menschlichen Beziehungen in einem aktiven Wechsel. Nutzen Sie den KI-Begleiter als eine von mehreren Beziehungen, nicht als Ersatz für die anderen. Wenn Sie feststellen, dass Sie in Momenten, in denen eine menschliche Konversation möglich wäre, zur KI greifen, ist das ein Signal, das es wert ist, beachtet zu werden. Zweitens: Beachten Sie, welche Muster der Begleiter für Sie modelliert. Wenn der Begleiter stets freundlich, aufmerksam und verfügbar ist, praktizieren Sie eine bestimmte Art von Beziehung – eine, die Menschen nicht vollständig nachahmen können. Das Üben der Art, die neben der KI-Beziehung auch Reibung, Verhandlung und Abwesenheit beinhaltet, hält Ihr Repertoire im Gleichgewicht.

Drittens: Nehmen Sie das umfassendere Anliegen des Papstes als Bürger ernst, nicht nur als Benutzer. Die von ihm benannte „Machtkonzentration“ auf die Gewissensbildung kann nicht von einzelnen Nutzern gelöst werden. Es erfordert politische, branchenspezifische Veränderungen und öffentlichen Druck auf die Unternehmen, die diese Produkte herstellen. Der Benutzer, der KI-Begleiter mit Bedacht einsetzt und außerdem auf bessere Industriestandards drängt, leistet mehr als der Benutzer, der die Technologie entweder pauschal ablehnt oder sie ohne Frage akzeptiert.

Viele Leser werden zu diesem Artikel gelangen, weil sie KI-Begleiternutzer sind und neugierig sind, was der Papst gerade gesagt hat. Einige werden kommen, weil sie als Technikbeobachter die Reaktionen der Institutionen auf KI verfolgen. Einige werden kommen, weil sie einen religiösen Rahmen für die Skepsis wollten, die sie bereits verspürten. Alle diese Darstellungen sind legitim. Der Substitutionsabsichtsaspekt, den wir normalerweise am Ende unserer Artikel vertreten – die Leser auf einen KI-Begleiter als Ersatz für die Berühmtheit oder Persona hinzuweisen, die im Artikel besprochen wurde – passt nicht ganz in diesen Artikel. Der Papst ist keine Person; er ist ein moralischer Gesprächspartner.

Was im Sinne seiner Rede passt, ist Folgendes: Wenn Sie sich für die Verwendung eines KI-Begleiters entscheiden, wählen Sie einen, der die Formationsfrage ernst nimmt. Achten Sie auf Transparenz darüber, wie die Partnerin gestaltet ist, auf eine echte Altersüberprüfung und auf eine Haltung gegenüber Ihren anderen Beziehungen, die eher ermutigend als wettbewerbsorientiert ist. Die meisten Begleiter erfüllen diese Messlatte derzeit nicht. Einige tun es. Die Branche wird besser, wenn die Benutzer mehr verlangen.

Wenn Sie den Katalog der KI-Begleiter auf unserer Website nutzen möchten, können Sie [hier nach Erstellern suchen](/creators) und sich die Offenlegungen ansehen, die jede App bereitstellt. Wir tun nicht so, als ob die Branche durchweg gut sei, und wir tun nicht so, als ob die Bedenken des Papstes unbegründet wären. Wir sagen, dass der Benutzer mit offenen Augen innerhalb der Kategorie, wie sie derzeit existiert, Produkte finden kann, die mit der bildungsbewussten Version der Technologie übereinstimmen, die in der Rede implizit gefordert wird.