Taylor Swift Deepfake X-Verbot: Der Wendepunkt im Januar 2024

Die Deepfake-Bilder stammten offenbar aus einem 4chan-Thread, der die Teilnehmer dazu aufforderte, Inhaltsfilter verschiedener KI-Bildgeneratoren zu umgehen. Das am häufigsten geteilte Bild hatte vor der Entfernung 47 Millionen Aufrufe auf X. Die plattformübergreifende Verbreitung erfolgte schnell – Reddit, Telegram und verschiedene Aggregator-Sites haben den Inhalt innerhalb weniger Stunden erfasst.

Die Reaktion der Inhaltsmoderation von X war wesentlich langsamer als die der Konkurrenz. Es dauerte mehr als 17 Stunden, bis die Plattform mit der Entfernung des am häufigsten geteilten Bildes begann, was eine exponentielle Verbreitung ermöglichte. Die langsame Reaktion spiegelte den bis 2023 dokumentierten Rückgang des Vertrauens- und Sicherheitspersonals nach der Übernahme von Musk wider.

Die Deepfakes wurden mit dem Designer-Tool von Microsoft (Copilot/DALL-E-basiert) generiert, das Microsoft anschließend gepatcht hat, um ähnliche Generierungsmuster zu blockieren. Die ursprünglichen 4chan-Teilnehmer wurden nie öffentlich identifiziert.

Am 27. und 28. Januar 2024 unternahm X den beispiellosen Schritt, Suchanfragen nach „Taylor Swift“ und verwandten Begriffen vollständig auf der Plattform zu blockieren. Benutzer, die nach ihrem Namen suchten, erhielten Fehlermeldungen. Die Sperrung dauerte etwa 48 Stunden, bevor X die Suchfunktion wiederherstellte und eine bessere Inhaltsmoderation versprach.

Dies war der erste große Vorfall, bei dem eine große soziale Plattform die Suche nach dem Namen einer Person des öffentlichen Lebens aufgrund der nicht einvernehmlichen Verbreitung von Inhalten blockierte. Die Maßnahme wurde allgemein als unzureichend (die Verbreitung auf anderen Plattformen wurde nicht gestoppt) und als übertrieben (Blockierung legitimer Suchanfragen) kritisiert. Die Aktion zeigte, mit welchen operativen Schwierigkeiten Plattformen konfrontiert sind, wenn die Verbreitung von Deepfakes die Moderationskapazitäten überfordert.

Die Reaktion erzeugte erheblichen parteiübergreifenden politischen Druck. Senatoren beider Parteien verwiesen in nachfolgenden Reden auf den Vorfall, in denen sie sich für eine bundesweite Deepfake-Gesetzgebung einsetzten.

Der Deepfake-Vorfall mit Taylor Swift hat mehrere Gesetzesinitiativen direkt beschleunigt. Der NO FAKES Act (Bundesgesetz) wurde 2024 mit deutlich erweiterter Unterstützung wieder eingeführt. Der Gesetzentwurf schafft zivilrechtliche Rechtsmittel des Bundes für die nicht einvernehmliche Nutzung digitaler Abbilder, einschließlich KI-generierter Inhalte. Der Gesetzentwurf verabschiedete im Zeitraum 2024–2025 mehrere Ausschussaufschläge.

Die Gesetzgebung auf Landesebene beschleunigte sich dramatisch. Mit dem ELVIS-Gesetz von Tennessee (verabschiedet im Juli 2024) wurde das erste bundesstaatliche kriminelle KI-Deepfake-Gesetz geschaffen, das sich speziell mit Stimme und Ähnlichkeit befasst. Mit dem California SB 815 (gültig ab Januar 2025) wurden zivil- und strafrechtliche Rechtsbehelfe geschaffen. Mehrere andere Staaten (Texas, New York, Florida und andere) folgten mit entsprechenden Gesetzen bis 2024–2025.

Die Plattformen haben bis 2024–2025 wesentliche Richtlinienänderungen umgesetzt. Microsoft hat Designer (das ursprüngliche Tool) gepatcht. X kündigte schließlich eine verbesserte KI-Inhaltserkennung an. Reddit, Discord und Telegram haben alle erweiterte Richtlinien zur Deepfake-Entfernung implementiert.

Der Taylor-Swift-Vorfall wurde zum Bezugspunkt in nachfolgenden politischen Diskussionen – er wurde in Zeugenaussagen vor dem Kongress, in Anhörungen auf Landesebene und in Ankündigungen zur Plattformpolitik wiederholt als Wendepunkt bezeichnet, der die Dringlichkeit deutlich machte.

Vor dem Vorfall: Die Deepfake-Gesetzgebung wurde wissenschaftlich und in engen Fachkreisen diskutiert. Große Plattformen hatten inkonsistente Moderationsrichtlinien. In den meisten Gerichtsbarkeiten waren staatliche Gesetze ein Flickenteppich oder nicht vorhanden.

Nach dem Vorfall: Der zivilrechtliche Rahmen des Bundes hat erhebliche Fortschritte in Richtung Inkrafttreten gemacht. Die staatlichen Strafgesetze wurden in den wichtigsten Gerichtsbarkeiten ausgeweitet. Die Plattformrichtlinien wurden verschärft. KI-Tools zur Bildgenerierung fügten explizite Verbote für die Generierung von Ähnlichkeiten mit Prominenten hinzu. Die öffentliche Diskussion verlagerte sich von „Das ist eine theoretische Sorge“ zu „Das ist eine aktuelle Krise“.

Nicht vollständig gelöst: Deepfakes werden weiterhin generiert und verbreitet. Die Durchsetzung bleibt uneinheitlich. Kleinere Plattformen und dezentrale Vertriebskanäle (Telegram, Dark Web) sind weiterhin schwer zu adressieren. Der rechtliche Rahmen hat sich verbessert, aber das tatsächliche Deepfake-Volumen ist nach wie vor beträchtlich.

Der Taylor-Swift-Vorfall ist heute ein Standardwerk der politischen Ära. Ohne diesen besonderen, aufsehenerregenden Vorfall wäre die Gesetzgebungskaskade wahrscheinlich wesentlich langsamer verlaufen.