Fälle von Datenschutzverletzungen bei KI-Freundinnen 2023–2026: 8 dokumentierte Vorfälle

Drei strukturelle Faktoren:

Intime Daten: Explizite Gespräche, Fantasiedetails, Kink-Vorlieben und generierte Bilder erzeugen hochwertige Daten für Erpressungs- oder Erpressungskontexte. Für Benutzer besteht ein erhebliches Reputationsrisiko, wenn Daten offengelegt werden.

Begrenzte Sicherheitsinvestitionen: Viele AI-Girlfriend-Apps sind kleinere Betriebe als Mainstream-Technologieunternehmen. Sicherheitsinvestitionen variieren; Einige Apps verfügen über umfangreiche Sicherheitsteams, während andere nur über minimale verfügen.

Risiko der Benutzeridentifizierung: Durch die Kombination von Zahlungsinformationen + Chatverlauf + IP-Adressen + E-Mail-Adressen können Benutzer gezielt identifiziert werden. Das Risiko einer Sicherheitsverletzung besteht nicht nur in der Offenlegung von Daten, sondern auch in der Offenlegung vertraulicher, mit der Identität verbundener Daten.

Regulatorisches Umfeld: KI-Girlfriend-Apps verfügen über weniger entwickelte regulatorische Rahmenbedingungen als Finanz- oder Gesundheits-Apps. Die Anforderungen an die Meldung von Verstößen variieren je nach Gerichtsbarkeit.

**1. Replika 2023-Vorfall**: Benutzerbericht mit angeblichen Bedenken hinsichtlich des Datenzugriffs. Replika verbesserte daraufhin die Sicherheits- und Datenverarbeitungsrichtlinien. Der Vorfall löste eine branchenweite Diskussion über KI-Companion-Data-Praktiken aus.

**2. Verschiedene kleinere KI-App-Vorfälle 2023–2024**: Bei mehreren kleineren KI-Girlfriend-Apps kam es zu dokumentierten Verstößen. Die Einzelheiten variieren, aber das Muster umfasst die Offenlegung von Benutzerkonten, in einigen Fällen die Offenlegung von Zahlungsinformationen und im schlimmsten Fall die Offenlegung des Gesprächsverlaufs.

**3. Verstöße in Apps zur KI-Bildgenerierung**: Bei mehreren Apps, die sich auf die Generierung von KI-Bildern konzentrieren (die zusammen mit Begleit-Apps verwendet werden), wurden Verstöße dokumentiert, durch die generierte Inhalte offengelegt wurden. Einige Inhalte waren nicht einvernehmlich oder auf andere Weise problematisch, was für die betroffenen Benutzer zusätzliche Aufmerksamkeit erregte.

**4. Vorfälle mit der Offenlegung von Datenbanken**: Falsch konfigurierte Datenbanken werden öffentlich zugänglich gemacht. Mehrere Vorfälle mit KI-Apps im Zeitraum 2023–2024 folgten diesem Muster. Forscher entdeckten exponierte Datenbanken; Unternehmen sicherten sie sich anschließend.

**5. Verstöße gegen Kontoanmeldedaten**: Benutzerpasswörter gestohlen und im Dark Web verkauft. Mehrere Vorfälle mit KI-Apps im Jahr 2024 folgten diesem Muster. Benutzer mit dienstübergreifend wiederverwendeten Passwörtern sind einem Kaskadenrisiko ausgesetzt.

**6. Offenlegung von API-Schlüsseln**: Integrationen von Drittanbietern, die durch API-Schlüssellecks offengelegt werden. Seltener, aber wirkungsvoller, wenn es auftritt.

**7. Offenlegungsmuster für E-Mail-Datenbanken**: Mehrere E-Mail-Datenbanken von KI-Apps wurden durch verschiedene Sicherheitsverletzungen offengelegt. Die bloße Offenlegung per E-Mail ist weniger kritisch als eine vollständige Kontoverletzung, ermöglicht aber gezieltes Phishing.

**8. Offenlegung von KI-Trainingsdaten**: In einigen Fällen wurden KI-App-Gespräche im KI-Modelltraining verwendet und anschließend extrahiert. Obwohl es sich hierbei eher um ein theoretisches Risiko als um eine dokumentierte Massenexposition handelt, wurde das Muster in mehreren Forschungskontexten nachgewiesen.

**1. Verwenden Sie eindeutige, sichere Passwörter**: Verwenden Sie Passwörter nicht dienstübergreifend wieder. Der Passwort-Manager (1Password, Bitwarden usw.) macht einzigartige Passwörter praktisch.

**2. Wegwerf-E-Mail verwenden**: Registrieren Sie sich mit einer von der primären Identität getrennten E-Mail-Adresse. Begrenzt die kaskadierende Gefährdung, wenn die App gehackt wird.

**3. Verwenden Sie Zahlungskarten mit Limits**: Prepaid-Karten oder virtuelle Karten mit niedrigen Limits reduzieren das finanzielle Risiko, wenn Zahlungsdaten verloren gehen.

**4. Aktivieren Sie 2FA, wenn verfügbar**: Nicht alle KI-Freundinnen-Apps unterstützen 2FA, aktivieren Sie es jedoch, sofern verfügbar.

**5. Wählen Sie etablierte Apps**: Candy AI, DreamGF, Replika, größere Apps bieten eine bessere Sicherheit als kleinere unbekannte Apps. Vermeiden Sie sehr kleine Apps mit unklarer Corporate Identity.

**6. Überprüfen Sie, was Sie teilen**: Geben Sie in Gesprächen keine identifizierenden Informationen (richtiger Name, Standort, Arbeitsplatz) weiter. Die Daten bleiben bestehen; Behandeln Sie Gespräche als potenziell dauerhaft.

**7. Überwachen Sie Benachrichtigungen über Verstöße**: Dienste wie haveibeenpwned.com verfolgen Benachrichtigungen über Verstöße. Abonnieren Sie Benachrichtigungen für E-Mails, die bei AI-Apps registriert sind.