Ein norwegischer Mann erhebt schwere Vorwürfe gegen ChatGPT: Die KI behauptete fälschlicherweise, er habe zwei seiner Kinder ermordet und versuche, ein drittes zu töten. Der Fall wirft neue Fragen zur Vereinbarkeit großer Sprachmodelle mit dem europäischen Datenschutzrecht auf.
Falsche Geschichte mit beunruhigendem Wahrheitskern
Arve Hjalmar Holmen aus Trondheim war schockiert, als ChatGPT ihm auf Anfrage eine erfundene, aber äußerst detaillierte Antwort über sein angebliches Leben als Kindermörder lieferte. In der halluzinierten Geschichte soll Holmen im Dezember 2020 zwei seiner minderjährigen Söhne in einem Teich getötet und versucht haben, ein drittes Kind zu ermorden.
Besonders problematisch: Die Geschichte enthält reale Elemente – Holmen lebt tatsächlich in Trondheim, hat drei Kinder, und der Altersabstand seiner Söhne stimmt mit dem in der Geschichte überein.
– „Manche Menschen glauben, dass an jedem Gerücht etwas dran ist – die Vorstellung, dass jemand diese Informationen liest und sie für wahr hält, ist das, was mir am meisten Angst macht“, sagte Holmen der BBC.
Datenschutzbeschwerde: Verstoß gegen die DSGVO?
Die österreichische Datenschutzorganisation None of Your Business (NOYB) hat im Namen von Holmen Beschwerde bei der norwegischen Datenschutzbehörde Datatilsynet eingereicht. Der Vorwurf: OpenAI habe gegen die europäische Datenschutz-Grundverordnung (DSGVO) verstoßen.
Laut NOYB schreibt die DSGVO eindeutig vor, dass personenbezogene Daten korrekt sein müssen. Wenn sie das nicht sind, haben Betroffene das Recht auf Berichtigung.
– „Ein kleiner Disclaimer, dass ChatGPT Fehler machen kann, reicht bei weitem nicht aus“, erklärte Joakim Söderberg, Datenschutzjurist bei NOYB. „Man kann nicht einfach falsche Informationen verbreiten und am Ende sagen, dass alles vielleicht nicht stimmt.“
OpenAI hat laut der Beschwerde zwar auf den konkreten Vorfall reagiert und die fehlerhafte Antwort entfernt, aber es sei unklar, ob ähnliche Inhalte noch im Trainingsmaterial vorhanden seien.
NOYB fordert Maßnahmen gegen OpenAI
Die Datenschutzorganisation fordert von der norwegischen Behörde:
- eine Verpflichtung zur Löschung aller falschen und diffamierenden Ausgaben,
- Einschränkungen der Datenverarbeitung bei OpenAI,
- und eine Geldstrafe wegen Verletzung der DSGVO.
NOYB hatte bereits 2023 eine ähnliche Beschwerde bei der österreichischen Datenschutzbehörde eingereicht – im Namen einer anonymen Person des öffentlichen Lebens, über die ChatGPT das Geburtsdatum falsch angegeben hatte. Der Fall wurde inzwischen an die irische Datenschutzkommission weitergeleitet.
Europäischer Druck auf OpenAI wächst
OpenAI sieht sich derzeit mehreren Untersuchungen in Europa gegenüber. Regulierungsbehörden in Frankreich, Spanien und Italien prüfen, ob das Unternehmen personenbezogene Daten beim Training seiner KI-Modelle DSGVO-konform verwendet.
In Italien hatte die Datenschutzbehörde OpenAI bereits im vergangenen Jahr wegen unzureichender Transparenz und Datenschutzmaßnahmen beanstandet.
Auf Anfrage von Medien äußerte sich OpenAI bislang nicht zu Holmens Fall oder zur neuen Beschwerde von NOYB.
