ChatGPT verbreite Falschinformationen über Personen,
stellt die Datenschutzorganisation Noyb fest, und OpenAI könne nichts dagegen tun: Die fehlerhaften ChatGPT-Angaben entstehen teils durch die sogenannten Halluzinationen der generativen KI. Darüber hinaus wisse OpenAI nicht einmal, woher die Daten stammen oder welche Daten ChatGPT über einzelne Personen speichere. Und sogar bei nachgewiesenen Falschinformationen lehnte OpenAI zumindest in einem Fall einen Antrag auf Korrektur oder Löschung ab.
Maartje de Graaf, Datenschutzjuristin bei Noyb hält dazu fest: „Die Verpflichtung, einem Auskunftsersuchen nachzukommen, gilt für alle Unternehmen. Es ist selbstverständlich möglich, die verwendeten Trainingsdaten zu protokollieren, um zumindest eine Vorstellung von den Informationsquellen zu erhalten. Es scheint, dass mit jeder 'Innovation' eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen.“
Weil all dies kaum mit der EU-DSGVO konform geht, fordert Noyb nun von der österreichischen Datenschutzbehörde eine Untersuchung der Datenverarbeitungspraktiken von
OpenAI. Ausserdem fordert
Noyb, dass OpenAI dem Auskunftsbegehren des erwähnten Beschwerdeführers nachkommt und seine Verarbeitung in Einklang mit der DSGVO bringt. Darüber hinaus fordert die Datenschutzorganisation die Behörde auf, eine Busse gegen OpenAI auszusprechen, um die zukünftige Einhaltung der Vorschriften sicherzustellen.
(ubi)
