Falsche Infos über Personen bei ChatGPT

Datenschützer reichen Beschwerde gegen OpenAI ein

Datum:29.04.2024

Die Datenschutz-Organisation Noyb wirft OpenAI unter anderem vor, nicht angemessen auf Auskunftsersuchen zu reagieren.
Foto: Ascannio - shutterstock.com

Die europäische Datenschutz-Organisation Noyb¹ hat zusammen mit einem betroffenen europäischen Bürger eine Datenschutz-Beschwerde gegen den ChatGPT-Anbieter OpenAI wegen des Verstoßes gegen die Europäische Datenschutz-Grundverordnung (DSGVO) eingereicht. Die von Datenschutz-Aktivist Max Schrems² mitbegründete Organisation wirft OpenAI unter anderem vor³, im Fall einer namentlich nicht genannten "Person des öffentlichen Lebens" falsche Angabe zu persönlichen Daten zu machen, ohne die gesetzlich vorgeschriebene Möglichkeit einer Berichtigung oder Löschung einzuräumen.

Schrems hatte sich zuvor bereits zweimal gegen den Facebook-Konzern Meta durchgesetzt und dabei beide Male vor dem Europäischen Gerichtshof Abkommen zum transatlantischen Datenaustausch zwischen den USA und Europa gekippt ("Privacy Shield" und "Safe Harbor").

OpenAI soll Europäern DSGVO-Rechte einräumen

In der Auseinandersetzung mit ChatGPT-Entwickler OpenAI wirft Noyb dem US-Unternehmen vor (PDF)⁴, den Menschen in Europa ihre Rechte nach der DSGVO zu verweigern. Im konkreten Fall, in dem es auch um ein falsches Geburtsdatum ging, habe OpenAI damit argumentiert, dass eine Korrektur der Daten nicht möglich sei. Man könne zwar Daten bei bestimmten Anfragen blockieren, etwa den Namen des Prominenten. Man könne ChatGPT aber nicht daran zu hindern, alle Informationen über den Beschwerdeführer zu filtern.

Noyb wirft OpenAI weiterhin vor, nicht angemessen auf das Auskunftsersuchen des Beschwerdeführers reagiert zu haben. Obwohl die DSGVO den Nutzerinnen und Nutzern das Recht einräume, eine Kopie aller persönlichen Daten zu verlangen, habe es OpenAI versäumt die verarbeiteten Daten, ihre Quellen oder Empfänger offenzulegen.

OpenAI kam Auskunftsersuchen nicht nach

Maartje de Graaf, Juristin bei Noyb, sagte, die Verpflichtung, einem Auskunftsersuchen nachzukommen, gelte für alle Unternehmen. "Es ist selbstverständlich möglich, die verwendeten Trainingsdaten zu protokollieren, um zumindest eine Vorstellung von den Informationsquellen zu erhalten. Es scheint, dass mit jeder ,Innovation' eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen."

Noyb und der Betroffene forderten nun die österreichische Datenschutzbehörde (DSB) zu einer Untersuchung der Datenverarbeitungspraktiken von OpenAI auf. Von besonderem Interesse sei dabei die Frage, welche Maßnahmen das Unternehmen getroffen habe, um die Richtigkeit persönlicher Daten sicherzustellen. Gegen OpenAI müsse ein Bußgeld verhängt werden, um die zukünftige Einhaltung der Vorschriften sicherzustellen.

OpenAI auch im Visier der italienischen Datenschützer

Im vergangenen Jahr hatte bereits die italienische Datenschutzaufsicht datenschutzrechtliche Bedenken in Bezug auf die Praktiken bei OpenAI angemeldet. Im April 2023 war ChatGPT in Italien im Frühjahr 2023 sogar zeitweise gesperrt⁵ und wurde erst nach Nachbesserungen durch OpenAI wieder verfügbar. Nachgebessert wurde da bei der Altersprüfung für einheimische neue Nutzer und mit einem Formular für Nutzer in der EU, um Widerspruch gegen die Verwendung der eigenen Daten einlegen zu können.

Nach Angaben der italienischen Datenschutzbehörde⁶ kam es bei ChatGPT zudem zu einem Datenverlust und damit zu einer Datenschutzverletzung. Der Datenverlust betraf Unterhaltungen von Nutzern mit ChatGPT sowie Bezahldahldaten von zahlenden Abonnenten der kostenpflichtigen Version von ChatGPT. (dpa/rs/pma)

Links im Artikel: