ChatGPT: Steht die KI vor dem Aus in Europa?

In zahlreichen Unternehmen erfreut sich ChatGPT großer Beliebtheit als hilfreicher Assistent. Kein Wunder, denn die KI erleichtert die Erstellung vieler Dinge auf schnellere, kostengünstigere und effizientere Weise. Doch nicht überall trifft das Phänomen KI auf uneingeschränkte Zustimmung.

2024-05-17

Logo

ChatGPT: Steht die KI vor dem Aus in Europa?

Es gibt wohl kaum jemanden, der sich noch nie selbst gegoogelt hat. Dabei geht es weniger um Eitelkeit als vielmehr um menschliche Neugier. Was weiß die Suchmaschine über eine Person? Welche Informationen und Daten tauchen auf, und gibt es vielleicht sogar Bilder? Ähnlich verhält es sich mit dem aktuellen Konflikt zwischen dem österreichischen Juristen und Datenschützer Max Schrems und dem Betreiber von ChatGPT, OpenAI. Doch so harmlos wie eine gewöhnliche Google-Suche wird dieser Streit wahrscheinlich nicht enden.

Das ist passiert

Datenschutzexperten äußern regelmäßig Bedenken und warnen vor einem allzu leichtfertigen Umgang mit den Tools. Datenschützer Max Schrems hat Beschwerde gegen OpenAI eingereicht. Max Schrems ist kein Unbekannter. Durch eine Klage vor dem Europäischen Gerichtshof (EuGH) konnte er bereits das transnationale Safe-Harbor-Abkommen zwischen der EU und den USA und das Privacy Shield zu Fall bringen. Zudem hat er dem Facebook-Konzern Meta bereits mehrfach juristisch erfolgreich zugesetzt. Als Vorstandsvorsitzender der Initiative NOYB setzt er sich für die Durchsetzung von Datenschutzrechten ein.

ChatGPT liegt falsch und OpenAI korrigiert es nicht

Wenn dieser Mann also ChatGPT nach seinem Geburtsdatum fragt, geschieht das nicht aus Neugier, sondern mit einem bestimmten Hintergedanken. Es geht um die Richtigkeit der von der KI übermittelten Informationen, insbesondere im Bezug auf bekannte Persönlichkeiten. Jede Person hat gemäß Gesetz das Recht auf die Richtigkeit ihrer Daten. Wenn also falsche Informationen im Netz auftauchen, können diese auf Anfrage korrigiert oder gelöscht werden.

Schrems fragte nach seinem eigenen Geburtsdatum und ChatGPT gab eine falsche Antwort. Das ist nicht weiter überraschend, da Schrems sein Geburtsdatum nie öffentlich gemacht hat. Als die KI auf Nachfrage hin das Datum korrigierte und wieder falsch lag, bat Schrems OpenAI, etwas gegen die falschen Daten zu unternehmen. Die Antwort von OpenAI war schlicht, dass dies nicht möglich sei. Daraufhin reichte Schrems eine Beschwerde gegen OpenAI ein.

Die Gefahren hinter der Lappalie

Die potenziellen Gefahren hinter dieser Angelegenheit sind nicht zu unterschätzen. Wissenschaftler und KI-Experten in Deutschland warnen schon lange vor Datenschutz- und Datensicherheitslücken sowie Falschinformationen. Vielen Nutzern und Unternehmen scheint das jedoch gleichgültig zu sein oder nicht in diesem Ausmaß bekannt. ChatGPT erfreut sich weiterhin großer Beliebtheit. Die KI wird generell kaum noch kritisch hinterfragt und ihre Kontrolle scheint schwierig zu sein.

KIs – und gerade ChatGPT – neigen zu sogenannten "Halluzinationen". Das sind Informationen, Daten und Inhalte, die nicht der Wahrheit entsprechen. Die KI generiert also falsche Informationen und niemand weiß so genau, woran das liegt. Wenn der Geburtstag einer Privatperson nicht wahrheitsgetreu angegeben wird und sich die Daten dann nicht korrigieren lassen, ist das noch eher eine Lappalie. Was aber passiert eigentlich bei einem zu leichtfertigen Umgang von Unternehmen mit einer KI? Wer übernimmt Verantwortung für falsche Daten, versehentlich veröffentlichte Daten und ähnliche Probleme?

Zur Not bis zum Europäischen Gerichtshof

Aus diesem Grund haben Schrems und NOYB eine Beschwerde bei der österreichischen Datenschutzbehörde eingereicht. Im Mittelpunkt steht die Frage, ob eine KI falsche Informationen verbreiten darf und ob KI-Unternehmen darauf bestehen können, dass dies nicht zu verhindern ist, wie es im aktuellen Fall geschieht. Interessanterweise ist ChatGPT bei Personen, die nicht so bekannt sind oder überhaupt nicht in der Öffentlichkeit stehen, vorsichtiger. Auf die Frage nach dem Alter nicht prominenter Personen antwortet die KI beispielsweise, dass sie das Geburtsdatum nicht kennt. Doch auch Personen des öffentlichen Lebens haben Datenschutzrechte.

NYOB und Schrems sind geduldig NOYB und Schrems beharren auf ihren Forderungen. OpenAI hat seinen Europasitz in Irland angemeldet, daher könnte letztendlich der Europäische Gerichtshof über den Fall entscheiden. Dabei wird die Frage im Mittelpunkt stehen, welche Maßnahmen OpenAI und andere KI-Unternehmen zur Gewährleistung der Richtigkeit persönlicher Daten ergriffen haben und in Zukunft ergreifen müssen. OpenAI droht zudem im Zweifel ein hohes Bußgeld.

Italien zeigte bereits 2023, wie schnell ein solches Verbot Realität werden kann. Die italienische Datenschutzbehörde sperrte ChatGPT vorübergehend, bis OpenAI Maßnahmen ergriffen hatte, um Datenschutzanforderungen zu erfüllen. Zuvor hatte die Behörde beanstandet, dass ChatGPT seinen Nutzern nicht mitgeteilt hatte, welche Informationen von ihnen gespeichert werden, und dass keine ausreichenden Filter oder Sperren für Kinder unter 13 Jahren vorhanden waren. Mittlerweile ist die KI dort jedoch wieder verfügbar.

Frechheiten im Namen der Innovation

Die Datenschutzexperten von NOYB sind von den Ausreden der KI-Unternehmen genervt. Ihrer Ansicht nach ist es durchaus möglich, die verwendeten Trainingsdaten zu überprüfen, um zumindest eine Vorstellung von den Informationsquellen zu bekommen. Oder wie es nicht gerade schmeichelhaft von NOYB formuliert wird: "Es scheint, dass jedes Mal, wenn eine 'Innovation' stattfindet, eine andere Gruppe von Unternehmen glaubt, dass ihre Produkte nicht mit dem Gesetz konform sein müssen."

Die Datenschützer sind skeptisch, dass es zu einer schnellen Einigung kommen wird. Zunächst muss geklärt werden, ob die österreichische oder die irische Datenschutzbehörde für die Beschwerde zuständig ist.

Sie möchten mehr zum Thema Datenschutz und KI erfahren und Ihr Unternehmen nachhaltig absichern?

Lassen Sie sich unverbindlich von uns beraten. Wir unterstützen Sie dabei, Vorgaben umzusetzen und die Sicherheit Ihrer Daten zu gewährleisten.

Jetzt mehr erfahren

Bitte beachten Sie: Allgemeine Beiträge können eine datenschutzrechtliche Beratung im Einzelfall nicht ersetzen. Für die Richtigkeit und Vollständigkeit unsere Blogbeiträge können wir keine Gewähr übernehmen. Inhalte beziehen sich immer auf die Rechts- und Faktenlage zum Zeitpunkt der Veröffentlichung und sind deshalb zum Zeitpunkt des Aufrufs möglicherweise nicht mehr aktuell.

In den von uns erstellten Artikeln, Leitfäden, Checklisten, Whitepaper und anderen Beiträgen wird aus Gründen der besseren Lesbarkeit das generische Maskulinum verwendet. Wir möchten betonen, dass sowohl weibliche als auch anderweitige Geschlechteridentitäten dabei ausdrücklich mitgemeint sind, soweit es für die Aussage erforderlich ist.

Aktuelle Beiträge zum Thema Datenschutz

Wir freuen uns auf Ihre Anfrage!

Telefon:

+49 89 / 250 039 220

Öffnungszeiten:

Mo. - Fr.: 09:00 - 18:00 Uhr