Wir freuen uns auf Ihre Anfrage!

Telefon:

+49 89 / 250 039 220

Öffnungszeiten:

Mo. - Fr.: 09:00 - 18:00 Uhr

Statue mit Icons

Künstliche Intelligenz und Datenschutz

Künstliche Intelligenz (KI) ist eines der Buzzwords unserer Zeit. Die großen Digital-Giganten wie Google, Microsoft, Apple und Amazon übertrumpfen sich gegenseitig mit ihren Strategien und auch Erfolgen im Machine Learning.

Der Kampf um zukünftige Märkte ist voll entbrannt: Google, Microsoft, Apple und Amazon liefern sich ein Rennen um immer höher entwickelte Bots und damit letztlich um echte Künstliche Intelligenz. Vor allem das Unternehmen aus Cupertino dürfte dabei in einen Konflikt geraten: Apple betont im Unterschied zu seinen Konkurrenten immer wieder, welchen hohen Stellenwert der Datenschutz der Kunden genießen würde. Damit Künstliche Intelligenz tatsächlich irgendwann unseren Alltag erobert, müssen die Algorithmen aber eben mit ihren Daten gefüttert werden. Lassen sich Datenschutz und Künstliche Intelligenz vereinen?

Die Brisanz der Thematik ist den verantwortlichen Unternehmen durchaus bewusst, wie das Beispiel Facebook zeigt: Der Datenriese finanziert an der TU München ein Institut für Ethik in der Künstlichen Intelligenz. Ob es sich dabei um mehr handelt als um eine bloße Marketingmaßnahme, sei erst einmal dahingestellt – in jedem Fall zeigt dieser Schachzug auf, dass auch Facebook sich der Tatsache bewusst ist, dass der Beziehung zwischen Machine Learning und Ethik ein gewissen Konfliktpotential innewohnt.

Künstliche Intelligenz basiert auf Big Data

Künstliche Intelligenz basiert auf dem Prinzip des Machine Learning. Damit ein Algorithmus selbstständig „lernen“ kann, muss er eine große Menge an Daten analysieren. Bisher lautet die Antwort der Unternehmen auf diese Datenschutz-Problematik: Crowd Sourcing. Ein anderer Begriff dafür lautet „differenzierter Datenschutz“. Konkret bedeutet das, dass in der Entwicklung ein Satz anonymisierter Daten, welche darüber hinaus mit einer Unschärfe versehen werden, verwendet wird statt einzelner Datensätze, die sich auf eine Person zurückverfolgen ließen.

Dennoch stellt die Künstliche Intelligenz als Konzept den Datenschutz vor große Herausforderungen. Die Grundsätze von Transparenz, Zweckbindung und Datenminimierung stehen der Strategie der künstlichen Intelligenz in manchen Aspekten gar entgegen – wie soll beispielsweise Big Data unter dem Grundsatz der Datenminimierung funktionieren? Ein autonom agierendes System (Blackbox KI) hier durchgehend zu analysieren, dürfte sich als ausgesprochen schwierig herausstellen.

Die Hürden für den Datenschutz: Künstliche Intelligenz benötigt Nutzerinformationen

Dass es sich beim Thema "Künstliche Intelligenz" um ein wichtiges Zukunftsprojekt handelt, wird heute kaum noch infrage gestellt: schon im Jahr 2017 soll der weltweite Umsatz für Hardware, Software sowie damit verbundene Services im Bereich "Cognitive Computing" und "Machine Learning" um 92 % wachsen - auf immerhin schon eine beeindruckende Summe von 4,3 Milliarden Euro. Bis 2020 soll die Grenze von 2 Milliarden Euro jährlich überschritten werden. Datenschützer sehen eine solche Entwicklung durchaus mit einiger Skepsis; insbesondere die informationelle Selbstbestimmung sei gefährdet. Aktuell feiern digitale Assistenten wie Google Home oder Amazon Echo Erfolge, weil sie unseren Alltag erleichtern können. Aus Sicht der Datenschützer ist allerdings unklar, inwiefern die gesammelten Informationen über die Nutzer womöglich weiterverarbeitet werden. Zudem darf nicht vergessen werden, dass die Geräte jederzeit eingeschaltet sind und technisch gesehen die Nutzer abhören können. Doch selbst wenn es zu diesem Szenario gar nicht kommt, erhalten die großen Digitalunternehmen eine Menge Informationen von uns. Auch der Staubsauger-Robotor "Roomba" geriet 2017 in die Kritik: um die Wohnung perfekt von Schmutz zu befreien, werden die Räume durch das Gerät vermessen. Dadurch entsteht in gewisser Weise eine digitale Karte der Wohnung. Hersteller iRobot überlegte, genau diese Daten an Unternehmen zu verkaufen - und auch in diesem Zusammenhang wurden Namen wie Google oder Amazon genannt. Hieraus ergibt sich die Problematik, dass die großen Digitalkonzerne weitreichende Informationen erhalten, die sich natürlich auch problemlos miteinander verknüpfen lassen. Aus der Größe der Wohnung lassen sich zum Beispiel auch Rückschlüsse über Einkommen ziehen, möglicherweise kann die Werbung dann noch individueller auf bestimmte Personen zugeschnitten werden.

Datenschutzfolgeabschätzung – insbesondere bei Blackbox KI unmöglich

Die von der DSGVO geforderte Datenschutzfolgeabschätzung kann im Bereich der Künstlichen Intelligenz nicht adäquat durchgeführt werden – denn da es sich bei der KI um ein selbstlernendes System handelt, ist der Algorithmus für seine Entwickler nicht mehr nachzuvollziehen und trifft eigene Entscheidungen. Dieses Phänomen wird Blackbox KI genannt.

Es besteht also ein starkes Spannungsfeld zwischen Künstlicher Intelligenz und Datenschutz. Unternehmen, aber auch die Rechtsprechung, stehen hier vor einer großen Herausforderung, um EU-Unternehmen einerseits eine faire Chance im Wettbewerb um die Zukunft der KI zu bieten, gleichzeitig aber andererseits den europäischen Bürgern die Sicherheit ihrer Daten zu garantieren.

Wie fair entscheidet der Algorithmus? – Das Problem der Diskriminierung

Ein weiterer wichtiger Aspekt dürfte das Thema Diskriminierung sein. Hier hat die Künstliche Intelligenz zwei Seiten der Medaille: Andererseits neigt besonders noch nicht ganz ausgereifte KI dazu, Vorurteile zu bestätigen und in diesem Zuge auch diskriminierende Entscheidungen zu treffen – beispielsweise bei Bonitätsprüfungen. Die Betroffenen müssen in einem solchen Fall vor diskriminierenden Entscheidungen eines Algorithmus geschützt werden und es muss die Möglichkeit bestehen, dagegen Widerspruch einzulegen.

Andererseits sind auch menschliche Entscheidungen oftmals von – unbewussten – Vorurteilen geprägt. Hier könnte sogar eine Korrektur durch die KI stattfinden, wenn diskriminierende Entscheidungen von Menschen durch einen Algorithmus revidiert werden.

Wie sich der Datenschutz trotz Künstlicher Intelligenz sicherstellen lässt

Wie also lassen sich in einem solchen Szenario Datenschutz und Künstliche Intelligenz zusammenbringen? Apple beantwortet diese Frage mit dem oben bereits erwähnten Crwod Sourcing. Zudem versichern die entsprechenden Unternehmen, dass viele Technologien auch lokal auf dem Gerät stattfinden könnten - beispielsweise die Gesichtsentsperrung mit einem iPhone. Dadurch müssten persönliche Nutzerinformationen gar nicht bearbeitet werden. Zudem lassen sich Datenschutz und Künstliche Intelligenz an anderen Stellen auch sehr problemlos mit einander vereinen: so kann die KI Datenpannen erkennen - bisher ist dies für viele Unternehmen keine leichte Aufgabe. Kommt es zu Datenschutzverletzungen, sind aktuellen Untersuchungen zufolge 44 % von ihnen nicht in der Lage, ein Datenleck innerhalb von 72 Stunden zu erkennen und zu melden. Hier könnte ein Bot durchaus hilfreiche Unterstützung leisten. Auch im Bereich der Risikoanalyse kann die Künstliche Intelligenz wichtige Hilfe leisten. Die Datenschutzfolgeabschätzung, wie sie vom Gesetzgeber derzeit vorgeschrieben ist, dürfte künftig aber wie bereits erwähnt schwierig zu bewerkstelligen sein. Denn Künstliche Intelligenz ist schon per Definition selbstlernend und soll auch in der Lage sein, eigene Wege zu gehen. Der Gesetzgeber sieht derzeit aber vor, dass letztlich die Nutzung und Verarbeitung der personenbezogenen Daten abschätzen und bewerten muss - im Falle der Künstlichen Intelligenz ist dies also vollkommen unmöglich.

DSGVO – Innovationsfeind oder Wettbewerbsvorteil?

Immer wieder gibt es Diskussionen, ob die EU-DSGVO den technischen Fortschritt, beispielsweise bei der Künstlichen Intelligenz, behindere. In gewissem Rahmen dürfte das zutreffend sein. Allerdings gilt es stets, Fortschritt und Datenschutz gegeneinander abzuwägen, denn der Schutz personenbezogener Daten ist ein wichtiges Ziel, welches durchaus einige Einbußen in anderen Bereichen rechtfertigen kann. Andererseits wäre es ein Rückschlag für die europäischen Unternehmen, wenn die lockereren Datenschutzvorschriftem beispielswiese in den USA und China dazu führten, dass die Europäer auf dem Weltmarkt abgehängt würden.

Dennoch sollte man eines nicht vergessen: Auch bei der DSGVO selbst handelt es sich um eine wichtige Innovation. Einige Länder haben bereits ihre Datenschutzvorschriften den europäischen angepasst oder ähnliche Schritte angekündigt. Insofern besteht durchaus die Möglichkeit, dass die EU-Datenschutzstandards selbst „exportiert“ – und auf lange Sicht zum globalen Standard – werden.

Fazit: Datenschutz muss früher ansetzen

Künftig wird man sich also fragen müssen, auf welchem Wege sich Datenschutz und Künstliche Intelligenz vereinen lassen. Gesetzesänderungen werden womöglich notwendig werden; ebenso sollte der Datenschutz weitaus früher ansetzen, weil bei selbstlernenden Systemen vollkommen unklar ist, wie die Daten letztlich genau genutzt werden. Bei der Suche nach Datenlecks kann die KI allerdings auch hilfreich sein und dafür sorgen, dass Hacker-Angriffe schneller gefunden werden.

Wie sich der Bereich in Zukunft entwickeln wird, ist aktuell schwer vorherzusagen. Sicher ist, dass es noch zu einigen Entladungen innerhalb des Spannungsfeldes kommen wird. Auf lange Sicht kann jedoch der Datenschutz mit Standards, die die persönlichen Daten der Bürger schützen, einen Rahmen bilden für die technischen Innovationen, auch im Bereich KI. Klar ist aber auch, dass heute noch viele Unklarheiten bestehen, allein aufgrund von nicht ganz präzisen Formulierungen im Gesetzestext der DSGVO – hier muss die Rechtspraxis in der Zukunft für Gewissheit sorgen, damit Unternehmen wissen, an welche Standards in puncto Datenschutz sie sich zu halten haben.

Leitfaden: Datenschutz im Marketing

Was muss bei Kontaktformularen beachtet werden? Wie funktioniert ein richtiges Double-Opt-In-Verfahren? Was ist bei Cookies und Tracking zu beachten?

Marketing und Datenschutz hängen eng miteinander zusammen. Gerade hier haben neue Gerichtsurteile erneuten Handlungsbedarf aufgezeigt. Bei Missachtung der gesetzlichen Vorschriften drohen hohe Bußgelder. Unser Leitfaden für Datenschutz im Marketing hilft Ihnen bei der Umsetzung der datenschutzrechtlichen Anforderungen in sämtlichen Marketingbereichen.

Jetzt Leitfaden herunterladen

Aktuelle Beiträge zum Thema Datenschutz