Symbolbild für Rechtsrahmen für KI

Rechtsrahmen für KI: Das soll in der EU gelten

Künstliche Intelligenz (KI) ist heutzutage in aller Munde. Doch wie verhält es sich mit dem Schutz der durch KI-Systeme verarbeiteten Daten? Ein Rechtsrahmen für KI soll hier Orientierung und Sicherheit bieten.

2022-08-19

Logo

Die EU-Kommission beschäftigt sich seit 2018 mit einem geeigneten Rechtsrahmen für KI. Ein erster Vorschlag wurde im April 2021 gemacht. Dieser beinhaltet unter anderem eine Risikoeinstufung für KI-Systeme bezüglich Grundrechte, Sicherheit und Privatsphäre. Der folgende Artikel zeigt, warum ein Rechtsrahmen für KI wichtig ist, und stellt den Entwurf der EU-Kommission vor.

Was versteht man unter Künstlicher Intelligenz

Künstliche Intelligenz (KI), auch artifizielle Intelligenz (AI) unternimmt den Versuch, intelligentes Verhalten des Menschen nachzuahmen. Als Teilgebiet der Informatik beschäftigt sich KI mit maschinellem Lernen, indem beispielsweise Computer so programmiert werden, dass sie Probleme und Aufgaben eigenständig lösen können. Beispiele für KI findet man in vielen Bereichen des Alltags, wie zum Beispiel:

Spracherkennung und Sprachassistenz

Durch maschinelles Lernen erkennen Sprachassistenten wie Alexa oder Siri bestimmte Muster in gespeicherten Daten und geben auf dieser Grundlage Antworten oder führen Befehle durch.

Smart Home

Smart Home Anwendungen regeln die Funktionen von Geräten wie zum Beispiel der Heizung oder Beleuchtung zentral über ein gemeinsames Heimnetzwerk. Durch die dabei gesammelten Daten lernen sie ständig dazu und sind sogar in der Lage, die Funktionen nach den Vorlieben der Bewohner automatisch anzupassen. Smart Home Anwendungen gehören genau wie Sprachassistenten zum Internet der Dinge (Internet of Things, kurz: IoT).

Künstliche Intelligenz soll aber auch zunehmend in Bereichen des öffentlichen Lebens eingesetzt werden, wie zum Beispiel zur intelligenten Verkehrssteuerung oder bei der Gewinnung Erneuerbarer Energien.

Kommentar von Prof. Dr. Boris Paal

„KI ist für die Wettbewerbsfähigkeit und digitale Souveränität der Europas von herausragender Bedeutung. Die Entwicklung eines europäischen Rechtsrahmens, der sowohl Risiken adressiert als auch Innovationsanreize setzt und Rechtssicherheit für Unternehmen schafft, ist deshalb zu begrüßen. Big Data und Datenschutz kommt für die Entwicklung und Anwendung von KI eine entscheidende Rolle zu.“

KI: Deshalb wird ein Rechtsrahmen benötigt

Künstliche Intelligenz kann viele Vorteile mit sich bringen, wenn sie vertrauenswürdig ist und an der richtigen Stelle eingesetzt wird. Sie kann Verkehrsmittel umweltfreundlicher und sicherer machen oder die Energiegewinnung nachhaltiger und effizienter gestalten. Gleichzeitig birgt der Einsatz von KI im Alltag aber auch viele Risiken bezogen auf den Datenschutz: Spracherkennungssysteme und Smart Home Anwendungen sammeln und verarbeiten Unmengen an Daten über ihre Nutzer, die deren Kontrolle aus der Hand geben. Ein Rechtsrahmen für KI ist sinnvoll, weil er gesetzliche Grundlagen und Grenzen für den Einsatz von KI-Systemen festlegt. Dadurch entsteht Vertrauen in die Technologien und Unternehmen werden bei der Entwicklung und Nutzung hilfreicher KI-Systeme unterstützt. Umgekehrt schützt ein Rechtsrahmen für KI die Bevölkerung vor dem Missbrauch ihrer Daten. Die EU-Kommission setzt hier ein klares Zeichen: Bei Verstößen gegen die neue Verordnung können Bußgelder von bis zu 30 Millionen Euro bzw. 6 % des weltweiten Jahresumsatzes fällig werden – je nachdem, welcher Betrag höher ist. Damit überschreitet die Höhe der angedrohten Sanktionen sogar die in der Datenschutzgrundverordnung (DSGVO) vorgesehenen Bußgelder.

Das besagt der Entwurf des Rechtsrahmens für KI

Die EU-Kommission hat am 21. April 2021 den weltweit ersten Vorschlag eines Rechtsrahmens für KI vorgelegt. Dieser sieht vier verschiedene Risikostufen vor: Je höher das Risiko, desto höher fallen die Anforderungen an die KI-Systeme aus.

Unannehmbares Risiko

KI-Systeme gelten als unannehmbar, wenn sie die Sicherheit, Lebensgrundlage oder die Rechte der Bürger bedrohen. Hierzu zählt zum Beispiel die Bewertung sozialen Verhaltens durch Behörden (Social Scoring). KI-Praktiken, die ein unannehmbares Risiko darstellen, werden gemäß Art. 5 KI-VO-E verboten.

Hohes Risiko

Wenn KI-Systeme ein hohes Risiko für die Gesundheit, Sicherheit oder die Wahrung der Grundrechte von Bürgern darstellen, dürfen sie gemäß Art. 8 ff. KI-VO-E nur unter bestimmten Auflagen eingesetzt werden. Beispiele hierfür finden sich in kritischen Infrastrukturen, die Auswirkungen auf die Gesundheit von Bürgern haben oder im HR-Management, wo Software zur Unterstützung von Bewerbungsprozessen eingesetzt wird.

Geringes Risiko

Für KI-Systeme, die ein geringes Risiko für die Rechte und Sicherheit der Bürger aufweisen, sieht die Verordnung bestimmte Transparenzvorschriften vor. Dies gilt beispielsweise für Chatbots, deren Einsatz in Zukunft mit einer Hinweispflicht verbunden sein wird. KI-Systeme, die Inhalte manipulieren, sind von den Transparenzvorschriften ebenfalls betroffen. Deepfakes sind hierfür bekannte Beispiele. Sie erstellen mit Hilfe von KI täuschend echt wirkende, manipulierte Bild-, Audio- oder Videoaufnahmen.

Minimales Risiko

Die meisten KI-Systeme stellen für die Rechte und Sicherheit der Bürger nur ein minimales oder gar kein Risiko dar. Hierzu zählen zum Beispiel bestimmte Videospiele oder Spamfilter. Sie werden von der KI-Verordnung nicht erfasst und dürfen unter Einhaltung des geltenden Rechts weiterhin entwickelt und verwendet werden.

Die EU-Kommission schlägt vor, dass sowohl die Anwendung als auch die Umsetzung der Vorschriften von den zuständigen nationalen Marktüberwachungsbehörden beaufsichtigt werden. Außerdem soll ein Europäischer Ausschuss für Künstliche Intelligenz (European Artificial Intelligence Board) eingerichtet werden. Er setzt sich aus Vertretern der Mitgliedstaaten und der EU-Kommission zusammen und wird bei der Umsetzung und Ausarbeitung von Normen mitwirken.

Vertrauenswürdige Künstliche Intelligenz (KI) kann von großem Nutzen für die Bevölkerung sein: Die effizientere Gewinnung nachhaltiger Energie und eine sicherere und umweltfreundlichere Verkehrsführung sind hierfür zwei Beispiele. Und doch ist gerade im Alltag bei der Nutzung von KI-Systemen Vorsicht geboten. Nutzer geben dabei häufig zahlreiche sensible Daten preis und die Kontrolle über ihre Daten ab. Ein Rechtsrahmen für KI greift hier regulierend ein: Durch die Klassifizierung von KI-Systemen in verschiedene Risikogruppen und die damit einhergehende Reglementierung kann die Bevölkerung vor Datenmissbrauch geschützt und das Vertrauen in KI gestärkt werden.
 

 

Autor: Team datenschutzexperte.de
Artikel veröffentlicht am 19.08.2022

Bitte beachten Sie: Allgemeine Beiträge können eine datenschutzrechtliche Beratung im Einzelfall nicht ersetzen. Für die Richtigkeit und Vollständigkeit unsere Blogbeiträge können wir keine Gewähr übernehmen. Inhalte beziehen sich immer auf die Rechts- und Faktenlage zum Zeitpunkt der Veröffentlichung und sind deshalb zum Zeitpunkt des Aufrufs möglicherweise nicht mehr aktuell.

In den von uns erstellten Artikeln, Leitfäden, Checklisten, Whitepaper und anderen Beiträgen wird aus Gründen der besseren Lesbarkeit das generische Maskulinum verwendet. Wir möchten betonen, dass sowohl weibliche als auch anderweitige Geschlechteridentitäten dabei ausdrücklich mitgemeint sind, soweit es für die Aussage erforderlich ist.

Portraits unserer Datenschschutzexperten Dominik Fünkner, Dorothea Teichman, Nathalie Dold und Hauke Gerdey
Portraits unserer Datenschschutzexperten Dominik Fünkner, Dorothea Teichman, Nathalie Dold und Hauke Gerdey

Wir managen Ihren Datenschutz

Unsere zertifizierten Datenschutzbeauftragten helfen Ihnen, Datenschutzvorgaben sicher und pragmatisch umzusetzen. Profitieren Sie von unserem Knowhow aus über 1.800 Kundenprojekten in über 50 Branchen.

Aktuelle Beiträge zum Thema Datenschutz

Wir freuen uns auf Ihre Anfrage!

Telefon:

+49 89 / 250 039 220

Öffnungszeiten:

Mo. - Fr.: 09:00 - 18:00 Uhr