Am 14. Juni 2023 stimmte das Europäische Parlament über ein Gesetz zur umfassenden Regulierung künstlicher Intelligenz (KI) in der Europäischen Union ab. Das KI-Gesetz wurde trotz einiger Kontroversen mit großer Mehrheit (499 Ja-Stimmen, 93 Enthaltungen, 29 Nein-Stimmen) angenommen. Die Kontroverse betraf die Ermächtigung von Behörden, KI-Systeme zur Identifizierung von Personen einzusetzen, unter anderem zur Verhinderung von Terroranschlägen. Diese Ermächtigung ist höchst umstritten, da ein solcher Einsatz von KI-Systemen gegen die Grundprinzipien eines demokratischen Staates verstößt. Dies zeigt sich besonders deutlich am Beispiel Chinas, das seit Jahren das sogenannte Scoring anwendet, also Bürger anhand ihres Verhaltens, ihres sozialen Status oder ihrer körperlichen Merkmale klassifiziert. Bedenken hinsichtlich des Einsatzes von KI-Systemen in den EU-Ländern führten zur Ablehnung eines Änderungsantrags, der die Identifizierung von Bürgern durch Ermittlungsbehörden ermöglicht hätte. Wie das Europäische Parlament in seinem Positionspapier betonte, ist das übergeordnete Ziel des KI-Gesetzes der Schutz demokratischer Werte und die Begrenzung der negativen Auswirkungen des Einsatzes von KI. Daher würde der Einsatz von Systemen der künstlichen Intelligenz zur Identifizierung von Bürgern gegen die Grundprinzipien eines demokratischen Staates verstoßen.
Was den Inhalt des Gesetzes selbst betrifft, konzentrierte sich der Gesetzgeber vor allem auf die Klassifizierung von KI-Systemen anhand ihres Risikogrades. Das KI-Gesetz teilt KI-Systeme in vier Kategorien ein. Jede Kategorie ist mit dem Risikograd der Nutzung des jeweiligen KI-Systems verbunden: inakzeptables Risiko, hohes Risiko, niedriges Risiko und minimales Risiko.
Ein inakzeptables Risiko ist ein Risiko, das eine Bedrohung für die Bürger darstellt. Künstliche Intelligenz, die biometrische Technologien zur Identifizierung und Kategorisierung von Personen einsetzt, fällt in diese Kategorie. Dies gilt insbesondere für Technologien, die Personen in Echtzeit erkennen.
Künstliche Intelligenz hingegen, die mit einem hohen Risiko verbunden ist, bedroht die Sicherheit und die Grundrechte der Bürger. Daher darf sie nur nach Erfüllung einer Reihe von Anforderungen eingesetzt werden und unterliegt während ihrer gesamten Betriebsdauer einer Bewertung. Das KI-Gesetz kategorisiert Hochrisiko-KI-Systeme wie folgt:
- Systeme künstlicher Intelligenz, für die die EU-Produktsicherheitsvorschriften gelten.
- Künstliche Intelligenzsysteme, die in einer EU-Datenbank registriert werden müssen, werden in acht Bereiche unterteilt: Schulbildung und Berufsausbildung, Beschäftigung, Personalmanagement, Management und Betrieb kritischer Infrastrukturen, Strafverfolgung, Zugang zu wesentlichen privaten Dienstleistungen, Rechtshilfe, strafrechtliche Ermittlungen sowie biometrische Identifizierung und Klassifizierung von Personen.
Auch KI-Systeme mit geringem oder minimalem Risiko müssen bestimmte Anforderungen erfüllen. Die wichtigste Anforderung ist Transparenz: Solche Systeme müssen so transparent sein, dass Nutzer erkennen, dass sie KI einsetzen, und ihnen fundierte Entscheidungen ermöglichen.
Die Hauptbetroffenen des KI-Gesetzes sind Anbieter und Nutzer künstlicher Intelligenz. Anbietern von KI-Systemen wurden zahlreiche Pflichten auferlegt, abhängig von den mit der Nutzung ihrer Produkte verbundenen Risiken. Wird das KI-System eines Anbieters als risikoreich eingestuft, muss der Anbieter das System in der entsprechenden Datenbank registrieren. Interessant ist der Fall von Chat GPT, das als generatives KI-System klassifiziert wird. Generative KI-Systeme erstellen neue Texte, Bilder und Grafiken auf Basis von Benutzerbeschreibungen. Solche Systeme werfen urheberrechtliche Fragen auf. Aus diesem Grund wurden Chat GPT und andere generative KI-Systeme als risikoreich eingestuft. Daher müssen Chat GPT und andere generative KI-Systeme die folgenden Anforderungen erfüllen:
- Entwicklung eines Systems künstlicher Intelligenz, das keine illegalen Inhalte veröffentlicht.
- den Nutzer darüber informieren, dass der Inhalt von künstlicher Intelligenz erstellt wurde
- Dokumentation der Nutzung urheberrechtlich geschützter Werke.
Die an KI-Systemanbieter gestellten Anforderungen behindern die Entwicklung dieser Systeme erheblich. Obwohl sich viele große Anbieter wie Google und Facebook für die Einführung von KI-Regulierungen ausgesprochen haben, sind sie letztlich der Ansicht, dass die aktuelle Fassung des KI-Gesetzes nicht für die gesamte Branche vorteilhaft ist. Vertreter der größten KI-Unternehmen haben betont, dass das geltende KI-Gesetz die Nutzung und Entwicklung von KI-Systemen stark einschränkt, was zu einer Verlangsamung der technologischen Entwicklung führen könnte. Daher hat Google nach der Verabschiedung des KI-Gesetzes durch das Parlament die Einführung seines neuen Chatbots Al Bard in der Europäischen Union abgesagt. Wird diese Entscheidung zu einer Lockerung des KI-Gesetzes führen? Die aktuelle Fassung des KI-Gesetzes ist noch nicht endgültig, da nach seiner Verabschiedung Verhandlungen mit dem Europarat und den Mitgliedstaaten beginnen werden. Werden diese Verhandlungen zu wesentlichen Änderungen des KI-Gesetzes führen und die Anforderungen an KI-Systemanbieter lockern oder verschärfen? Diese Frage lässt sich nur schwer beantworten. Die Europäische Union ist fest entschlossen, ein Gesetz zur künstlichen Intelligenz (KI) zu verabschieden, das die Bürger vor den negativen Folgen ihrer Nutzung schützt und anderen Ländern als Beispiel für die Regulierung von KI-Themen dienen soll. Dies ähnelt der DSGVO, auf der die US-amerikanischen Datenschutzbestimmungen basieren. Es ist jedoch unklar, ob die Forderungen der KI-Systemanbieter die endgültige Ausgestaltung des KI-Gesetzes beeinflussen werden. Die EU sollte die Ansichten der Branche unbedingt berücksichtigen, eine Lockerung des KI-Gesetzes erscheint jedoch unwahrscheinlich.
Diese Mitteilung dient ausschließlich Informationszwecken und stellt keine Rechtsberatung dar.
Autor:
