Haben Sie Fragen?

Das „KI-Gesetz“: Europas Drehbuch für die Zukunft

Im Jahr 2023 – dem Jahr der Künstlichen Intelligenz (KI) – haben unglaubliche Technologien unumkehrbar Einzug in unseren Alltag gehalten und dabei unter ihren mittlerweile unzähligen Nutzern ebenso viel Begeisterung wie Unsicherheit hervorgerufen.

Obwohl der Begriff „Künstliche Intelligenz“ erst in den 1950er Jahren das erste Mal in einem wissenschaftlichen Kontext verwendet wurde, begann die Idee einer „menschlichen Maschine“ in der Kunst- und Kulturgeschichte schon deutlich früher. Selbst in der vergleichsweise kurzen Geschichte des Kinos wurde Künstliche Intelligenz mit ihren verschiedensten Ausprägungen in Filmen von Metropolis (1927) über Ex Machina (2014) bis zuletzt The Creator (2023) ausführlich und aus unterschiedlichen Perspektiven beleuchtet. Ein Schwerpunkt lag dabei nicht nur in der Definition von Bewusstsein und der Erkundung seiner Grenzen, sondern auch im Umgang von Menschen mit einer ihnen so ähnlichen und doch in bestimmten Bereichen überlegenen Technologie. Die sehr unterschiedlichen Filmwelten waren aber immer die Konsequenz einer vorherigen Gewichtung der verschiedenen Interessen zwischen Fortschritt und Stabilität.

Heute, da die KI-Systeme die Grenze der Fiktion zur Realität überschritten haben, muss sich die Europäische Union (EU) genau diesen Fragen stellen und steht darüber hinaus vor der Herausforderung, als weltweit erste Institution auch verbindliche Antworten für die nachhaltige Gewichtung aller Interessen finden zu müssen.

Für den Umgang mit KI-Systemen möchte die EU einen ganzheitlichen Ansatz verfolgen, der sich auf Exzellenz und Vertrauen konzentriert, um Forschung und industrielle Kapazitäten zu stärken und gleichzeitig Sicherheit und Grundrechte zu gewährleisten. Denn Menschen und Unternehmen sollen in der Lage sein, die Vorteile von KI zu nutzen und sich gleichzeitig sicher und geschützt zu fühlen.

Auf der Suche nach diesem Gleichgewicht legte die Kommission bereits im April 2021 ein KI-Paket vor, das neben zahlreichen weiteren Maßnahmen insbesondere auch einen Vorschlag für einen europäischen Rechtsrahmen zum Umgang mit KI-Systemen enthielt. Darüber haben wir bereits an dieser Stelle berichtet.
Dieser Rechtsrahmen wurde am Mittwoch, den 13.03.2024, als „Legislative Entschließung des Europäischen Parlaments zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung bestimmter Rechtsakte der Union (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))“, kurz „Gesetz über künstliche Intelligenz“ oder „KI-Gesetz“, vom Europäischen Parlament mit 523 Stimmen (bei 49 Enthaltungen) in erster Lesung angenommen.

Der Text für diese europäische Verordnung, auf den sich Parlament und Rat nach langer Debatte im Dezember 2023 geeinigt haben, soll nun ein Gleichgewicht zwischen Innovation und Sicherheit herstellen. Zweck dieser Verordnung ist es, das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta der Grundrechte verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten und die Innovation zu unterstützen.

Dieser Rechtsrahmen verfolgt dabei einen risikobasierten Ansatz, der verschiedene Risikostufen für KI-Systeme definiert, nämlich ein minimales, begrenztes, hohes und inakzeptables Risiko. Je riskanter eine Anwendung ist, desto strenger sind die für ihren Einsatz geltenden Auflagen.

KI-Systeme mit minimalen (z.B. Spam-Filter) und begrenzten Risiken (z.B. Chatbots) unterliegen dabei keinen bis wenigen Einschränkungen. So sollen neue Transparenzpflichten sicherstellen, dass Nutzer informiert werden, ob sie mit einem Menschen oder einem KI-System interagieren sowie KI-generierte Inhalte als solche gekennzeichnet werden.

Auf der anderen Seite sind KI-Systeme mit inakzeptablem Risiko nicht mit den Grundrechten und Werten der Europäischen Union vereinbar und entsprechende Praktiken im KI-Bereich, wie z.B. das Social Scoring, wobei menschliches Verhalten analysiert, bewertet oder sogar manipuliert wird, sowie die Erkennung von Emotionen am Arbeitsplatz und in der Schule, daher grundsätzlich verboten.

Dazwischen liegt ein besonderer Fokus auf den sogenannten Hochrisiko-Systemen, die eine besondere Rolle bei der Herstellung eines Gleichgewichts spielen. Dabei handelt es sich um KI-Systeme, die erhebliche positive wie negative Auswirkungen auf die Allgemeinheit haben können, z.B. in den Bereichen Infrastruktur, Gesundheit oder Justiz. Für diese KI-Systeme gelten besonders hohe Anforderungen an Transparenz, Sicherheit, Datenschutz, Dokumentation und Risikomanagement. Darüber hinaus muss gewährleistet sein, dass Hochrisiko-Systeme jederzeit unter wirksamer menschlicher Aufsicht stehen.

Der Stellenwert des neuen Regelwerks wird mit einen Blick in Artikel 99 des Verordnungsentwurfs schnell deutlich. Dieser sieht bei der Nutzung von bestimmten verbotenen KI-Praktiken Geldbußen von bis zu 35 Millionen Euro oder im Falle von Unternehmen 7% des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor.

Daher erscheint es lohnenswert, sich bereits jetzt mit den Vorschriften der neuen europäischen KI-Verordnung vertraut zu machen. Im ordentlichen Gesetzgebungsverfahren der EU fehlt dem „KI-Gesetz“ nur noch das Votum der EU-Staaten im Rat, welches für Ende April erwartet wird. Anschließend tritt die Verordnung am zwanzigsten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft und gilt – bis auf einige Ausnahmen – 24 Monate später in all ihren Teilen verbindlich und unmittelbar in jedem Mitgliedstaat.

Doch damit ist die Arbeit noch nicht getan. Denn da sich KI-Systeme immer schneller entwickeln, müssen sich auch die ihnen zugrunde liegenden Regelwerke deutlich schneller als andere Gesetze anpassen, um das Gleichgewicht zwischen Fortschritt und Stabilität aufrecht zu erhalten. Daher leitet die EU zurzeit fast monatlich neue Schritte ein, um die Einführung der neuen Regelungen zu erleichtern und deren Durchsetzung auch langfristig zu sichern. Im Januar 2024 hat die Kommission mit dem „KI-Innovationspaket zur Unterstützung von Startups und KMU im Bereich Künstliche Intelligenz“ mehrere Maßnahmen zur Unterstützung europäischer Startups und KMU bei der Entwicklung vertrauenswürdiger KI, die die Werte und Regeln der EU respektiert, ins Leben gerufen. Im Februar 2024 wurde zudem das Europäische KI-Büro als Teil der Kommission eingeweiht, dass eine Schlüsselrolle bei der Durch- und Umsetzung des „KI-Gesetzes“ in Zusammenarbeit mit den Mitgliedsstaaten spielen soll.

Und auch in Zukunft möchte die EU mit ihrem weltweit ersten umfassenden KI-Gesetz als Vorbild für andere Länder am Drehbuch der Zukunft mitwirken. Denn das Kino hat uns nun fast 100 Jahre vorbereitet, indem es uns verschiedenste Welten und ihren Umgang mit Systemen der künstlichen Intelligenz gezeigt hat. Es bleibt also spannend, für welche davon wir uns entscheiden.

Über den Autor

Liam Ehm ist Rechtsreferendar und sorgt zusammen mit unseren Anwälten dafür, dass Ihre Texte rechtssicher und immer up to date sind. www.kanzlei-meibers.de