Regulierung von künstlicher Intelligenz: Entwurf eines KI-Gesetzes für die EU
Künstliche Intelligenz ist auf dem Vormarsch: KI-Anwendungen können Unternehmen und der Gesellschaft viele Vorteile bringen. Allerdings bringt technischer Fortschritt stets Risiken mit sich. Das Europäische Parlament hat nun einen Gesetzesentwurf zur Regulierung von KI-Anwendungen vorgelegt.
Inhalt
Chancen und Risiken
Künstliche Intelligenz sorgt für Fortschritt, Arbeitserleichterungen und Anwenderfreundlichkeit. Bereits jetzt gibt es eine Vielzahl von Anwendungen in Form von Chatbots, Bildgeneratoren, Texterkennung oder Datenanalyse. In der Wirtschaft, Bildung oder im Gesundheitswesen werden viele dieser Anwendungen genutzt und sorgen für eine Arbeitserleichterung. KI-Systeme können jedoch potentiell auch zu großen Schäden für die Gesundheit, Sicherheit oder Grundrechte von Menschen führen.
Einheitliche Regulierung
Um die Gefahren von Künstlicher Intelligenz zu minimieren, soll es bald ein KI-Gesetz für die EU geben. Die Europäische Kommission legte hierfür bereits im Jahr 2021 einen Vorschlag vor. Im Juli 2023 fertigte das Europäisch Parlament nun einen Gesetzesentwurf zur einheitlichen Regulierung von KI an. Das KI-Gesetz soll EU-weit gelten, unabhängig davon, wo die Anwendung entwickelt wurde. Eine Einigung mit den Mitgliedsstaaten und der Europäischen Kommission zum sogenannten AI-Act ist bis zum Ende des Jahres geplant.
Unterscheidung nach Risikostufen
Das Gesetz soll Regelungen zu Verwendung von KI-Systemen, Verbote, besondere Anforderungen für Hochrisiko-Systeme, Transparenzvorschriften sowie Vorschriften zur Marktüberwachung enthalten. Der Gesetzesentwurf unterscheidet dabei nach Anwendungsbereichen und ist risikobasiert: KI-Systeme sollen in vier Risikogruppen eingeteilt werden und es sollen klare Kriterien für vertrauenswürdige KI-Systeme geschaffen werden. Für KI-Systeme mit „Hochrisiko“ sollen hingegen besondere Anforderungen gelten, unter anderem um Bedrohungen und für Gesundheit und Sicherheit von Menschen vorzubeugen. Das Merkmal „Hochrisiko“ soll dabei jedoch nicht zu weit gefasst werden und ausschließlich für tatsächlich hochriskante Anwendungen gelten.
Geplante Regelungen und Verbote
Der Gesetzesentwurf sieht Regelungen auf drei Ebenen vor: Zunächst sollen für alle KI-Entwickler die gleichen Mindeststandards gelten. Des Weiteren soll es Regelungen für sogenannte „Basis-Modelle“ geben, die in Hochrisiko-Anwendungen eingebaut werden. Zuletzt soll das Verhältnis zur Zusammenarbeit zwischen den Basismodellen und den sie nutzenden Unternehmen geregelt werden.
Der Gesetzesentwurf sieht hierzu verschiedene Vorschriften vor: Entwickler sollen verpflichtet werden, ein Risikomanagementsystem einzuführen, um Gefahren für die Sicherheit und Gesundheit von Menschen vor Markteinführung und während der gesamten Nutzungsdauer zu überprüfen. Außerdem soll es zu den Trainingsdaten Vorgaben zur Diversität geben, um Diskriminierung vorzubeugen. Zur Prävention von Hackerangriffen und Missbrauch sollen Regelungen zur Gewährleistung der IT-Sicherheit sorgen.
Künstliche Intelligenz im Rahmen von Chatbots wie ChatGPT bringt zudem auch urheberrechtliche Schwierigkeiten. Abhilfe sollen ein Gebot zur Urhebernennung bei urheberrechtlich geschütztem Material von Trainingsdaten schaffen.
Verstößt eine KI-Anwendung gegen ethische sowie demokratische oder rechtsstaatliche Grundsätze der EU, soll sie gänzlich verboten werden können. So soll beispielsweise die Gesichtserkennung mittels biometrischer Daten im Öffentlichen Raum nicht erlaubt sein.
Letztlich bliebt abzuwarten, welche Änderungen an dem Gesetzesentwurf vorgenommen werden. Fest steht, dass das Gesetz nicht mehr lange auf sich warten lässt. Über Neuigkeiten werden wir an dieser Stelle informieren.
Weitere Informationen
