Übersicht über die geplante Verordnung über
Künstliche Intelligenz (Teil 2)
Hochrisiko-KI-Systeme
Titel III des Verordnungsvorschlags enthält spezifische Vorschriften für KI-Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen. Entsprechend dem risikobasierten Ansatz sind solche Hochrisiko-KI-Systeme auf dem europäischen Markt zugelassen, sofern sie bestimmten zwingend vorgeschriebenen Anforderungen genügen und vorab eine Konformitätsbewertung durchgeführt wird.
Die Einstufung als Hochrisiko-KI-System beruht auf der Zweckbestimmung des KI-Systems entsprechend den bestehenden EU-Produktsicherheitsvorschriften. Damit hängt die Einstufung als Hochrisiko-KI-System nicht nur von der Funktion dieses Systems ab, sondern auch von seinem konkreten Zweck und seinen
Anwendungsmodalitäten.
Klassifizierungsvorschriften
In Titel III Kapitel 1 Artikel 6 werden die Klassifizierungsvorschriften für Hochrisiko-KI-Systeme angegeben. Dabei gelten zwei Bedingungen, die erfüllt sein müssen, damit ein KI-System als Hochrisiko-KI-System gilt:
„Artikel 6
Klassifizierungsvorschriften für Hochrisiko-KI-Systeme
(1) …..
a) das KI-System soll als Sicherheitskomponente eines unter die in Anhang IIaufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder ist selbst ein solches Produkt;
b) das Produkt, dessen Sicherheitskomponente das KI-System ist, oder das KI-System selbst als Produkt muss einer Konformitätsbewertung durch Dritte im Hinblick auf das Inverkehrbringen oder die Inbetriebnahme dieses Produkts gemäß den in Anhang II aufgeführten Harmonisierungsrechtsvorschriften der Union unterzogen werden.
(2) Zusätzlich zu den in Absatz 1 genannten Hochrisiko-KI-Systemen gelten die in Anhang III genannten KI-Systeme ebenfalls als hochriskant.“
Es gibt damit also zwei Hauptkategorien für Hochrisiko-KI-Systeme:
- KI-Systeme, die als Sicherheitskomponenten von Produkten, die einer Vorab-Konformitätsbewertung durch Dritte unterliegen, verwendet werden sollen und
- sonstige eigenständige KI-Systeme, die ausdrücklich in Anhang III genannt werden und sich vor allem auf die Grundrechte auswirken.
