Die praktische Umsetzung der KI-Verordnung nimmt weiter Gestalt an. Die EU-Kommission hat den lange erwarteten Entwurf ihrer Leitlinien zur Einstufung von KI-Hochrisiko-Systemen mitsamt umfassender Anhänge im Rahmen einer öffentlichen Konsultation vorgelegt. Die Initiative soll mehr Licht in den AI Act bringen und eine einheitliche Anwendung sowie wirksame Durchsetzung von Artikel 6 gewährleisten. Der bildet das Fundament für die Risikoklassifizierung.
Die Richtlinien sind als Orientierungshilfe für die nationalen Marktüberwachungsbehörden gedacht, zu denen in Deutschland maßgeblich die Bundesnetzagentur gehört. Gleichzeitig geben sie Entwicklern, Anbietern und Betreibern von KI-Technologien ein Werkzeug an die Hand, um rechtssicher zu bestimmen, ob ihre Anwendungen in die sensible Hochrisiko-Kategorie fallen.
Dabei hebt die Kommission hervor: Es geht um die fundamentale Ja-Nein-Frage, ob ein System als hochriskant einzustufen ist. Die aufgeführten Praxisbeispiele versteht sie nicht als abschließende Liste, sondern als dynamisches Dokument.
Flexibilität und Fokus auf Grundrechte
Die EU-Kommission behält sich vor, die Exempel fortlaufend zu aktualisieren, um sie an die technologische Entwicklung anzupassen. Weitere Leitfäden, die die konkrete Einhaltung der Auflagen sowie spezifische Pflichten für Anbieter und Betreiber etwa beim Kennzeichnen von Chatbots und Deepfakes im Detail regeln, sind bereits in der Mache. Die Kommission erläutert, dass sie den Umfang des Hochrisiko-Begriffs bewusst beschränkt und proportional gestaltet habe. Er konzentriere sich strikt auf Systeme, die ein erhebliches Risiko für die Gesundheit und Sicherheit oder spürbare negative Auswirkungen auf die Grundrechte der Bürger darstellten.
Die systematische Einteilung fußt auf zwei Säulen. Unter Artikel 6 Absatz 1 fallen KI-Systeme, die entweder selbst als Produkt unter die europäischen Harmonisierungsvorschriften laut Anhang eins fallen oder als Sicherheitskomponente in einem solchen Produkt eingesetzt werden. Voraussetzung dafür ist, dass das Endprodukt einer verpflichtenden Konformitätsbewertung durch Dritte unterzogen werden muss.
Die Richtlinien liefern für diesen Bereich wichtige regulatorische Elemente sowie eine Evaluierungsmethodik. Dabei steht nicht das einzelne Produkt im Fokus, sondern das Vorkommen in der bestehenden Liste der Harmonisierungsvorschriften, die künftig ebenfalls modifiziert werden kann.
Smartwatches im Visier der Regulierer
Der zweite Pfeiler betrifft Artikel 6 Absatz 2. Dieser bezieht sich auf eigenständige Systeme, die in Anhang drei des AI Acts als risikoreich ausgewiesen werden. Zur Veranschaulichung gliedert die Kommission diesen Bereich in acht übergeordnete Kategorien, darunter kritische Infrastrukturen, Bildung sowie Biometrie.
Für Diskussionsstoff in der Wearable-Branche dürfte ein Beispiel aus dem Bereich der Emotionserkennung sorgen. Der Entwurf sieht vor, dass KI-Systeme in Smartwatches, die zum Ausmachen von Gefühlen eingesetzt werden und dabei biometrische Daten wie den Herzschlag tracken, als Hochrisiko-Anwendungen einzustufen sind.
Um der europäischen Industrie die Umstellung auf die neuen Standards zu erleichtern, gewährt die EU den Unternehmen mehr Zeit. Im Zuge des KI-Omnibus wurden die ursprünglichen Fristen nach hinten geschoben: Die strengen Verpflichtungen für KI-Systeme nach Artikel 6 Absatz 2 greifen ab dem 2. Dezember 2027, während für Produkte nach Absatz 1 die Schonfrist sogar bis zum 2. August 2028 gilt.
Verbindliche Kernvorgaben
Mit Blick auf die Harmonisierung stellt die Kommission klar, dass „die Einstufung eines KI-Systems als Hochrisiko-System gemäß Artikel 6 Absatz 2 eine einheitliche Wirkung in allen Mitgliedstaaten haben wird“. Sinn ist die Einhaltung klarer Mindeststandards, kein Verbot. Die Brüsseler Juristen betonen, dass diese Systeme „angemessenen Anforderungen unterliegen, um sicherzustellen, dass sie präzise und wie beabsichtigt funktionieren und Risiken für Gesundheit, Sicherheit und Grundrechte ordnungsgemäß bewertet und gemindert werden“.
Der Entwurf schließt auch Schlupflöcher für Entwickler. Ein Anbieter kann demnach „ein KI-System nicht einfach dadurch von der Regulierung befreien und als ‚risikoarm‘ einstufen“, indem er es „mit einer Anforderung für ein menschliches Eingreifen versieht“. Auch die im Gesetz verankerten Ausnahmen des Filtermechanismus sind kein Freifahrtschein: „Die Bedingungen müssen eng ausgelegt werden.“
(wpl)
English (US) ·