Leitlinien der EU-Kommission zur Definition von KI-Systemen

Die EUKOM hat "Guidelines on the definition on an artificial intelligence system" (Richtlinien zur Definition eines KI-Systems) auf Basis des AI-Act (KIVO) erlassen.

Zweck der Leitlinien
Die Leitlinien sollen Anbietern und anderen Beteiligten helfen zu bestimmen, ob ein System als "KI-System" im Sinne des AI Acts gilt.
Sie dienen der effektiven Anwendung und Durchsetzung des AI Acts.
Sie berücksichtigen eine Stakeholder-Konsultation und die Beratung des Europäischen Gremiums für künstliche Intelligenz.

Die Leitlinien sind nicht bindend.

Definition eines KI-Systems (Artikel 3(1) AI Act):

Ein KI-System ist ein maschinenbasiertes System, das mit unterschiedlichen Autonomiegraden betrieben werden kann und nach der Bereitstellung Anpassungsfähigkeit zeigen kann.

Es leitet aus den empfangenen Eingaben ab, wie Ausgaben (z. B. Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen) generiert werden, die physische oder virtuelle Umgebungen beeinflussen können.

Die Definition umfasst sieben Hauptelemente, die nicht alle kontinuierlich in beiden Phasen (vor und nach der Bereitstellung) des Lebenszyklus vorhanden sein müssen.

Hauptelemente der KI-Systemdefinition

 

Maschinenbasiertes System:

Benötigt Hardware- und Softwarekomponenten für seine Funktion. Umfasst traditionelle und Quantencomputersysteme.

Autonomie: Operiert mit einem gewissen Grad an Unabhängigkeit von menschlichem Eingreifen. Systeme, die vollständig manuelle menschliche Interaktion erfordern, sind ausgeschlossen.

Anpassungsfähigkeit: Kann nach der Bereitstellung Anpassungsfähigkeit zeigen (Selbstlernfähigkeiten). Dies ist jedoch keine zwingende Voraussetzung.

KI-Systemziele: KI-Systeme sind so konzipiert, dass sie nach expliziten oder impliziten Zielen arbeiten.

Inferenz, wie Ausgaben mithilfe von KI-Techniken generiert werden: Die Fähigkeit, aus Eingaben abzuleiten, wie Ausgaben generiert werden sollen.

Output-Typen: Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen.

 

Beeinflussung physischer oder virtueller Umgebungen: Die Ausgaben des KI-Systems können diese Umgebungen beeinflussen.

 

KI-Verordnung: Ein Überblick

Die KI-Verordnung (KI-VO) ist ein umfangreiches Regelwerk, das jedoch in der praktischen Anwendung viele Fragen offen lässt. Um hier Klarheit zu schaffen, hat die EU-Kommission Leitlinien herausgegeben, die als Auslegungshilfen für Gerichte, Behörden und Rechtsanwender dienen sollen. Zwei dieser Leitlinien befassen sich mit besonders wichtigen Aspekten: der Definition von KI-Systemen und den verbotenen KI-Praktiken.

 

Die Herausforderungen der KI-VO

Die KI-VO besteht aus über 100 Artikeln, zahlreichen Erwägungsgründen und Anhängen, lässt aber grundlegende Definitionen und konkrete Anwendungsfälle offen.

 

Besonders problematisch ist die unklare und auslegungsbedürftige Definition des KI-Systems in Artikel 3 Nr. 1 KI-VO. Diese Unklarheit zwingt Rechtsanwender dazu, bei jeder KI-gestützten Anwendung zu entscheiden, ob sie dem komplexen Prüfprozess der KI-VO unterliegt oder nicht. Auch Artikel 5 KI-VO, der verbotene KI-Praktiken behandelt, ist mit seinen unbestimmten Rechtsbegriffen wenig konkret.

 

Ein Beispiel hierfür ist Artikel 5 Abs. 1 lit. a KI-VO, der unterschwellige Beeinflussung, manipulative Techniken und die Veränderung des Verhaltens von Personen durch KI-Systeme mit potenziell erheblichen Schäden thematisiert. Die EU-Kommission versucht, mit ihren Leitlinien hier mehr Klarheit zu schaffen.

 

Die Leitlinien der EU-Kommission

Artikel 96 KI-VO beauftragt die EU-Kommission, Leitlinien zur praktischen Umsetzung des Regelwerks zu erarbeiten, um eine einheitliche Anwendung zu fördern und Rechtssicherheit zu gewährleisten.

 

Leitlinie zur Bestimmung von KI-Systemen

Diese 12-seitige Leitlinie soll die Definition von KI-Systemen gemäß Artikel 3 Nr. 1 KI-VO präzisieren. Die ursprüngliche Definition ist jedoch so vage, dass sie aus Sicht der Rechtsanwender kaum brauchbar ist. Die Leitlinie kann die Mängel der Definition nicht vollständig beheben. Hilfreich sind jedoch die Ausführungen ab Randziffer 40, die Beispiele für Anwendungen nennen, die nicht als KI-Systeme gelten sollen.

 

Leitlinie zu verbotenen KI-Praktiken

Diese Leitlinie ist mit 135 Seiten deutlich umfangreicher und bietet zahlreiche Erläuterungen, Beispiele und praktische Hilfestellungen zu den in Artikel 5 KI-VO genannten Verboten. Besonders hervorzuheben ist Randziffer 57, die betont, dass Verstöße gegen Artikel 5 KI-VO eng auszulegen sind, da sie stark in die Freiheiten anderer eingreifen und hohe Bußgelder zur Folge haben können. Dieser Ansatz entspricht dem Grundsatz der Verhältnismäßigkeit.

 

 

Die aktuelle Leitlinie trägt dem Umstand Rechnung, dass das Recht auf Schutz personenbezogener Daten kein uneingeschränktes Recht ist und gegen andere Grundrechte abgewogen werden muss, wie in Erwägungsgrund 4 Satz 2 ff. DSGVO dargelegt.

 

Ausblick

Die EU-Kommission wird voraussichtlich weitere Leitlinien entwickeln, um die Anwendung der KI-VO zu unterstützen. Berater und Behörden werden die vorhandenen Leitlinien analysieren und entsprechende Veröffentlichungen vorbereiten. Dabei stellt sich die Frage nach der rechtlichen Verbindlichkeit dieser Leitlinien.

 

Rechtliche Verbindlichkeit der Leitlinien

Die Leitlinien der EU-Kommission nach Artikel 96 KI-VO sind nicht rechtsverbindlich. Sie sind als Empfehlungen und Auslegungshilfen zu verstehen, die eine einheitliche Anwendung der KI-VO fördern sollen. Im Gegensatz zu Verordnungen oder delegierten Rechtsakten (Artikel 97 KI-VO) sind Leitlinien nicht im Vertrag über die Arbeitsweise der Europäischen Union (AEUV) aufgeführt und haben daher keine bindende Wirkung.

 

Die EU-Kommission selbst stellt in Randziffer 5 ihrer Leitlinie zu verbotenen KI-Praktiken klar, dass diese nicht rechtsverbindlich sind und die endgültige Auslegung des AI-Gesetzes dem Europäischen Gerichtshof (EuGH) obliegt.

 

Schlussfolgerung

Die Leitlinien der EU-Kommission sind ein sinnvoller Versuch, die Auslegung der KI-VO zu erleichtern.

 

Während die Leitlinie zur Definition von KI-Systemen aufgrund der unklaren Definition in Artikel 3 Nr. 1 KI-VO nur begrenzt hilfreich ist, bietet die Leitlinie zu verbotenen KI-Praktiken wertvolle Auslegungshilfen.

 

Auch wenn die Leitlinien nicht rechtsverbindlich sind, lohnt sich ein Blick in die Dokumente, um ein besseres Verständnis der KI-VO zu entwickeln.

 

Mit den Leitlinien zu verbotenen KI-Systemen werden wir uns noch befassen.