KAN-Position zum EU-Verordnungsvorschlag über Künstliche Intelligenz

Ein neuer Rechtsrahmen soll den Binnenmarkt zum Vorbild vertrauenswürdiger und innovativer Künstlicher Intelligenz (KI) machen und die Position der EU im internationalen Wettbewerb stärken. Aus Sicht des Arbeitsschutzes hat die KAN ein Positionspapier zum Verordnungsvorschlag formuliert.

Am 21. April 2021 hat die Europäische Kommission den Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz veröffentlicht. Dadurch sollen wirtschaftliche Potenziale genutzt und eine auf den Menschen ausgerichtete KI sichergestellt werden. Ziel der Verordnung ist es auch, Rechtssicherheit darüber herzustellen, welche Methoden und Konzepte als künstliche Intelligenz gelten. Handelshemmnisse aufgrund unterschiedlicher nationaler Vorschriften sollen vermieden, Spielraum und Wettbewerb für Innovationen unter Wahrung europäischer Grundrechte geschaffen werden.

KI und hochautomatisierte Anwendungen gehören zu den zentralen Entwicklungen unserer Zeit und betreffen zunehmend auch den sicherheitstechnischen Bereich. Neben allen Chancen und Möglichkeiten bringt KI allerdings auch Risiken mit sich. Ihre Auswirkungen auf die Arbeitsprozesse führen zu sicherheitstechnischen, ergonomischen, psychischen sowie sozialpolitischen Herausforderungen. Nicht nur veränderte Kompetenzanforderungen und Arbeitsabläufe, die Entstehung neuer Berufsfelder, ethische Fragen sowie Datenschutz- und Diskriminierungsproblemstellungen verdeutlichen, warum KI ein immer bedeutsameres Thema für den Arbeitsschutz ist. Auch die Gefährdungsbeurteilung stellt eine besondere Herausforderung dar: Bei komplexen Hochrisiko-KI-Systemen wird es kaum möglich sein, dass Personen, denen die menschliche Aufsicht übertragen wird, die Fähigkeiten und Grenzen der Systeme vollständig verstehen.

Der Kommissionsvorschlag schreibt der Normung (auf Grundlage des New Legislative Framework) bei der Anwendung der Verordnung eine Schlüsselrolle zu. Auch die erste, inzwischen in Überarbeitung befindliche von DIN erarbeitete Deutsche Normungsroadmap Künstliche Intelligenz hebt hervor, dass Anforderungen an KI-Systeme wie Transparenz, Robustheit und Zuverlässigkeit durch harmonisierte europäische Normen technisch konkretisiert, das Vertrauen in KI gestärkt sowie Innovationen gefördert werden sollen.

Im Interesse der KAN ist es, dass die Verordnung geeignete und kohärente rechtliche Vorgaben und dementsprechende Normungsmandate hervorbringt. Normen sollten als spezifizierendes Instrument genutzt werden, um Risiken zu erkennen und zu reduzieren. Als Stimme des deutschen Arbeitsschutzes veröffentlichte die KAN am 01. März 2022 ihre Position zum Vorschlag für eine Verordnung (EU) über künstliche Intelligenz. Diese KAN-Position ist das Ergebnis zweier Sondierungsgespräche zwischen Bund, Ländern, Sozialpartnern und Unfallversicherungsträgern.

Aus Sicht der KAN sind besonders folgende Punkte zu klären:

• die Rechtsgrundlage der Verordnung: Der Vorschlag enthält Verpflichtungen, die sich unmittelbar an die anwendenden Personen, Unternehmen oder Einrichtungen richten. Insbesondere in Art. 29 des Vorschlags werden z. B. Überwachungs- und Informationspflichten hinsichtlich des Gebrauchs von Hochrisiko-Systemen formuliert. Zu klären ist, inwieweit die Rechtsgrundlage der Verordnung für solche Verpflichtungen, die auch den Betrieb mit einbeziehen, ausreichend ist und welche Konsequenzen für die Nutzenden damit verbunden sind.
• die Überprüfung anderer Binnenmarktvorschriften auf ihre Schnittstellen zur KI: Müssen Vorschriften wie die Niederspannungsrichtlinie hinsichtlich der Anwendung von KI ergänzt werden, um so ein einheitliches Vorschriftenwerk zu gewährleisten?
• die Anforderungen an Hochrisiko-KI-Systeme: Das Positionspapier enthält Detailvorschläge zu Anforderungen an Hochrisiko-Systeme, etwa zur menschlichen Aufsicht: Für komplexere Systeme wird es kaum möglich sein, dass Aufsichtspersonen deren Funktionsweisen vollständig verstehen können. Vielmehr sollten diese sich die Fähigkeiten und Grenzen dieser Hochrisiko-Systeme bewusst machen.

Derzeit verhandeln die zuständigen Ausschüsse des Europäischen Parlaments über den Verordnungsentwurf. Besonders diskutiert werden die der Verordnung zugrundeliegende Definition von KI sowie Fragen der geeigneten Rechtssystematik, um dem komplexen Regelungsgegenstand gerecht zu werden. Die Abstimmung im Plenum wird gegen Ende des Jahres erwartet. Gemäß dem ordentlichen Gesetzgebungsverfahren haben auch im Rat die Verhandlungen zwischen den Mitgliedstaaten begonnen. Insbesondere im Hinblick auf die thematischen Verflechtungen ethischer, rechtlicher, sozialpolitischer, technologischer und wirtschaftlicher Aspekte bleibt abzuwarten, wann die Abstimmungen zur KI-Verordnung finalisiert werden können.

Katharina Schulte
schulte@kan.de