Künstliche Intelligenz soll den Menschen dabei unterstützen, Entscheidungen zu treffen oder sie ihm sogar abnehmen. Noch offen ist, in welchen Fällen und unter welchen Voraussetzungen sicherheitsrelevante Entscheidungen eines Systems von Methoden der künstlichen Intelligenz beeinflusst oder automatisiert getroffen werden dürfen.
Die Europäische Kommission hat in diesem Zusammenhang am 21. April 2021 einen Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften über künstliche Intelligenz vorgelegt. Dieser muss nun vom Europäischen Parlament und Rat geprüft und – ggf. mit inhaltlichen Änderungen – gemeinsam verabschiedet werden. Auf dieser Basis hat die KAN einige Vorschläge formuliert, die sich insbesondere mit den Rechtsgrundlagen und den Anforderungen an Hochrisiko-KI-Systeme befassen, und in den Gesetzgebungsprozess eingebracht.
In dem Kommissionsvorschlag ist für die Normung, entsprechend den Prinzipien des New Legislative Framework, eine wichtige Rolle vorgesehen. Die KAN verfolgt daher den Rechtssetzungsprozess aus Sicht des Arbeitsschutzes.
