KANBrief 2/22

La position de la KAN sur la proposition de règlement de l’UE sur l’intelligence artificielle

Un nouveau cadre juridique vise à faire du Marché intérieur un modèle pour une intelligence artificielle (IA) innovante et digne de confiance, et à renforcer la position de l’UE face à la concurrence internationale. Se plaçant du point de vue de la sécurité et de la santé au travail, la KAN a élaboré un document de position sur le projet de règlement.

Le 21 avril 2021, la Commission européenne a publié une proposition de règlement établissant des règles harmonisées concernant l’intelligence artificielle, le but étant d’exploiter les potentiels économiques et de garantir une IA axée sur l’humain. Ce règlement vise aussi à établir une sécurité juridique sur la question de savoir quels méthodes et concepts doivent être considérés comme appartenant à l’intelligence artificielle. Le but est aussi d’éviter les entraves aux échanges commerciaux dues à des réglementations différentes d’un pays à l’autre, et de créer une marge d’action et une concurrence pour l’innovation, tout en respectant les droits fondamentaux européens.

L’IA et les applications hautement automatisées font partie des avancées majeures de notre époque. Elles concernent aussi de plus en plus le domaine de la sécurité. L’IA offre, certes, de nombreuses opportunités et possibilités, mais elle présente aussi des risques. Son impact sur les processus de travail engendre des défis d’ordre sécuritaire, ergonomique, psychique et sociopolitique. L’IA devient un sujet de plus en plus important pour la SST, ce qui s’explique, entre autres, par l’évolution des exigences de compétence et des opérations à effectuer, par l’apparition de nouveaux champs professionnels, par des questions éthiques et par des problématiques liées à la protection des données et à la discrimination. L’évaluation des risques représente aussi un défi particulier : dans le cas de systèmes complexes d’IA à haut risque, il est peu probable que les personnes chargées de la surveillance humaine comprennent totalement de quoi sont capables les systèmes et quelles sont leurs limites.

La proposition de la Commission attribue à la normalisation (sur la base du Nouveau cadre législatif) un rôle déterminant dans l’application du règlement. Élaborée par le DIN, la première feuille de route allemande sur la normalisation de l’intelligence artificielle, actuellement en cours de révision, souligne également qu’il faut concrétiser techniquement par des normes européennes harmonisées les exigences applicables aux systèmes d’IA, comme la transparence, la robustesse et la fiabilité, et qu’il faut renforcer la confiance dans l’IA et encourager l’innovation.

Ce que souhaite la KAN, c’est que le règlement débouche sur des obligations légales appropriées et cohérentes et sur les mandats de normalisation correspondants, et que les normes soient utilisées comme instruments de concrétisation pour identifier et réduire les risques. En tant que voix de la SST allemande, elle a publié le 1er mars 2022 sa position sur la proposition de règlement (UE) relatif à l’intelligence artificielle. Cette position de la KAN est le résultat de deux entretiens de consultation entre la Fédération, les Länder, les partenaires sociaux et les organismes d’assurance Accidents.

Du point de vue de la KAN, il faut en particulier clarifier les points suivants:

  • la base juridique du règlement : la proposition contient des obligations qui s’adressent directement aux personnes, entreprises ou institutions qui utilisent des systèmes d’IA. L’Article 29 de la proposition, en particulier, contient par exemple des obligations de surveillance et d’information concernant l’utilisation de systèmes à haut risque. Reste à clarifier dans quelle mesure la base juridique du règlement est suffisante pour de telles obligations, qui impliquent également l’exploitation, et quelles en sont les conséquences pour les utilisateurs.
  • l’examen d’autres réglementations du Marché intérieur pour déterminer leurs interfaces avec l’IA : les réglementations telles que la directive Basse tension doivent-elles être complétées en ce qui concerne l’utilisation de l’IA, afin de garantir ainsi un ensemble uniforme de réglementations ?
  • les exigences auxquelles doivent répondre les systèmes d’IA à haut risque : le document de position contient des propositions détaillées sur les exigences applicables aux systèmes à haut risque, à propos notamment de la surveillance humaine. Pour les systèmes particulièrement complexes, il est en effet improbable que les personnes chargées de cette surveillance en comprennent totalement le mode de fonctionnement. Il serait préférable qu’elles sachent de quoi sont capables ces systèmes à haut risque, et quelles en sont les limites.

Les commissions compétentes du Parlement européen examinent actuellement le projet de règlement. Les discussions portent en particulier sur la définition de l’IA sur laquelle reposera ce règlement, ainsi que sur la question de savoir quelle est la systématique juridique appropriée, adaptée à la complexité de l’objet de la réglementation. Le vote en séance plénière devrait avoir lieu à la fin de l’année. Conformément à la procédure législative ordinaire, les discussions entre les États membres ont également commencé au sein du Conseil. Reste à voir quand les concertations sur le règlement sur l’IA pourront être finalisées, en raison notamment de l’imbrication thématique des aspects d’ordre éthique, juridique, sociopolitique, technologique et économique.

Katharina Schulte
schulte@kan.de