KANBrief 3/22
Les défis qui se présentent lors du développement de systèmes utilisant l’intelligence artificielle ne sont pas seulement de nature technique. Diverses valeurs économiques et sociales, qui peuvent parfois entrer en conflit avec les exigences de sécurité, ont également un rôle à jouer. Le principe ETTO met en évidence ces conflits potentiels et montre qu’il faut soigneusement trouver un équilibre entre ces valeurs pour que l’intelligence artificielle trouve toute sa place dans la société et y soit mieux acceptée.
Créée à l’origine comme une organisation destinée à promouvoir le développement économique, l’Union européenne est devenue une communauté politique de 27 États membres. Elle représente les valeurs européennes de dignité humaine, de liberté, d’égalité, de démocratie, de droits humains et d’état de droit. Elle s’est également imposée comme l’une des institutions internationales les plus influentes qui protègent la sécurité en tant qu’intérêt public central. La directive européenne Machines 2006/42/CE est devenue un instrument efficace pour garantir la sécurité des produits. Des évaluations ont montré que la directive remplit son but, certes, mais que, face au développement vertigineux de produits numériques et d’applications basées sur l’intelligence artificielle, elle doit être complétée par des mesures supplémentaires.
Les tentatives qui ont été faites de formuler des réglementations censées booster la croissance tout en préservant les valeurs européennes mettent en évidence les conflits et contradictions entre différentes valeurs importantes. Les consultations actuelles concernant un règlement sur l'IA, dont le but est de promouvoir une IA « made in Europe », en sont un bon exemple. Selon plusieurs documents de l’UE, il n’existe toutefois pas vraiment de conflits potentiels entre les valeurs commerciales, politiques et sociales, puisque la protection des droits civils est censée au contraire constituer un atout concurrentiel sur le marché mondial. Cette assertion pourrait toutefois refléter une tendance à prendre ses désirs pour la réalité. Partout où les intérêts économiques se heurtent à l’intérêt public et aux valeurs sociales essentielles, un arbitrage de l’État ou une conciliation des intérêts entre les parties prenantes pourrait s’avérer utile. Recourir à des réglementations gouvernementales comme instruments de négociation entre divers intérêts et valeurs importantes est susceptible de donner lieu à des protestations et susciter des suspicions. Certains fabricants préfèreraient des recommandations et des outils d’auto-évaluation plutôt que des réglementations contraignantes et des lois nationales. Mais il se peut aussi que le public considère que les réglementations font obstacle à la facilité d’accès et d’utilisation des produits et des services : pour l’utilisateur lambda d’internet, par exemple, l’effet le plus tangible du Règlement général sur la protection des données est sans doute le fait que la navigation sur le web et l’usage de différentes applications sont devenus plus fastidieux.
Les nouvelles technologies suscitent de grands espoirs, mais aussi une inquiétude croissante. L’approche basée sur les risques adoptée par l’UE pour garantir à la fois la sécurité et la protection des droits fondamentaux de ses citoyens semble aujourd’hui plus justifiée que jamais. Être conscient des risques est une première étape, qui doit être complétée par des possibilités de négocier entre différentes valeurs potentiellement contradictoires. Or, ce n’est pas une tâche facile dans le monde de l’IA, où les produits et services changent et évoluent au fil d’actualisations constantes, et où la frontière entre produits et services est souvent floue.
Le principe de précaution protège contre un engouement inutile, mais il peut aussi ouvrir la voie à l’adoption de concepts solides et à l’application du principe de réalité pouvant servir à encadrer la conception et le développement de nouveaux produits et services. Erik Hollnagel, scientifique renommé dans le domaine de la sécurité, a développé à cet effet un outil simple : le principe ETTO (Efficiency–Thoroughness Trade-Off). Derrière ce principe se cache l’idée que tout ce qu’entreprend une personne, individuellement et collectivement, est limité par la rareté. Il y a rarement abondance de temps, d’informations, de matériel, d’outils, d’énergie et de main-d’œuvre. Et pourtant, l’individu parvient à s’acquitter de ses tâches en adaptant son action aux conditions qu’il rencontre. Ce faisant, d’après Hollnagel, il suit le principe ETTO.
Procéder avec rigueur (‘thoroughness’) implique une planification, qui retarde inévitablement le moment où commence la tâche : le temps consacré aux préparatifs réduit le temps alloué à l’exécution de la tâche proprement dite. L’efficience (‘efficiency’) implique quant à elle de réduire au maximum les ressources nécessaires pour atteindre un objectif visé. En même temps, fonctionner avec efficience requiert souvent un minimum de planification systématique, car il est impossible d’être efficient sans d’abord procéder avec rigueur.
Le principe ETTO montre comment, dans toute activité, l’attention donnée respectivement à la rigueur et à l’efficience repose sur un compromis. Miser sur la rigueur réduira l’efficience, et vice versa. Se concentrer seulement sur l’une des deux valeurs n’est pas non plus une option, car il est impossible de mener à bien une activité sans les deux. L’issue rationnelle de ce compromis dépend de l’ordre de priorité accordé aux valeurs liées à la tâche à accomplir. Bien que l’efficience et la rigueur soient des valeurs qu’il est impossible de maximiser simultanément, chacune peut être utilisée pour booster l’autre.
La relation entre rigueur et efficience est semblable à celle qui existe entre facilité d’utilisation et sécurité. Dans les deux cas, il s’agit de valeurs essentielles pour la conception de produits, mais qu’il semble impossible de maximiser en même temps. Garantir la sécurité signifie souvent en effet qu’un produit sera plus difficile à utiliser. Arriver à un compromis entre rigueur et efficience, tout comme entre sécurité et facilité d’utilisation, doit se faire par rapport à un risque acceptable et à la durée pendant laquelle l’individu peut maintenir son activité. Plus les risques liés à des défaillances techniques ou à une mauvaise gestion sont élevés, plus la rigueur et la sécurité prennent d’importance.
Le principe ETTO n’est pas un instrument qui aide à trouver des solutions simples aux choix que nous devons faire entre diverses valeurs de conception et les valeurs européennes fondamentales. Son utilité réside dans les paradoxes internes qu’il met en évidence. Plusieurs caractéristiques de l’intelligence artificielle constituent à la fois de grands atouts et des points faibles évidents. Nous sommes confrontés à des choix lors desquels la recherche de certaines valeurs signifie souvent mettre d’autres en danger. Le projet de règlement sur l’IA a pour but de concrétiser le futur règlement sur les machines en ce qui concerne l’intelligence artificielle. Quand il s’agit en particulier des systèmes d’IA complexes qui manquent de transparence, la législation et la normalisation sont confrontées au défi de trouver les bons compromis.
Jaana Hallamaa, Professeure d’éthique sociale Université d’Helsinki
jaana.hallamaa@helsinki.fi