KANBrief 3/22

Wertekonflikte als Herausforderung bei der Entwicklung von KI-Systemen

Bei der Entwicklung von Systemen mit künstlicher Intelligenz stellen sich nicht nur technische Herausforderungen. Es spielen auch verschiedene wirtschaftliche und gesellschaftliche Werte eine Rolle, die zum Teil in Konkurrenz zu Sicherheitsanforderungen stehen können. Das ETTO-Prinzip macht mögliche Widersprüche deutlich und zeigt, dass diese Werte sorgfältig gegeneinander abgewogen werden müssen, um künstliche Intelligenz erfolgreich in die Gesellschaft einführen zu können und ihre Akzeptanz zu erhöhen.

Ursprünglich als Organisation zur Förderung der wirtschaftlichen Entwicklung gegründet, hat sich die EU zu einer politischen Gemeinschaft von 27 Mitgliedstaaten weiterentwickelt. Sie vertritt die europäischen Werte der Menschenwürde, Freiheit, Gleichheit, Demokratie, Menschenrechte und Rechtsstaatlichkeit. Zudem hat sie sich als eine der einflussreichsten internationalen Institutionen etabliert, die die Sicherheit als zentrales öffentliches Interesse schützen. Die EU-Maschinenrichtlinie 2006/42/EG ist zu einem einflussreichen Instrument geworden, das die Sicherheit von Produkten gewährleistet. Auswertungen haben gezeigt, dass die Richtlinie ihren Zweck erfüllt, sie aber angesichts der rasanten Entwicklung digitaler Produkte und KI-Anwendungen durch zusätzliche Maßnahmen ergänzt werden muss.

Spannungsfeld zwischen Marktstimuli und Gemeinwohl?

Der Versuch, Vorschriften zu formulieren, die Wachstumsimpulse generieren und gleichzeitig die europäischen Werte schützen, macht Konflikte und Widersprüchlichkeiten zwischen verschiedenen wichtigen Werten sichtbar. Die Verhandlungen um die KI-Verordnung, mit der eine KI „made in Europe“ befördert werden soll, sind ein herausragendes Beispiel dafür. Verschiedenen EU-Dokumenten zufolge gibt es diese potentiellen Konflikte zwischen marktorientierten, politischen und sozialen Werten jedoch eigentlich gar nicht. Vielmehr soll der Schutz der Bürgerrechte auf dem globalen Markt einen Wettbewerbsvorteil bieten. Möglicherweise steckt darin aber auch ein gewisses Wunschdenken. Sollten einmal Marktinteressen dem Gemeinwohl und zentralen gesellschaftlichen Werten entgegenstehen, könnte eine staatliche Moderation oder ein Interessenausgleich zwischen den betroffenen Parteien sinnvoll sein. Der Einsatz von staatlicher Regulierung als Instrument zur Vermittlung zwischen verschiedenen Interessen und wichtigen Werten kann Proteste und Misstrauen hervorrufen. Manche Hersteller würden Empfehlungen und Selbstbewertungsinstrumente einer verbindlichen Regulierung und nationalen Gesetzen vorziehen. Aber auch die Öffentlichkeit empfindet Vorschriften womöglich als Hindernis für den einfachen Zugang zu Produkten und Dienstleistungen sowie deren Nutzung: Für den durchschnittlichen Internetnutzer besteht beispielsweise die spürbarste Auswirkung der Datenschutzgrundverordnung wohl darin, dass das Surfen im Internet und die Nutzung verschiedener Anwendungen umständlicher geworden sind.

Die neuen Technologien sind mit großen Hoffnungen, aber auch wachsenden Sorgen verbunden. Aktuell scheint der risikobasierte Ansatz, den die EU zum Schutz der Sicherheit und der Grundrechte ihrer Bürger verfolgt, gerechtfertigter denn je. Sich der Risiken bewusst zu sein, ist ein erster Schritt, der dann ergänzt werden muss durch die Möglichkeit, zwischen verschiedenen, möglicherweise widersprüchlichen Werten zu verhandeln – keine leichte Aufgabe in der Welt der KI, in der sich die Produkte und Dienstleistungen durch ständige Updates verändern und weiterentwickeln und in der die Grenze zwischen Produkten und Dienstleistungen oft verschwimmt.

Das ETTO-Prinzip

Das Vorsorgeprinzip schützt vor unnötigem Hype, aber es kann auch den Weg für stichhaltige Konzepte und die Anwendung des Realitätsprinzips ebnen, die als Leitplanken für die Gestaltung und Entwicklung neuer Produkte und Dienstleistungen dienen. Der bekannte Sicherheitswissenschaftler Erik Hollnagel hat dazu ein einfaches Instrument entwickelt: das ETTO-Prinzip (Efficiency-Thoroughness Trade-Off). Hinter dem Prinzip steckt der Gedanke, dass alles, was Menschen individuell oder gemeinschaftlich tun, durch Knappheit begrenzt ist. Zeit, Informationen, Materialien, Werkzeuge, Energie und Arbeitskraft stehen selten im Überfluss zur Verfügung. Dennoch bewältigen die Menschen in der Regel ihre Aufgaben, da sie ihr Handeln an die vorherrschenden Bedingungen anpassen. Dabei, so Hollnagel, folgen sie dem ETTO-Prinzip.

Gründlichkeit erfordert Planung, durch die sich zwangsläufig der Start der Aufgabe verzögert: Die Zeit, die für Vorbereitungen aufgewendet wird, reduziert die Zeit, die für die Erledigung der eigentlichen Aufgabe zur Verfügung steht. Effizienz wiederum bedeutet, die Ressourcen zu minimieren, die es braucht, um ein bestimmtes Ziel zu erreichen. Gleichzeitig verlangt effizientes Arbeiten oft zumindest einen gewissen Grad an systematischer Planung, denn es ist unmöglich, effizient zu sein, ohne zunächst gründlich zu sein.

Das ETTO-Prinzip zeigt, dass es bei jeder Tätigkeit ein Spannungsfeld zwischen Gründlichkeit und Effizienz gibt. Wer in Gründlichkeit investiert, verringert die Effizienz und umgekehrt. Sich nur auf einen der beiden Werte zu konzentrieren, ist ebenfalls keine Option, da es beide braucht, um eine Tätigkeit zu erledigen. Das rationale Ergebnis der Abwägung hängt davon ab, welche Priorität man den Werten einräumt, die mit der jeweiligen Aufgabe verbunden sind. Obwohl sich die Werte Effizienz und Gründlichkeit nicht gleichzeitig maximieren lassen, können beide zur Steigerung des anderen eingesetzt werden.

Benutzerfreundlichkeit versus Sicherheit

Benutzerfreundlichkeit und Sicherheit verhalten sich ähnlich zueinander wie Gründlichkeit und Effizienz. Beides sind wesentliche Werte für die Gestaltung von Produkten, aber es ist kaum möglich, beide gleichzeitig zu maximieren: Die Sicherheit zu gewährleisten bedeutet oft, dass ein Produkt schwieriger zu benutzen ist. Die Abwägung zwischen Gründlichkeit und Effizienz sowie zwischen Sicherheit und Benutzerfreundlichkeit muss berücksichtigen, welches Risiko akzeptabel ist und für wie lange eine Person eine bestimmte Tätigkeit ausführen kann. Je größer die Risiken durch technisches Versagen und Missmanagement sind, desto wichtiger werden Gründlichkeit und Sicherheit.

Das ETTO-Prinzip ist kein Instrument, das hilft, einfache Lösungen für die Abwägungen zu finden, die wir zwischen verschiedenen Gestaltungswerten und europäischen Grundwerten treffen müssen. Sein Nutzen liegt darin, dass es die internen Widersprüche offenbart. Mehrere Eigenschaften von künstlicher Intelligenz bieten große Vorzüge, haben aber gleichzeitig empfindliche Schwachstellen. Wir stehen vor Entscheidungen, bei denen das Streben nach bestimmten Werten oft andere Werte gefährdet.

Die geplante KI-Verordnung soll die künftige EU-Maschinenverordnung in puncto künstlicher Intelligenz konkretisieren. Gerade in Bezug auf KI-Systeme, die komplex und wenig transparent sind, stehen Gesetzgebung und Normung vor der Herausforderung, die richtigen Abwägungen zu treffen.

Jaana Hallamaa, Professorin für Sozialethik, Universität Helsinki
jaana.hallamaa@helsinki.fi