Über Algorithmenethik und gefährliche Getränkeautomaten – Zum Bericht der Datenethikkommission der Bundesregierung
Künstliche Intelligenz als Basistechnologie
Die fast universelle Anwendbarkeit von KI-Algorithmen – Erik Brynjolfsson und Andrew McAffee vom MIT sprechen von der wichtigsten „general purpose technology“ unseres Zeitalters – macht die Nutzung von Künstlicher Intelligenz (KI) interessant für Unternehmen aller Größen und unterschiedlicher Branchen. Aber auch bei der Lösung wichtiger gesellschaftlicher Herausforderungen kann die KI-Nutzung helfen. KI kann die Diagnose und Therapie von Krankheiten unterstützen, Sprache erkennen oder Cyberangriffe verhindern. Allerdings weisen Algorithmen auch Grenzen auf. Häufig liefern sie nicht transparente Ergebnisse, das heißt, es ist möglicherweise nicht nachvollziehbar, warum eine KI eine bestimmte Entscheidung trifft oder vorschlägt. Darüber hinaus kann die Nutzung von KI-Algorithmen zu Verzerrungen (engl. Bias) führen. Ein bekanntes Beispiel hierfür ist der von Amazon praktizierte und gescheiterte Versuch, eine Software auf KI-Basis zu entwickeln, die aus allen eingegangenen Bewerbungen für eine offene Stelle automatisiert die geeignetsten fünf Bewerber herausfiltert. Da Amazon trotz mehrjähriger Entwicklungszeit nicht sicherstellen konnte, dass die Software die Bewerber – zum Beispiel aufgrund ihres Geschlechts – nicht diskriminiert, wurde das Projekt eingestellt. Diese Verzerrungen dürfen aber natürlich nicht so interpretiert werden, dass KI-Algorithmen bewusst diskriminieren. Diskriminierungen stecken in aller Regel in den Trainingsdaten: Wenn also beispielsweise ein Algorithmus zum Maschinellen Lernen mit Daten lauter erfolgreicher Männer „gefüttert“ wird, kann dies zu dem Fehler führen, dass der Algorithmus Frauen benachteiligt. In der Regel diskriminieren die Daten, nicht die Algorithmen.
Der Bericht der Datenethikkommission
Vor dem Hintergrund dieser und ähnlicher Grenzen der Anwendung von KI-Algorithmen nahm die im Juli 2018 von der Bundesregierung eingesetzte Datenethikkommission ihre Arbeit auf. Die 16 Mitgliederinnen und Mitglieder kommen aus den Bereichen Informatik, Ethik, Theologie, Recht und Verbraucherschutz. Ende Oktober 2019 legten sie ihren etwa 250 Seiten langen Abschlussbericht vor. In diesem skizzieren sie einen umfassenden Regulierungsrahmen für den Umgang mit Daten und algorithmischen Systemen. Der Bericht zielt wie die DSGVO darauf, den „schwachen“ Menschen vor allen möglichen Gefahren zu schützen.
Der Begriff der KI wird in diesem Bericht als eine Teilmenge algorithmischer Systeme verstanden. Die Kommission hat also nicht nur KI-Algorithmen, sondern jeglichen Softwarecode betrachtet.
Die Kommission entwickelt in ihrem Bericht Handlungsempfehlungen für eine personenbezogene Datennutzung. Handlungsbedarf sehen die Experten beispielsweise bei Ansätzen einer Totalüberwachung, bei einer die Privatsphäre der Menschen verletzenden Profilbildung und einer dem Demokratieprinzip zuwiderlaufenden Beeinflussung politischer Wahlen. Auch für den Verbraucherschutz und gegen viele Formen des Handels mit personenbezogenen Daten sollten Maßnahmen ergriffen werden, heißt es in dem Bericht. Die Empfehlungen entsprechen in großen Teilen der DSGVO. Bemängelt werden in diesem Zusammenhang insbesondere Defizite in der Anwendung geltenden Rechts.
Dagegen haben es die Empfehlungen der Kommission in Bezug auf die Nutzung algorithmischer Systeme in sich. Kernpunkt ist eine Bewertung der Risiken von Algorithmen bzw. algorithmischen Systemen. Diese Risiken werden in fünf Kritikalitätsstufen unterschieden (Stufe 1=Anwendungen ohne oder mit geringem Schädigungspotenzial bis Stufe 5=Anwendungen mit unvertretbarem Schädigungspotenzial). Bereits ab Stufe 2 (Anwendungen mit einem gewissen Schädigungspotenzial) müssen nach Meinung der Mitglieder der Kommission Unternehmen eine „angemessene Risikofolgenabschätzung“ erstellen und veröffentlichen. Zudem werden ebenfalls ab dieser Stufe Offenlegungspflichten gegenüber Aufsichtsinstitutionen, Ex-ante-Kontrollen sowie Auditverfahren vorgeschlagen. Algorithmen mit „unvertretbarem Schädigungspotenzial“ sollen nach Vorstellung der Kommission verboten werden können.
Darüber hinaus schlagen die Experten eine Pflicht für Unternehmen zur Benennung eines Algorithmus-Beauftragten vor – in Analogie zur Position der Datenschutzbeauftragten. Weiterhin empfiehlt die Kommission ein Gütesiegel, um eine Orientierung in Bezug auf die Bewertung vertrauenswürdiger algorithmischer Systeme zu geben. Dieses Siegel könne ein Anreiz für Unternehmen sein, vertrauenswürdige Systeme zu entwickeln und zu verwenden.
Auf dieser Basis beginnt der Wunsch der Experten nach mehr Regulierung. Als oberste Kontrollinstanz soll die Bundesregierung nach Ansicht der Kommission ein bundesweites „Kompetenzzentrum Algorithmische Systeme“ einrichten, das bestehende Aufsichtsbehörden durch „technischen und regulatorischen Sachverstand“ dabei unterstützen soll, algorithmische Systeme im Hinblick auf die Einhaltung von Recht und Gesetz zu kontrollieren. Zur Umsetzung der vorgeschlagenen Maßnahmen empfiehlt das Expertengremium darüber hinaus eine Regulierung auf EU-Ebene. Diese Regulierung soll zentrale Grundprinzipien enthalten, die an den von der Datenethikkommission benannten Anforderungen angelehnt sein könnten. Was auf der Ebene der EU geregelt wird, soll schließlich in den einzelnen Mitgliedsstaaten eine „Konkretisierung“ erfahren.
Software eats the World
Bei der Bewertung der Empfehlungen der Kommission muss uns klar sein, dass jede Software ein algorithmisches System ist. Marc Andreessen, Mitgründer von Netscape Communications und heute einer der einflussreichsten Risikokapitalgeber der Welt, formulierte bereits 2011 den berühmten Satz „Software eats the world“ und sprach davon, dass jedes Unternehmen zu einem Softwareanbieter wird. Da es künftig wenige Bereiche geben wird, die nicht Software-unterstützt funktionieren, ist unklar, wie eine Regulierung von Algorithmen und Daten mit vertretbarem Aufwand und angemessener Geschwindigkeit erfolgen kann, ohne dabei Innovationen zu verhindern.
Ein Beispiel dafür, wie die Kommission denkt, ist die im Bericht zu findende Einschätzung von Software, die in Getränkeautomaten zum Einsatz kommt. Wörtlich heißt es: „Die in einem Getränkeautomaten zum Einsatz gelangenden Algorithmen haben zwar auch ein gewisses Schädigungspotenzial, weil ein Nutzer z.B. keine Ware erhalten und sein Geld verlieren könnte. Dieses Schädigungspotenzial überschreitet aber nicht die Schwelle zu einem besonderen Schädigungspotenzial im Algorithmenkontext.“ Das ist keine Satire.
Gegen eine unbürokratische und nicht von systematischer Bedenkenträgerei geprägte Überwachung von KI-Algorithmen ist grundsätzlich nichts einzuwenden. Aber etwas mehr Pragmatismus wäre hier hilfreicher gewesen: Beispielsweise könnte man bei spezifischen Algorithmen bzw. Anwendungsgebieten ansetzen, etwa im Bereich der Gesichtserkennung. Die Nutzung solcher algorithmischer Systeme enthält in vielen Fällen ein großes Risiko für die Privatsphäre der Menschen, siehe nicht zuletzt das Social Credit System in China. Ein anderes Beispiel sind KI-Algorithmen, die zur Kriegsführung eingesetzt werden können. Vor diesem Hintergrund haben kürzlich etwa 3.000 Google Mitarbeiterinnen und Mitarbeiter zu Recht ihrem Vorstandsvorsitzenden Sundar Pichai eine Mahnung geschickt, in der sie eindringlich vor der Entwicklung autonomer Waffensysteme warnen. Eine der zentralen Aufgaben besteht also darin, dass es gelingt, die Vorteile von KI zu heben, ohne die Risiken zu vernachlässigen. KI soll den Menschen und der Wirtschaft dienen.
Die sehr regulatorischen Vorschläge der Kommission bereiten insbesondere Sorgen, weil sie die ohnehin eher langsame Entwicklung der Digitalisierung in Deutschland weiter bremsen könnten. Zur Erinnerung: Wir liegen beispielsweise im Digitalisierungsrankings des IMD World Digital Competitiveness Ranking 2019 weltweit nur auf dem 17. Platz. „Die Wettbewerbsfähigkeit großer Industrienationen wie Deutschland wird durch lange Entscheidungsprozesse, veraltete IT-Strukturen, eine verbreitete Skepsis gegenüber Technologie und im internationalen Vergleich unzureichende Investitionen in Zukunftstechnologien beeinträchtigt“, heißt es warnend in einem aktuellen Strategiepapier des Auswärtigen Amtes. Wenn nun fast jedes algorithmische System erst in Bezug auf sein Schadenpotenzial analysiert und auditiert werden soll, wird dies zu einer weiteren Verlangsamung der digitalen Transformation bei uns führen und die Gefahr vergrößern, dass wir im digitalen Innovationswettbewerb mit Ländern wie USA, China oder Israel weiter zurückfallen. Auch für den weltweiten Standortwettbewerb gilt schließlich die Aussage des kanadischen Premierministers Justin Trudeau beim World Economic Forum 2018 in Davos: „The pace of change has never been this fast, yet it will never be this slow again“.