Hallo, Algorisky! Wer bist Du?

von Anja Fordon

Hallo, Algorisky! Wer bist Du?

von Anja Fordon

Kleines Rätsel? Sie begegnen Dir jeden Tag und bestimmen,was Dir begegnet – aber Du kannst sie nicht sehen. Sie funktionieren gleichermaßen in Deinem Gehirn und in Deinem Computer – aber Du kannst es nicht fühlen. Die meisten Menschen wissen gar nicht was es ist – und doch bestimmt es mittlerweile viele alltägliche Entscheidungen. Die Lösung? Algorithmen.

Algorithmen: das Fragezeichen in Deinem Kopf

Wenn wir das Wort Algorithmus hören, denken viele von uns an abstrakte mathematische Prozesse – wenn überhaupt. Viele, so eine aktuelle Bertelsmann Studie, haben eher ein großes Fragezeichen im Kopf. Nur wenige wissen, dass Algorithmen dem Großteil der digitalen Welt seine Form und Farbe gibt – indem sie bestimmen, was wer wie wann angezeigt bekommt. Und noch weniger Menschen wissen, wie diese Algorithmen eigentlich funktionieren. Was absurd ist, wenn man sich mal vor Augen führt, in welchen Bereichen sie heutzutage bereits agieren. Von Social Media über Shopping; von Bewerbungsverfahren bis hin zu Krankenkassenbeiträgen: Überall hat ein Algorithmus seine Berechnungen am Start. Das macht uns das Leben leichter, könnte man jetzt denken. Toll, wenn uns jemand Entscheidungen abnimmt, die sonst menschlichen Schwächen unterliegen könnten. Schaltet menschliche Vorurteile aus und macht Entscheidungsfindungen gerechter, denken viele. Stimmt aber nicht – denn ein Algorithmus ist nur so unvoreingenommen und gerecht wie sein Programmierer und die Daten, mit denen er gefüttert wurde. Und hier liegt die Krux unserer Online-Realität.

Zähneputzen ist auch Algorithmus

Aber gehen wir nochmal einen Schritt zurück: Was ist eigentlich ein Algorithmus? Wir könnten jetzt mit hochkomplexen mathematischen Erklärungen auffahren – müssen wir aber nicht. Denn jeder Mensch benutzt jeden Tag Algorithmen – ganz ohne es zu merken. Zum Beispiel beim morgendlichen Kaffeemachen oder beim Zähneputzen. Algorithmen sind im Grunde nichts anderes als Rezepte oder Handlungsabfolgen: Zahnpastatube aufdrehen, Zahnpasta auf die Zahnbürste drücken, 2 Min Zähne putzen, ausspucken, fertig. Unser Gehirn funktioniert wie ein Computer – oder richtig herum: Ein Computer funktioniert ganz ähnlich wie unser Gehirn. Jetzt stell Dir mal vor, jemand hätte Deinem Gehirn beigebracht, das Nutella eine ganz hervorragende Zahnpasta darstellt. Merkste? Ein Algorithmus ist nur so gut, wie die Informationen, auf die er sich bezieht.

Algorithmen sind überall – und sie entscheiden über Dich

Das unser Facebook-Newsfeed auf Algorithmen basiert, ist vielleicht noch vielen klar, auch das der wöchentliche Spotify-Mix auf diese Art zusammengestellt wird oder die Kaufempfehlungen auf Amazon diesem Prinzip folgen. Aber wusstest Du auch, dass Deine Bewerbung eventuell von einem Algorithmus ausgesiebt wird? Oder das Deine Prämie bei der Krankenkasse auf der Basis verschiedener Vital-Daten Deines iPhones kalkuliert werden kann?

Im Grunde ist das Prinzip des Algorithmus ganz großartig. In vielerlei Hinsicht werden sonst hochkomplexe Abfolgen einfach und für den Menschen ohne jeglichen Aufwand durchgeführt. Sie können uns das Leben leichter machen, uns mehr Zeit verschaffen. Aber wo Licht ist, da ist bekanntlich auch Schatten – und im Falle des Algorithmus wirft sich dieser Schatten auf einen immensen Anteil unseres alltäglichen Lebens. Algorithmen sind eben keine neutralen Maschinen, die fehlerfrei und wertebefreit ihre Aufgaben erledigen. Sie werden von Menschen gemacht, und somit zum Spiegel der Werte, Paradigmen und Interessen, die dieser Mensch verfolgt, oder in seiner Kultur gängig sind, oder der Interessen seines Unternehmens. Wenn man sich mal genauer überlegt, was das also bedeutet, macht es sehr viel Sinn, wenn Menschen wie Matthias Spielkamp, Mitbegründer von AlgorithmWatch, sagen: „Wir dürfen die Gestaltungsmacht nicht wenigen Unternehmen überlassen.”

Ein Algorithmus ist eine Sprache, die Ideen ausdrückt

Mathematik und komplexe Formeln sind eben nicht losgelöste, abstrakte Konzepte. Sie sind nichts anderes als Sprachen, die dafür da sind, Ideen auszudrücken. So wie Worte, die uns helfen unsere Gedanken anderen Menschen mitzuteilen, sind “Mathematik, Informatik, Computerprogrammierungen Sprachen. Und wie wir wissen, ist Sprache sehr subjektiv. Also ist die Computersprache auch subjektiv, basierend darauf, wer schreibt, wer codiert und wie sie bestimmte Ideen und Konzepte ausdrücken oder auf sie hinweisen will.” sagt Safiya Noble, Autor von “Algorithms of Oppression” und Assistant Professor an der Universität Süd-Kaliforniens.

Hm, das ist gar nicht so leicht zu verdauen. Denken wir doch mal genauer darüber nach: Wenn jemand ein Algorithmus schreibt, um, sagen wir, vorhersagen zu können, wie hoch die Rückfallquote eines Straftäters ist, klingt das erstmal nach einer guten Idee. Problematisch wird das aber, wenn man sich die Frage stellt, woher die Daten, mit denen der Algorithmus lernt diese Art von Entscheidung zu treffen, kommen. Wenn zum Beispiel die Wahrscheinlichkeit für eine Festnahme bei gleichem Delikt für Afroamerikaner 3.6 Mal höher liegt, dementsprechend die Statistik den Eindruck erweckt, Afroamerikaner sind 3.6 Mal wahrscheinlicher Straftäter, dann wird ein mit diesen Daten gefütteterter Algorithmus Afroamerikaner anders bewerten als weiße Amerikaner. Eine sich abwärtsbewegende Gruselspirale, die uns nicht Fortschritt bringt sondern uns auf der Stelle treten lässt. Ein aktueller Beitrag in der Zeit macht das noch deutlicher.

Organisationen wie AlgorithmWatch fordern deswegen “die Entwicklung einer Professionsethik für Entwickler, ähnlich dem hippokratischen Eid von Medizinern, die Errichtung von Prüf- und Beschwerdeinstanzen” und andere Mechanism, um Algorithmus-basierte Entscheidungsfindungen besser kontrollieren zu können. Aber auch das löst noch nicht alle Probleme. Denn im Grunde reproduziert ein Algorithmus nur das, was schon immer da war. Klar kann man sagen, die Daten, mit denen ein Algorithmus gefüttert werden muss, müssen allumfassend, vielfältig und vorurteilsbefreit sein – aber diese Daten muss es erstmal geben. Der vermehrte Einsatz von ADM (Algorithmic Decision Making) in unfassbar vielen Bereichen des alltäglichen Lebens macht unweigerlich sichtbar, dass wir als globale Gesellschaft noch sehr viel vor uns haben wenn es um Gleichberechtigung, Chancengleichheit und Fairness geht. Das Gute ist: wir alle können dazu beitragen. Das geht ganz einfach indem man Organisationen wie AlgorithmWatch oder Mozilla unterstützt.

Wenn du noch mehr über Algorithmen erfahren möchtest, höre dir Mozillas Podcast IRL an (auf englisch).

Mehr dazu:

Du willst mehr erfahren? Hör jetzt in den Webby Award Gewinner Podcast IRL von Mozilla rein!

Jetzt hören.