der Uni oder Terrorgefahr: Für alles gibt es einen Wert. Wenn der Computer entscheidet, dass man in eine gewisse Schublade gehört, ist das Ende der Debatte erreicht: »Computer says No«. Kein Mensch ist mehr verantwortlich, verantwortlich ist das System, und dieses entscheidet autoritär, wie der König das früher tat. Man kann das System nicht hinterfragen, man darf nicht wissen wie es zur Entscheidung kam, und man kann schon gar nicht seinen persönlichen Einzelfall erklären. Es entsteht eine schleichende Algorithmusdiktatur.
Die ersten Ansätze haben wir heute schon. Als ich das letzte Mal in die USA geflogen bin, erklärte mir der Mitarbeiter am Check-In, dass auf meiner Karte vier »S« gedruckt sind. Das steht für »Secondary Security Scanning Scheme«. Der Mitarbeiter weiß auch nicht, warum ich auserwählt wurde. Die Markierung SSSS bekommen die Austrian Airlines von den US-Behörden übermittelt. Ich musste jedenfalls zu einer Sonderuntersuchung, in der ich von oben bis unten abgetastet wurde und mein Handgepäck feinsäuberlich neben allen anderen Passagieren ausgebreitet wurde. Die Blicke der anderen Leute waren klar: Was ist denn mit dem los? Zum Glück hatte ich keine Kondome oder Ähnliches dabei. Warum der Zirkus? »Computer says SSSS«. Weder der Austrian Airlines-Mitarbeiter noch die Sicherheitsleute wissen, warum jemand unter die Räder kommt, das weiß nur der Algorithmus.
Zurück in Wien hatte ich dann noch die Freude, dass ein weiterer Computer einen gelben Rahmen um etwas in meinem Gepäck machte. Also wurde ebenfalls mein ganzes Gepäck von einer Zollwachebeamtin durchsucht.
Zollwache: »Haben Sie Essen mitgenommen?«
Ich: »Nein, wieso?«
Zollwache: »Sicher haben Sie Essen mitgenommen!«
Ich: »Wie kommen Sie darauf?«
Zollwache: »Da ist ein gelber Rahmen am Bildschirm!«
Ich: »Auf was reagiert denn der Computer? Dann kann ich Ihnen vielleicht sagen, was es ist. Essen ist es sicher nicht.«
Zollwache: »Was weiß ich, auf was er reagiert, ich bin Hausfrau!«
Also stand ich da und ließ von der Zollwachebeamtin (die sich selbst nicht als Beamtin, sondern als Hausfrau bezeichnete) mein Gepäck 15 Minuten lang durchsuchen. Am Ende ohne Erfolg. Warum der ganze Zirkus? »Computer said: Durchsuchen.«
Das sind nur ein paar von hunderten Beispielen, in denen wir unsere Entscheidungen der Software überlassen. Das kann zwar auch seine positiven Seiten haben, so ist es einem Computer zum Beispiel im Prinzip egal, ob Sie weiblich oder männlich, Inländer oder Ausländer sind. Gleichzeitig unterlaufen wir mit der Übertragung von Entscheidungen von Menschen auf Maschinen aber jede Art von persönlicher Verantwortung, die unsere Gesellschaft ausmacht. Ein Algorithmus ist weder moralisch noch faktisch verantwortlich für das, was er tut. Kein Mensch kann nachfragen: Warum? Keiner kann sagen: Aber! Der Algorithmus sagt: Nein. Punkt. Für eine Diskussion, für eine Beschwerde oder für den Sinn dahinter gibt es leider keinen Knopf.
Genau diese Frustration über willkürliche Entscheidungsfindung hat schon Revolutionen ausgelöst. Unberechenbare, intransparente und nicht hinterfragbare Entscheidungen zeichneten bisher vor allem autoritäre Staaten aus. Deswegen haben wir sie abgeschafft und transparente, berechenbare Systeme eingeführt. Vor allem sind Entscheidungsträger heute persönlich verantwortlich für ihr Handeln. Mittels diverser automatisierter Systeme wird aber durch die Hintertüre eventuell auch an diesen Errungenschaften gesägt. Kein Beamter muss mehr erklären, warum jemand besonders gründlich durchsucht wurde und ob es vielleicht reine Willkür war. Der Beamte zeigt einfach auf den Computer.
Natürlich gilt das staatliche Willkürverbot nicht für den Bereich der Privatwirtschaft. Jedes Unternehmen kann frei entscheiden, ob es mit Ihnen Handel treibt oder ob es Sie ausschließt. Sie haben kein Recht, vom Türsteher vor einem Szenelokal zu erfahren, warum Sie nicht gut genug sind, um für 20 Euro einen Cocktail zu schlürfen. Wenn Sie ihn lange genug anlächeln, finden Sie es aber vermutlich trotzdem raus. Sie können außerdem heute etwas pokern, sich schön herrichten und auf dicke Hose machen, der Türsteher weiß ja nicht, wer Sie sind. Wenn es am Ende trotzdem nicht funktioniert, ist das auch nicht so schlimm: Sie können ja woanders hingehen und dort Ihr gekränktes Ego aufpeppeln.
Wenn nun aber alle Türsteher nur noch Computer und tendenziell vernetzt sind, dann sieht die Sache anders aus. Erstens weiß der Türsteher, wer Sie sind, was Sie haben und ob Sie würdig sind. Außerdem können Sie Ihren Frust gegenüber einem Computer nicht wirklich ablassen, außer Sie begehen Sachbeschädigung. Schlussendlich sieht es vermutlich bei der nächsten Bar nicht anders aus, weil diese virtuellen Türsteher gleichgeschaltet sind.
Natürlich sind Szeneclubs nur eine Analogie und nicht der reale Anwendungsfall, aber virtuelle Türsteher gibt es schon jetzt. Jede Kreditauskunftei und jede Warnliste ist nichts anderes. An deren Datenbank hängt ein großer Teil aller Algorithmen, die zu Ihnen »No« sagen und die Türe zuschlagen. Warum Sie ein »No« sind, dürfen Sie nicht erfahren. So ist das in einer Algorithmusdiktatur.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «ЛитРес».
Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
