Wo Kathrin Passig irrt und ihre Algorithmen-Kritik-Kritik falsch liegt
Ihr solltet ihren Artikel lesen. Ich gebe Ihr recht. Quasi in allen Punkten. Algorithmen verdammen ist grober Unfug. Wir brauchen sie und können ohne sie nicht mehr klarkommen. Es ist egal, ob es die Banken sind, die darauf angewiesen sind, oder ob es unsere alltägliche Informationsverarbeitung ist. Wir können nicht mehr ohne Algorithmen in der heutigen Welt leben; und es sinnbefreit, Algorithmen als solches zu verdammen. Die Frage nach den “Ja” oder “Nein” zu Algorithmen stellt sich nicht.
Ich gebe ihr allerdings nur in quasi allen Punkten Recht. Algorithmen verdammen ist mit unter: feiner Fug.
Sie schrieb:
Der Informatiker David Gelernter kritisierte im April 2010 in der FAZ im Zusammenhang mit Klimamodellen, die Softwaremodelle, auf die wir uns verließen, seien zu komplex. Ihre Urteile ähnelten “den unerfindlichen bürokratischen Diktaten eines kafkaesken Staats, denen fraglos Folge zu leisten ist, obwohl keiner sie erklären kann”.
Der entscheidende Unterschied zum kafkaesken Diktat ist aber bei Empfehlungen wie bei Klimamodellen, dass man problemlos feststellen kann, wie zutreffend sie sind. Den empfohlenen Film sieht man sich an, beim Klima muss man ein paar Jahre warten, aber in beiden Fällen ist die Übereinstimmung von Prognose und Realität leicht zu überprüfen.
Ich kritisiere sie dafür, dass sie davon ausgeht, dass die Algorithmen zwar nicht mehr a priori untersuchbar bleiben, aber ihr Ergebnis doch einfach überprüft werden könne.
Ganz so einfach ist es eben nicht. Denn mit der durch Algorithmen gegebenen Information verändert sich die eigene Welt. Jeder auf uns einströmende Information verändert uns “irgendwie”. Voraussagen verändern die Zukunft – da sie nicht “festgelegt” ist. Wenn wir aber vermeintlich wissen, wie die Zukunft werden wird/soll, können wir dagegen arbeiten, oder dafür.
Wenn wir uns aber auf Algorithmen verlassen (und das tun wir alle) und niemand weiß, ob sie überhaupt richtig sind, verlassen wir uns auf eine Zukunft, die möglicherweise gar nicht wahr ist. Wir beginnen für oder gegen eine Zukunft zu arbeiten, die es möglicherweise gar nicht gibt – weil der Algorithmus, der sie ausspuckte, falsch liegt. Damit aber verändern wir unweigerlich die “echte” Zukunft – und das vielleicht auf eine ganz andere Weise, wie wir das eigentlich wollten. Ihr Punkt “Es wird sich heraus stellen, ob sie richtig sind oder nicht” greift hier nicht weit geung. Zukunft kommt nicht aus dem Objektiven, sondern aus der Subjektivität alles Seins. Zukunft gibt es nur in der eigenen Welt – ohne die vermeintlich objektive, die uns alle umgibt.
Wie man nun aber damit umgeht, weiß ich nicht. An eben dieser Stelle habe ich keine ethische Handlungsempfehlung. Ich weiß nicht, ob es “besser” ist, sich darauf zu verlassen, oder eben nicht. Und genau daran müssen wir arbeiten. An der Ethik. An der Ethik der Algorithmen, des Kontrollverlustes und des Digitalen. Und hier wieder stimme ich Kathrin Passig zu, dass ein einfaches “die Algorithmen sind böse” zu undifferenziert klingt und den eigentlichen Kern nicht trifft.