(Teil-)Automatisierte Funktionen im Auto, die Auswahl von Datingpartnern in der Liebe, personalisierte Serienempfehlungen bei Netflix oder die Chronologie der Facebook-Beiträge: Sie alle sind algorithmisch festgelegt. Algorithmen als künstliche Intelligenzen sind in vielen Bereichen des Alltags nicht mehr wegzudenken. So finden immer mehr algorithmische Abläufe auch  automatisiert im Hintergrund statt und haben nun eine derartige Qualität erreicht, dass sie sich selbstständig weiterentwickeln können – auch „Maschinelles Lernen“ genannt. Ein Algorithmus lernt dabei durch Rückkoppelung und Speicherung von Daten, durch Erfahrungen sowie durch Generalisierung des Gelernten. So generiert ein Algorithmus analog wie ein Mensch selbstständig Wissen aus Erfahrung.

Suche nach Korrelationen

Der Unterschied: Algorithmen haben Zugang zu wesentlich mehr Informationen. So haben sie die Fähigkeit, auch komplexe Zusammenhänge zu verarbeiten. Indem sie Daten miteinander verknüpfen,  können sie Rückschlüsse ziehen und Vorhersagen treffen. Dabei sind die von Algorithmen generierten Berechnungen mittlerweile so komplex, dass sie von Menschen nicht mehr nachvollzogen werden können. Insbesondere bei selbstlernenden Algorithmen ist die zugrundeliegende Logik kaum zu erfassen. Eine weitere Differenz: Während Menschen in ihrem Erkenntnisprozess nach kausalen Zusammenhängen suchen, bieten Algorithmen ganz nach dem Big-Data-Prinzip lediglich korrelative Zusammenhänge zwischen Input und Output an. Damit liefern sie Schätzungen und Vermutungen und sind somit in ihren Entscheidungen ebenso fehleranfällig wie der Mensch es wäre, suchte er nur nach korrelativen Zusammenhängen.

Auch die Firma Kreditech verwendet einen solchen Algorithmus, der anhand der Daten aus Facebook und Twitter, aber auch umstrittenen Faktoren wie des installierten Betriebssystems, der verwendeten Schriftart und des Tippverhaltens der Antragsteller über die jeweilige Kreditwürdigkeit entscheidet. Denn mit der Zeit lernte der Algorithmus, dass Antragsteller, die eine bestimmte Schriftart installiert hatten, den Kredit gehäuft nicht zurückgezahlt hatten. Doch selbst der Geschäftsführer der Firma weiß nicht, welche Daten letztendlich ausschlaggebend für eine Entscheidung sind. Am Ende bleiben nur die Korrelationen, ohne sie wirklich zu begreifen. Das Szenario erinnert an eine Zeit vor der Aufklärung: Weil der Computer es sagt, mache ich das so. Bedeutet dieser Umstand nicht eine zunehmende Abkehr von der Welt des selbstständigen Verstehens und Denkens?

Langeweile vorprogrammiert

Das magische Gefühl, durch Zufall auf neue und ansprechende Musik zu stoßen, ist in Zeiten von Musikanbietern wie Spotify wohl nicht das Gleiche. Denn wir suchen nicht mehr aktiv, sondern erhalten passiv, was uns gefallen könnte. Der Algorithmus namens „Echo Nest“ berechnet anhand des Geschmacksprofils, einer Klang-Analyse und Texterkennung, was einem als nächstes gefallen könnte. Dazu dienen auch die Nutzungsdaten anderer User, die das gleiche Verhaltensmuster an den Tag legen, um auch hier wieder eine Vorhersage treffen zu können. Auf diese Weise produzieren sie mehr Ähnlichkeit und damit hören wir immer mehr vom Gleichen. Auch die Auswahl der nächsten Lektüre ist durch eine solche zielgerichtete, algorithmische Zuspielung von Inhalten und ein gewisses Maß an Datendeterminismus geprägt.

Die algorithmische Sortierung und Personalisierung zeigt Menschen eher Inhalte an, die ihnen auch gefallen oder denen sie zustimmen würden. So basieren die Phänomene der Filterblasen und Echokammern genau auf diesem Prinzip: Auf Grundlage des jeweiligen Surfverhaltens sowie der daraus abgeleiteten Interessen werden einem verstärkt bestimmte Inhalte und Themen zugespielt. Was zunächst recht harmlos und bequem klingt, kann aber weite Folgen für die politische Kommunikation nach sich ziehen. Denn wer sich immer wieder Ansichten hingibt, die sich nicht von der eigenen unterscheiden, wird in seiner Filterblase nicht mit anderen Meinungen konfrontiert. Allerdings legen neuere Untersuchungen die Vermutung nahe, dass der Effekt weniger ausgeprägt als zuvor erwartet ist.

Algorithmen mit Bias

Oft werden die durch Algorithmen generierten Entscheidungen und Vorhersagen als neutral oder unabhängig angesehen. Doch tatsächlich sind Prozesse algorithmischer Entscheidungsfindung in vielerlei Hinsicht von Menschen beeinflusst: Menschen setzten die Ziele, entwerfen die Prozesse und interpretieren die Ergebnisse. So gibt es beispielsweise Hinweise, dass die durch die Programmierer implementierten Daten zu diskriminierenden Entscheidungen führen. Menschen aus ärmeren Wohngegenden oder mit Erkrankung würden beispielsweise bei der algorithmischen Vorauswahl zu Bewerbungsgesprächen benachteiligt werden. Alarmierend, wenn man bedenkt, dass in Großbritannien und den USA bereits 60 Prozent solcher Entscheidungen von Algorithmen übernommen werden. Durch die algorithmische Reproduktion solcher Entscheidungen würden so Diskriminierungstendenzen weiter verstärkt werden.

Noch deutlicher zeige sich eine Benachteiligung, wenn man in der Google-Suche unter dem englischen Stichwort „professional haircut“ nach Bildern sucht. Zu sehen sind dann nur weiße Männer. Gibt man „unprofessional haircut“ ein, sieht man nur schwarze Frauen. Algorithmen schreiben also auch rassistische Vorurteile sowie soziale Ungerechtigkeiten fort. Statt zu größeren Teilhabechancen kann die Digitalisierung auch zu wachsender Diskriminierung führen. In der digitalisierten Wissensgesellschaft wird die Gestaltung von Technologie so zur elementaren Machtfrage. „Es ist äußerst wichtig, diese ‚handwerklichen‘ Probleme in den Griff zu bekommen. Wir brauchen eine Anpassung der Gesetze, etwa jener, die gegen Diskriminierung schützen. Es muss für ArbeiterInnen, Angestellte und KonsumentInnen möglich sein, festzustellen, ob sie automatisiert diskriminiert wurden und, sollte das der Fall sein, entsprechend Schadenersatz zu verlangen“, so der Algorithmus-Forscher Felix Stalder.

Reproduktion sozialer Muster

In den USA und Großbritannien kommen zunehmend Predictive-Policing-Systeme zum Einsatz – eine Software, die Polizeiarbeit unterstützt, indem sie voraussagt, wo es Straftaten geben könnte. Die  Algorithmen, die besonders kriminalitätsbelastete Orte prognostizieren sollen, erkennen soziale Muster – ähnlich wie in den bereits geschilderten Beispielen. Solche Muster sind aber beweglich und man sollte nicht beginnen, sie wie Naturgesetze zu betrachten. Gegen soziale Muster kann man etwas tun, indem man in die ökonomischen und sozialen Bedingungen interveniert und sie ändert. Zumindest besteht auf diese Weise die Wahrscheinlichkeit, Kriminalität zu senken. Werden jedoch solche Muster lediglich erkannt, dargelegt und reproduziert, ohne entsprechende Maßnahmen einzuleiten und z.B. auf kontinuierliche Prävention zu setzen, wird sich die Statistik damit nicht verändern. So verzichtet die Gesellschaft im Grunde genommen immer mehr auf ihre Handlungsfähigkeit und die Freiheit, Dinge verändern zu können. Bleibt die Frage, ob wir auf diese Freiheit tatsächlich verzichten wollen.

Titelbild: Leviathan by Thomas Hobbes; engraving by Abraham Bosse, gemeinfrei und Sonnenaufgang by qimono via pixabay, CC0

Video der Woche

Aus gegebenem Anlass: Unser Video der Woche zeigt eindrücklich, wie sehr Deutschland beim Thema Breitband hinterhersurft. In der Eifel wird beim Mailversand nebenher Mittag gekocht und in Berlin-Mitte ist DSL nicht überall verfügbar. Da darf das ZDF-Magazin Frontal 21 schon mal nachfragen, ob die Bundesregierung wirklich glaubt, das würde schon alles irgendwie „marktgetrieben“ funktionieren. Denn die Telekom, seit einiger Zeit ja Mitglied in diesem Markt, sagt dazu nur: „Eine Versorgungsverpflichtung haben wir nicht!“.

Marx Digital

Was hat die digitale Revolution mit der Energiewende zu tun? Eine ganze Menge! Forscher der Stanford-Universität haben ausgerechnet, dass mit dem auf der Welt zur Verfügung stehenden Wind der weltweite Energiebedarf gleich siebenmal gedeckt werden könnte, wie die grüne Wirtschaftswoche berichtet. Voraussetzung: Die Energie muss intelligent verteilt werden – Stichwort Internet der Dinge. Diese Ausgangslage treibt den Ökonomen Jeremy Rifkin so weit, nicht nur das Ende der Energiewirtschaft, sondern gleich das des Kapitalismus zu prophezeien. Mit der Stillung der menschlichen Grundbedürfnisse lasse sich bald kein Geld mehr machen. Man sollte ihm zuhören: In seinem 2001 erschienen Buch „Access“ prognostizierte er die Sharing-Ökonomie  – und wurde belächelt.
green.wiwo.de

Der ganz große Minority Report

Der Begriff „Predictive Policing“ ist eng mit der Verbrechensbekämpfung in den USA verbunden. Der Traum eines jeden Polizisten: dank Big Data schon vor dem Täter am Tatort sein. Doch die Zahlen, nach denen solche Programme funktionieren, sind mitnichten neutral, erklärt Anna Biselli auf netzpolitik.org. Wenn Vorurteile zu Algorithmen verhackstückt werden, wird auch das Programm „ausrechnen“, dass dunkelhäutige Migranten mit Rastalocken öfter kontrolliert werden müssen. Während der weiße Herr im Anzug daneben mit ein paar Kilo Koks über die Grenze spaziert.
netzpolitik.org

Nach der Pause: Programmieren!

Jetzt sind auch noch Java und Objective-C Weltsprachen! Und weil die Schule schließlich auf die Welt vorbreitet, muss man die dort lernen. Anne Schüssler plädiert dafür in ihrem Gastbeitrag auf Süddeutsche.de. So weit, so richtig. Bleibt nur die Frage, wie dann noch Chinesisch und Maschinenbau in den Stundenplan passen, das brauchen wir ja auch. Und das Ganze in G8-Rekordzeit! Dumm nur, dass nach den anschließenden drei Jahren Regelbachelor das gute alte Schulzeit-Programmieren schon kein Mensch mehr kennt. Doch die Autorin kann uns beruhigen: „Wenn man es erst mal begriffen hat, ist es halb so schwer.“
sueddeutsche.de

…Und Big Data sprach: “Selber schuld!”

Big Data hat realen Nutzen. Je mehr Lebensbereiche vermessen und analysiert sind, desto mehr liegt es in der Verantwortung jedes Einzelnen, diese Informationen für sich zu nutzen. Schaurigschön fatalistisch erklärt Evgeny Morozov in der FAZ, warum es dann auch die Schuld der Armen ist, wenn sie arm bleiben: Hätten sie mal auf die guten Tipps ihres Smartphones gehört! Das ist die Überwachungsdividende: Missstände werden optimiert, aber keine Probleme behoben.
faz.net

Digitale Zeitreise

Das Internet ist dynamisch, innovativ, immer in Bewegung. Bei seiner ganzen Unbeständigkeit ist es aber auch eines: ein riesiges Archiv. Und wie jedes große Archiv (und das Internet ist ohne Zweifel das größte) ist es ohne Index wertlos. Suchmaschinen wie Google stehen dafür zur Verfügung, sie ermöglichen ganze Zeitreisen. Doch ihre Funktion wird bedroht durch das „Recht auf Vergessen“. Denn was passiert in der Bücherei, wenn das Buch zwar noch da ist, aber keiner weiß mehr, wo?, fragt Jürgen Geuter auf seinem Blog.
connected.tante.cc
Und übrigens: Wisst Ihr noch, damals, als “Online Gehen” wieder total out war? Dieser Ausschnitt aus der Bravo von 1998 hat uns die Woche versüßt!
Foto: Screenshot