Die Studie „Datenspende: Google und die Bundestagwahl 2017“, eine Kooperation der Initiative „AlgorithmWatch“ und sechs Landesmedienanstalten, beschäftigte sich mit der personalisierten Google-Suche zum Thema „Bundestagswahl 2017“. Das im Juli 2017 gestartete Projekt wertete mithilfe eines Browserplugins die Suchanfragen 4.384 freiwilliger Teilnehmer aus und untersuchte ihre Google-Suchergebnisse auf Gemeinsamkeiten und Unterschiede. Erhalten Personen mit unterschiedlichen Meinungen und Vorlieben, die gleichen Suchergebnisse auf Google?

Personensuche weist gleiches Ergebnis auf

Katharina Zweig, Professorin an der TU Kaiserslautern stellte das überraschende Ergebnis vor. Die Filterblasentheorie von Eli Pariser aus dem Jahr 2011 konnte nach Auswertung der Daten nicht bestätigt werden. Begriffe wie „Cem Özdemir“, „Alexander Gauland“  oder „Angela Merkel“, die zeitgleich gesucht wurden, entsprachen bis zu neunzig Prozent den Suchergebnissen der anderen Teilnehmer.

Im Vergleich zur Personensuche wichen die Suchergebnisse nach Parteien stärker voneinander ab. Doch auch hier konnte die Theorie nicht bestätigt werden, da die Teilnehmern aufgrund regionaler Unterschiede abweichende Links zu ortsansässigen Parteien erhielten. Von einem personalisierten Suchergebnis kann daher nicht gesprochen werden.

Filterblasen und Echokammern beeinflussen unsere Denkweise

Die Filterblasentheorie von Eli Pariser aus dem Jahr 2011 findet zumindest in der Google-Suche von politischen Begriffen keine Anwendung.

Der Begriff einer „Filterblase“ wird im Zusammenhang mit Algorithmen häufig verwendet. Eli Pariser, ein amerikanischer Polit-Aktivist löste mit dem Begriff  der „Filter Bubble“ eine weltweite Debatte über personalisierte Inhalte im Internet aus. Die Idee: Durch das Klickverhalten im Netz offenbaren Menschen ihre Vorlieben. Ein Algorithmus lernt aus dem Verhalten des Nutzers und bietet ihm Inhalte an, die seinen Interessen und Präferenzen entsprechen, sprich: der Algorithmus personalisiert sein Suchergebnis. Dadurch sieht der Nutzer durch einen Filter nur noch den Ausschnitt der Welt, der mit seinen eigenen Interessen, Präferenzen und Überzeugungen übereinstimmt.  Allerdings ist die Theorie der Filter-Bubble umstritten, auch Untersuchungen über Twitter haben die Vermutung nahgelegt, dass Nutzer weniger isoliert von anderen Ansichten sind, wie es Pariser zuvor annahm.

Zukünftige Maßnahmen für den Umgang mit Algorithmen

Nach der Präsentation der Ergebnisse ging es auf dem Podium um den Umgang mit Algorithmen. Da diese beim Sortieren von Informationen unverzichtbar sind, muss zukünftig gewährleistet sein, dass sie nicht missbräuchlich arbeiten.  Die Einführung eines „Algorithmen-TÜV“ soll die Aufgabe haben, Mindeststandards wie Transparenz, Berichtspflicht und Diskriminierungsfreiheit zu garantieren. Siegfried Schneider, Präsident der bayerischen Landeszentrale für neue Medien, fordert eine bessere Kontrolle von Personen, die Algorithmen entwickeln. Darüber hinaus soll der neue Beruf des „Data Scientist“ darauf abzielen, die Auswirkungen programmierter Algorithmen zu bewerten.  Die geforderte Transparenz stehe im Interesse der Verbraucher- und Persönlichkeitsrechte. Aber auch  Nutzer müssen an ihrer Medienkompetenz arbeiten und ihr Wissen über die Effekte algorithmischer Filterung vertiefen.

Dr. Anja Zimmer , Direktorin der Medienanstalt Berlin-Brandenburg (mabb), machte abschließend deutlich, dass die Studie lediglich eine Momentaufnahme eines begrenzten Zeitraums über einen Anbieter (hier: Google) ist. Man dürfe das Ergebnis nicht verallgemeinern und auf andere Anbieter wie Facebook projizieren. Auch für Google könnte das Ergebnis bei der nächsten Wahl schon anders ausfallen.

Titelbild: Veranstaltung “Algorithmen transparent machen”, bearbeitet

Personalisiertes E-Shopping, selbstfahrende Autos und Fitness-Tracker: einen bequemeren Alltag können Algorithmen sicherlich ermöglichen. Der Preis dafür ist aber hoch. So diskutierten letzten Freitag auch die TeilnehmerInnen des Panels „Encoding Values – zur Ethik von Protokollen“ des diesjährigen Internet Governance Forum Deutschland (IGF-D) über die Ethik digitaler Gesellschaften und die technische (Un)Kontrollierbarkeit von Algorithmen.

Kontrovers diskutierten die Panellisten auf dem IGF-D 2016 über die Objektivität von Algorithmen und die Frage, ob die Einführung eines allgemein gültigen Wertekodexes eine Lösung darstelle. Einigkeit herrschte jedoch in einem anderen Punkt: „Wie es wirklich funktioniert, wissen wir, glaub ich, alle nicht“, konstatierte Dr. Benedikt Köhler (DataLion). Dr. Mirja Kühlewind von der Internet Engineering Taskforce (IETF) stellte fest, dass „seit Snowden“ die Frage „Wie können wir Werte schützen?“ in das Zentrum der Aufmerksamkeit gerückt ist. Auch wenn die Ethik der Digitalisierung immer mehr zum Thema wird, so bleiben dennoch essentielle Fragen rund um die (Un)Kontrollierbarkeit von Algorithmen unbeantwortet.

Kann ein Algorithmus überhaupt neutral sein?

In der Debatte um die theoretische Möglichkeit digitaler Neutralität und Objektivität betonte Matthias Spielkamp (iRights/Algorithm Watch), dass (halb-)automatisierte Prozesse auch nicht unbedingt wertneutral seien. Als Beispiel führte Spielkamp die Nutzung einer Software in den USA an, die helfen sollte, zukünftige Kriminelle zu prognostizieren. Das Ergebnis: technisch generierte Parteilichkeit durch Algorithmen. Menschen mit schwarzer Hautfarbe wurden automatisch als höheres Risiko eingestuft. Zugleich warf Spielkamp die Frage auf, inwiefern eine alternative Handhabung durch Menschen überhaupt weniger diskriminierend verlaufen könne.

Mehr Informationen preiszugeben als beabsichtigt – die Erfahrung hat auch Benedikt Köhler bereits gemacht, durch Algorithmen. Im Sinne einer Kartographie der deutschsprachigen Blogosphäre stellte er Blogvernetzungen – d.h. ein Blog verlinkt einen weiteren Blog – graphisch dar. Letztendlich kontaktierten ihn kartographierte Blogger, warum sie denn als nah vernetzt zu privat-bekannten BloggerInnen dargestellt wurden, ohne jemals einen Link zu ihrem Blog gesetzt zu haben. Köhler betonte, einen „neutralen Algorithmus“ genutzt zu haben. Dennoch: lediglich ähnliche NutzerInnen zweier Blogs können bereits private Vernetzungen andeuten. So verbinde ein neutraler Algorithmus auch Dinge auf eine Weise, die niemand steuern kann, geschweige denn offenbaren will. Köhler zufolge „macht das der Algorithmus selbst“. Auch den transparenten Umgang mit Algorithmen erachtet Köhler daher als „notwendig“, aber „nicht hinreichend“. Das sah Professorin Dr. Iris Eisenberger (BOKU Uni Wien) anders, da sie bereits zuvor den entscheidenden Schritt in Richtung Neutralität ausmache. Für sie sei ein Algorithmus bereits wertend, sobald sich ein Unternehmen für einen speziellen Algorithmus entscheide.

Die Lösung für „interdisziplinären Analphabetismus“: Transdisziplinarität

Moderatorin Lena-Sophie Müller (Initiative D21) fragte in die Runde, wie die Ethik nun zu den richtigen AkteurInnen kommt sowie von ihnen gestaltet und verinnerlicht werden könne. Constanze Bürger (Bundesministerium des Innern) stellte dazu fest, dass es einen allgemein gültigen Wertekodex bislang noch nicht gebe und sprach sich für einen internationalen Wertekatalog der digitalen Welt aus. Während die Regierungen derzeit keinen ethischen Gestaltungsrahmen setzen, sind nicht-staatliche Akteure schon einen Schritt weiter: Matthias Spielkamp berichtete, dass bei Algorithm Watch bereits ein Kriterienkatalog erstellt wurde. Nichtsdestotrotz bleibe in der ethischen Diskussion die Frage eine ganz andere, so Spielkamp: „Man sollte sich als Gesellschaft fragen, welche Innovationen überhaupt eingeführt werden sollten, wenn sie nicht kontrollierbar scheinen. Manche Dinge sollte man nicht zulassen.“

Mit diesem Statement saß Spielkamp nicht alleine im Panel. Auch Prof. Dr. Iris Eisenberger plädierte für „Regeln von Menschen für Maschinen“ und diagnostiziert in der heutigen Zeit einen „interdisziplinären Analphabetismus“. Viele Menschen wüssten gar nicht, dass sie Werte implementieren. Zu Beginn gelte es, eine riesige Kommunikationslücke zwischen verschiedenen Disziplinen zu schließen, so Eisenberger. Dem schloss sich Spielkamp an, indem er sich abschließend für eine transdisziplinäre Betrachtung aussprach, die es bald geben werde und müsse – „aber nicht nächste Woche.“

Titelbild: Panel des IGF-D 2016 “Encoding Values” von Jana Donat / politik-digital.de, licenced CC BY SA 3.0

Algorithmen als Straßenschilder im Netz

Algorithmen bestimmen unsere Wege im Internet und unterstützen unser Surfverhalten im Netz – das ist vielen NutzerInnen bewusst. Die Prozesse helfen uns Entscheidungen in den unüberschaubaren Weiten des Internet zu treffen, sie bestimmen Richtungen, geben Vorschläge. Für NutzerInnen verspricht das viele Vorteile, denn oft wird uns genau das vorgeschlagen, was wir sowieso schon gesucht hatten.

So grenzenlos wie die Weiten des Internet sind aber auch die Möglichkeiten algorithmischer Entscheidungsfindung. Von selbstfahrenden Autos über internetfähige Kühlschränke bis Smart-Homes, auch Unternehmen greifen immer häufiger auf Algorithmen zurück. Im Umkehrschluss heißt das aber auch: Je weniger wir eigene Entscheidungen treffen müssen, desto mehr gewinnt der Algorithmus die Oberhand in unserem Handeln.

Verkehrsregeln auch für Algorithmen

Der Einfluss den Algorithmen auf unsere Gesellschaft haben wird immer deutlicher. Besonders dort, wo Regierungen und die öffentliche Hand sich ebenfalls diese Prozesse zu nutzen machen wollen, sollten wir aber nicht unreflektiert zuschauen. Die Initiative AlgorithmWatch, die sich um Prof. Dr. Katharina Zweig von der TU Kaiserslautern gegründet hat, sieht hier deutliche Gefahren. Das Forscherteam setzt sich interdisziplinär aus JournalistInnen, SozialwissenschaftlerInnen und InformatikerInnen zusammen.

Ziel von AlgorithmWatch ist es, NutzerInnen dafür zu sensibilisieren, dass die vermeintlich objektiven, technischen Prozesse immer menschengemacht sind und damit bestimmten Werturteilen folgen. Aus diesem Grund nimmt das Team gesellschaftlich relevante Technologien unter die Lupe und zeigt uns, wie wichtig demokratische Kontrolle ist. Welchen gesellschaftlichen Einfluss können Algorithmen auf unsere politische Entscheidungsfindung haben? Wer kontrolliert sie, wie werden sie entwickelt?

Pünktlich zur re:publica TEN (02. bis 04. Mai) geht ihre Plattform nun online. Im Rahmen der Netzpolitik-Konferenz geht das Team um AlgorithmWatch erstmals diesen komplexen Fragen nach und versucht Antworten darauf zu finden.

Titelbild: geralt via Pixabay licensed CCO