Governance – politik-digital

Algorithmen: Denn sie wissen schon was du tun wirst

Oliver Wolff — Tue, 17 May 2016 10:33:18 +0000

Die Berechenbarkeit der Zukunft, einer der ältesten Träume der Menschheit, wird immer realer. Schon jetzt können Algorithmen erfolgreich unser Suchverhalten und unsere Interessen vorhersagen, Facebook könnte Wahlen beeinflussen und die Software PredPol sagt uns wo Verbrechen stattfinden werden. Steuern wir auf die digitale Entmündigung zu?

Unendliche Weiten bevölkert von Daten, Informationen, Bits und Likes. Und wir, inmitten dieser Untiefen endloser Datenstränge. Immer größer sind die Wellen der digitalen Weltmeere geworden, längst höher als jeder Mensch in der Lage wäre zu überblicken. Tagtäglich werden wir deshalb von Algorithmen geleitet, die uns durch das Meer von Informationen lenken und uns den Weg zu unserem gewünschten Ziel leuchten: der Algorithmus als neuzeitlicher Leuchtturm?

Algorithmen sind digitale Helfer, welche durch komplexe Berechnungen und Analysen eingespeister Daten, Entscheidungen erleichtern und für uns Informationen filtern. Nicht erst seit der Einbindung des Hummingbird Algorithmus von Google im September 2013, der Suchanfragen semantisch verarbeitet und auf die Bedeutung einer Anfrage schließt, sind Algorithmen in aller Munde. Überall begegnen wir diesen digitalen Wegweisern, die unsere Suchanfragen, Interessen und letztlich auch Entscheidungen auf Grundlage wiederkehrender Muster abschätzen und so durch das Internet leiten. Obwohl die Wirkungsweisen, Risiken und Chancen der digitalen Wegweiser zunehmend bekannt und wissenschaftlich diskutiert werden, sind die Auswirkungen von Algorithmen auf NutzerInnen häufig immer noch zu abstrakt. Wenige NutzerInnen werden deshalb wirklich aktiv oder sprechen sich gegen die mathematische Informationsselektion aus. Zu groß ist die Bindung an Anbieter einschlägiger Programme für Suchmaschinen, soziale Netzwerke und Kurznachrichtendienste.

Herrschaft der Datensammler: Wir oder die Daten?

Prominentestes Beispiel ist natürlich Google. So schlägt uns die Suchmaschine mögliche Suchanfragen vor, bevor wir sie überhaupt vollständig eingegeben haben. Auch unzusammenhängende Wörter werden sinngemäß verbunden und unserem Suchverhalten zugeordnet. Mögliche Ergebnisse werden dann abschließend in der Reihenfolge der Antwortwahrscheinlichkeit gelistet. Ein Riesenvorteil will man meinen. Nicht fassbar wäre die Dauer, die wir bräuchten, um das Internet manuell nach einer Antwort zu durchforsten. Ein weiteres Beispiel ist Amazon. Auf Basis unserer Käufe und Suchanfragen, schlägt uns der größte digitale Marktplatz der Welt unsere zukünftigen Kaufwünsche direkt vor. Umständliches Suchen wird also zusehends durch Aussuchen ersetzt. Auch hier wird für uns selektiert.

Eines ist klar, Selektion passiert nicht nur online. Auch in der nicht-digitalen Welt folgen wir individuellen Mustern, filtern Informationen und folgen unseren Interessen. Dennoch besteht hier ein deutlicher Unterschied. Offline sind wir die Entscheider, bestimmen welche Informationen wir konsumieren, welche wird ausschließen, welche wir uns anschauen und auf Basis welcher ethischen Werte wir schließlich handeln. In den von Algorithmen bestimmten Bereichen des Internet tun wir das nur noch bedingt.

Von Wahlbeeinflussung und Verbrechensvorhersagen

Die Beziehung zwischen Algorithmen, Objektivität und Regeln wird also in der Diskussion um Governance im digitalen Raum immer wichtiger. Hier eröffnet sich die Frage, wer die Algorithmen eigentlich steuert und über unsere digitale Welt entscheidet?

Facebook demonstrierte bereits im Rahmen der US-amerikanischen Kongresswahlen 2010, wie BürgerInnen durch Algorithmen in ihrem Wahlverhalten beeinflusst werden können. In einer groß angelegten Studie – veröffentlicht im Wissenschaftsjournal nature – mit 61 Mio. zufällig ausgewählten US-amerikanischen NutzerInnen, testete das Unternehmen die Möglichkeiten der sozialen Einflussnahmen und politischen Mobilisierung. Unter Rückgriff eines sogenannten „I-voted Buttons“ wurde einzelnen NutzerInnen die Möglichkeit gegeben, auf ihre Wahlteilnahme aufmerksam zu machen und sich über naheliegende Wahlurnen zu informieren. Griffen die NutzerInnen auf die Funktion zurück und machten auf ihre Wahlbeteiligung aufmerksam, wurde dies im „News-Feed“ der Freunde angezeigt. Ergebnis: Die Wahlbeteiligung der Gruppe, denen der Button angezeigt wurde, lag höher als die der Kontrollgruppe, der lediglich konventionelle Informationen zugespielt wurden.

Auch die Möglichkeit der Vorhersage von Verbrechen ist keine Zukunftsmusik mehr. Was zunächst besorgniserregend klingt, ist bereits in vielen US-amerikanischen Städten fester Bestandteil der täglichen Polizeiarbeit. Die Software PredPol, „Predictive Policing“, analysiert mit Hilfe eines komplexen Algorithmus Kriminalstatistiken und sagt so voraus, wann und wo die Wahrscheinlichkeit für Verbrechen am höchsten ist. Städte werden dabei in 150x150m Kacheln eingeteilt und Hotspots zukünftiger Straftaten markiert. Zusätzlicher Service: die NutzerInnen können nach Art der Verbrechen filtern. Dennoch unterstreicht PredPol, dass sie keinesfalls mit Science Fiction wie dem Spielfilm „Minority Report“ gleichzusetzen sind. Man speise keine personenbezogenen oder demographischen Daten in den PredPol-Algorithmus ein.

Herrschaft durch Algorithmen vs. Herrschaft über Algorithmen

Wichtiger als die Feststellung, dass Utopien à la „George Orwell“ gar nicht mal so unwahrscheinlich sind, ist allerdings die Tatsache, dass sich politische Institutionen des Themas annehmen und Lösungen finden müssen. Bei vielen digitalen Fragen ist der technische Fortschritt deutlich schneller als der gesellschaftspolitische Diskurs die Folgen der digitalen Entwicklung überhaupt greifen kann. Dabei kommt es zu einer Machtverschiebung von den InhaberInnen der Daten zu Unternehmen, die diese Daten speichern und verarbeiten. Gleichzeitig versagen Staaten dabei, ihren BürgerInnen ausreichenden Schutz zu gewährleisten und Unternehmen Grenzen aufzuzeigen: ein Machtvakuum entsteht. Als Folge dieses Vakuums sinkt unter anderem das Vertrauen der BürgerInnen in politische Institutionen und der Einfluss einzelner Unternehmen steigt.

Im Zentrum einer breiten Diskussion müssen daher Verlässlichkeit, Transparenz, Nachvollziehbarkeit und Objektivität von Algorithmen stehen. Aktuell gibt es leider noch wenige Räume, in denen die gesellschaftlichen und politischen Auswirkungen von Algorithmen überhaupt thematisiert werden. Zu den wenigen Pionieren dieses Diskurses zählen, neben der in der vergangenen Woche vorgestellten Initiative Algorithm Watch, das Centre for Internet and Human Rights (CIHR), welches sich mit der Ethik algorithmischer Entscheidungsfindung beschäftigt. Auch Vortragsreihen wie die „Governing Algorithm Conference“ der New York University greifen das Thema auf und wollen einen Anstoß für einen gesellschaftlichen Diskurs geben. Dennoch sind diese Projekte weiterhin Einzelfälle. Politisch wird das Thema allenfalls beiläufig angesprochen.

Wenn Bundesjustizminister Heiko Maas im Jahr 2015 zum „Vorreiter“ digitaler Grundrechte wird und als einer der ersten deutschen Politiker in seinem „Artikel 4“ den folgenden Grundsatz vertritt: „Kein Mensch darf zum Objekt eines Algorithmus werden“, dann ist das zwar ein Ansatz, es wird aber auch deutlich, dass für die Definition institutioneller Handlungsrahmen für Algorithmen, noch viel Luft nach oben ist. Dass die automatisierte Informationsverarbeitung mit Artikel 22 Teil der neuen Datenschutzgrundverordnung geworden ist, tröstet dabei nur wenig. Denn die Bildung von Personenprofilen wird hier gleichzeitig als normale Datenverarbeitungstechnik angesehen.

Um ein Machtgleichgewicht zwischen Algorithmen, EntwicklerInnen und NutzerInnen herzustellen, muss Nachvollziehbarkeit gewährleistet werden. Algorithmen bieten viele Vorteile und helfen die Informationen zu finden, die wir wirklich suchen. Hierfür ist es aber wichtig, dass NutzerInnen aufgezeigt wird, nach welchen Grundsätzen ihre Suche unterstützt und geleitet wird. Wir brauchen eine vertrauenswürdige digitale Governance, AnsprechpartnerInnen, die uns transparent und objektiv über die Wirkungsweisen von Algorithmen aufklären können, und Grenzen, innerhalb derer unsere gesellschaftlichen Freiheiten nicht von Algorithmen angetastet und selektiert werden dürfen.

Titelbild: Lindau Port Lighthouse by Hans via pixabay licensed CC0

Globalisierung und Internet: "Wir glauben, es geht besser"

Christoph Eisfeld — Wed, 02 Oct 2013 08:58:46 +0000

In seiner 9. Initiative beschäftigt sich das Internet und die Gesellschaft Co:llaboratory (CoLab) mit der Wechselwirkung von Internet, Globalisierung und Nationalstaat. Zum Abschluss der Initiative laden die Veranstalter am 10.10. zur Debatte um Transatlantische Beziehungen, Freihandelsabkommen und digitale Totalüberwachung. politik-digital.de sprach mit dem Projektleiter der Initiative Marc Venhaus und CoLab-Geschäftsführer Sebastian Haselbeck über die internationale Netzpolitik sowie Ziele und Ergebnisse ihres Projekts.
politik-digital.de: Was war die Motivation für die 9. Initiative „Globalisierung und Internet“?
CoLab: Im CoLab besetzen wir konstant auch internationale Themen, ob es nun um Datenschutz auf EU-Ebene, globale Internet Governance-Aspekte (z.B. das IGF, das in wenigen Wochen in Bali stattfindet) oder Menschenrechte, wie in unserer 5. Initiative Anfang letzten Jahres, geht. Unsere mehrmonatigen Projekte – die sogenannten “Initiativen” – beruhen seit diesem Jahr auf eingereichten Konzeptvorschlägen. Folglich haben wir uns ausgesprochen gefreut, dass Ole Wintermann vom Projekt FutureChallenges.org vorschlug, sich mit den Themen Globalisierung und internationale Abkommen zu beschäftigen. Dies fanden wir, vor allem auch vor dem Hintergrund der Spionage-Enthüllungen, ungeheuer spannend und haben uns daher umgehend zusammengesetzt, um gemeinsam ein Konzept zu entwickeln, das sowohl den Nerv der aktuellen Debatte trifft als auch den weiteren Diskurs begleitet.
politik-digital.de: Welche gemeinsamen Interessen verfolgen die Partner CoLab und Future Challenges?
CoLab: Für das CoLab ist es interessant, die internationalen Entwicklungen stets im großen Zusammenhang zu betrachten. So spielt beim Thema Globalisierung die Tagesdebatte um die Internetüberwachung genauso eine Rolle wie die Tatsache, dass man z.B. aus sprachlichen und/oder kognitiven Gründen selbst immer nur Bruchteile des Netzes wahrnimmt. Grundsätzlich stellen sich zudem zahlreiche weitere Fragen: Ist das Internet ein Globalisierungstreiber? Oder: fördert es gar Gegentendenzen? Welche Rolle spielen hier supranationale Regulierungsansätze? Ist das Internet überhaupt dauerhaft regulierbar? Und gibt es überhaupt DAS eine Internet? Das fanden wir spannend. Besonders interessant wird es dann vor allem bei Vorstößen wie dem transatlantischen Investitions- und Freihandelsabkommen (TTIP), das gerade zwischen der EU und den USA verhandelt wird. Kritiker sehen darin ein Rückkehr von ACTA durch die Hintertür. Was dahinter steckt, ist bislang noch schwer zu sagen; schließlich sind diese Verhandlungen nicht sehr transparent – ein kritischer Punkt, den die Initiative auch behandelt. Für FutureChallenges.org ist es darüber hinaus wichtig, den Diskurs mit Hilfe ihres internationalen Bloggernetzwerks aus unterschiedlichen Blickwinkeln zu betrachten sowie eher wirtschaftswissenschaftlich ausgerichteten Studien der Bertelsmann Stiftung (in die das Netzwerk eingebettet ist) als Orientierungspunkt zu nehmen. Diese Perspektiven einmal mit den netzpolitischen Betrachtungsweisen zusammenzuführen, war für das CoLab eine willkommene Chance.
politik-digital.de: Wo birgt die Globalisierung Chancen für digitale Innovation und neue Internetstrukturen?
CoLab: Das Internet als Globalisierungstreiber birgt theoretisch eine Menge Potential, nicht nur, um Handel und Dienstleistungen auf internationaler Ebene effektiver zusammenzubringen, sondern auch, um längst überholtes nationalstaatliches Denken durch globale, kooperative Lösungen zu ersetzen. Globalisierung ist ein Effekt, der an vielen Stellen Handlungsdruck auslöst. Beispielsweise sieht sich die internationale (digitale) Gemeinschaft aktuell dazu angeregt, strukturelle Verbesserungen anzustoßen, um besseren Schutz der Privatsphäre vor Kompetenz- und Rechtsüberschreitungen von Staat, Unternehmen und Individuen zu gewährleisten. Auf wirtschaftlicher Ebene müssten eigentlich diverse Industrien dazu übergehen, wesentlich globaler und damit in gewisser Weise auch innovativer zu denken – das Internet bietet eine große Möglichkeit, neue und bessere Geschäftsmodelle zu entwickeln. Es gibt allerdings viele Bereiche, bei denen genau das Gegenteil der Fall ist: Die Unterhaltungsindustrie hat beispielsweise ihre nationalstaatlichen Denkmuster auch noch nicht abgeschüttelt; so wird es Verbrauchern unverständlicherweise künstlich schwer gemacht, Unterhaltungsprodukte online zu kaufen, während es in der “Offline-Welt” schon seit langem problemlos möglich ist, Produkte aus aller Welt einfach per Post zu bestellen.
politik-digital.de: Wo liegen die Gefahren von internationalen Freihandelsabkommen wie TAFTA/TTIP?
CoLab: Das Kernproblem ist natürlich, dass dergleichen Abkommen unter Ausschluss der Öffentlichkeit stattfinden. Das liegt zum einen zwar in der Natur der Sache, schließlich funktionieren Diplomatie und Handelsrecht nun einmal nach bestimmten (rechtlichen und politischen) Voraussetzungen, zum anderen aber finden sich diverse Partikularinteressen in solchen Verhandlungen übermäßig stark repräsentiert. Die Intransparenz solcher Verhandlungen stärkt in fast allen Fällen Lobbyisten und macht es Außenstehenden, wie den Bürgern, nationalen Parlamenten oder vielen zivilgesellschaftlichen Organisationen, schwer, sich ein Urteil über diese Prozesse zu bilden. Das ursprünglich TAFTA genannte Abkommen etwa behandelt nur zum Teil den Abbau von Zöllen, der Großteil der Verhandlungen zielt vielmehr auf sogenannte nichttarifäre Handelshemmnisse ab; es geht also um die Harmonisierung von Standards und Regularien, die jeden betreffen. So befürchten Kritiker eine Absenkung von Lebensmittelstandards in der EU, das Aufweichen des Verbots von Genprodukten, oder – sofern Kulturthemen wieder auf der Verhandlungsagenda landen – negative Auswirkungen auf Informationsfreiheit und Bürgerrechte durch noch restriktivere Urheberrechtspoltik oder weitere Aushöhlung von Datenschutzstandards. Das ACTA-Fiasko ist vielen von uns noch in guter Erinnerung: Der Teufel steckt auch bei solchen Abkommen im Detail.
politik-digital.de: Welche konkreten Auswirkungen hat die Globalisierung auf netzpolitische Fragen?
CoLab: Es wird sowohl Fachleuten als auch der breiten Gemeinschaft immer mehr bewusst, dass diverse Entwicklungen an allen Ecken der Welt direkte Auswirkungen auf jedermann haben. Gesetze in Land A betreffen das Leben in Land B. In der Netzpolitik ist das besonders relevant, da beispielsweise US-Innenpolitik, sei es in Bezug auf Netzneutralität, Urheberrecht oder Wettbewerbspolitik, direkte Auswirkungen auf die globale Internetwirtschaft haben, nicht nur weil ein Großteil der dominanten Konzerne in den USA sitzen, sondern auch weil viele Entscheidungen eine gewisse Richtung vorgeben. Andererseits bringt die globale Vernetzung von Zivilgesellschaften und Individuen eine Stärkung der Nutzer gegenüber Staaten und Konzernen mit sich – in der Theorie zumindest. Besonders kritisch zu sehen ist die um sich greifende Intervention von Politik in den freien Informationsfluss, sei es durch Abhörung, Zensur (auch in den westlichen Demokratien!), Tolerierung von Netzdrosselung, oder Privatisierung von Rechtsdurchsetzung, z.B. durch sogenannte “three strikes”-Regelungen.
politik-digital.de: Wie werden sich diese Art von Handelsabkommen ganz praktisch auf die Verbraucher auswirken?
CoLab: Zum einen muss man sagen, dass sowohl das Abkommen selbst, aber auch dessen Inkrafttreten, noch einige Jahre weit weg sind. Zum anderen allerdings werden genau jetzt die Weichen dafür gestellt, was solch ein Abkommen letztendlich beinhaltet. Am unmittelbarsten wirken sich Veränderungen bei Konsumgüterstandards aus, allen voran Lebensmittelstandards. Sollte es – wider Erwarten – auch zu Bewegung beim Thema Agrarsubventionen kommen, dürfte dies auch zu Veränderungen bei Preisen von Nahrungsmitteln führen. Ohne den Teufel an die Wand zu malen, – viele Harmonisierungen und Grenzabbauten können ja durchaus auch angenehm sein, oder zu mehr Produktvielfalt führen, oder zu Preissenkungen – ist es auf Basis von Erfahrungen realistisch, beim Ausgang von Verhandlungen vom politisch kleinsten gemeinsamen Nenner auszugehen. Dies bedeutet auchj, dass so manche überfällige Reduktion von Handelshürden, zum Beispiel im Online-Dienstleistungsbereich, oder aber beim Thema Reisefreiheit usw., gar nicht erst behandelt werden. In vielerlei Hinsicht sind die Auswirkungen auf den Verbraucher sehr minimal, während einige große Konzerne mitunter auch schon durch eine kleine Auswahl an regulatorischen Nachbesserungen einen Gewinn verbuchen können.
politik-digital.de: Eine der zentralen Fragen der Initiative war die nach einer idealtypischen (globalen) Governance für die Globalisierung der Bewegung von Menschen, Informationen und Gütern. Welche Grundvoraussetzungen fehlen aktuell, um diesen Wunschgedanken zu verwirklichen?

Das Internet & Gesellschaft Co:llaboratory (CoLab) ist eine offene Experten- und Interventionsplattform. Es möchte die Wechselwirkungen zwischen Internet und Gesellschaft unter Einbeziehung unterschiedlicher Perspektiven betrachten und mit möglichst vielen Stakeholdern diskutieren – interdisziplinär und praxisbezogen. Bisherige Schwerpunkte der Arbeit des CoLab waren u.a.: Kulturelles Erbe und Bildung in der digitalen Gesellschaft, Global Internet Governance, Privatheit und Öffentlichkeit, Internet und Menschenrechte…

CoLab: Unsere Annahme ist, dass wir sowohl die technischen Voraussetzungen als auch den politischen Druck hätten, um solche globalen politischen Projekte ganz anders anzugehen. Zwar ist es annähernd utopisch, sich EU-weite Bürgerbeteiligung an einem Verhandlungstext vorzustellen. Doch erlaubt das Internet weitreichende Transparenz und bessere Informationspolitik darüber, wie so eine Verhandlung verläuft, wer daran beteiligt ist, und um welche Inhalte es geht. Der Konsultationsprozess könnte viel inklusiver verlaufen. Eine Grundvoraussetzung dafür ist, schon auf nationaler Ebene viel mehr Beteiligung aller Stakeholder (und allen voran der Nutzer/Verbraucher/Bürger) zu erlauben. Leider zeigt das Ergebnis der Bundestagswahl gerade wieder einen Gegentrend auf: Die Gewinnerpartei ist eine Gegnerin von Bürgerentscheiden auf Bundesebene, blockiert Informationsfreiheit und hat sich in den letzten Wochen beispielsweise einer Aufklärung der Spionageaktivitäten eher entgegengestellt. Wenn nicht hierzulande mehr Offenheit und Beteiligung, wie dann erst auf EU- oder internationaler Ebene?
Beim Thema Internet Governance gibt es global offene Foren, aber der Trend wird wohl zu mehr Formalisierung und Verstaatlichung von Prozessen gehen. Eine idealtypische Governance sähe anders aus, doch die Sachfragen sind so komplex, die Positionen zu divers und die Strukturen der Politik zu intransparent.
politik-digital.de: Wie könnte ein Alternativmodell aussehen, damit die Zivilgesellschaft sich künftig besser in die Entwicklung supranationaler Abkommen einbringen kann?
CoLab: Unsere Expertenrunde ist der Meinung, dass mehr und frühere Einbindung von Stakeholdern sowie bessere Transparenz positive Auswirkungen auf Prozess und Resultat solcher Abkommen haben kann. Politische Entscheidungen, die so weitreichend sind und jedermann berühren, sollten nicht eben über jene Köpfe hinweg in vollkommener Intransparenz entschieden werden dürfen. Das ist das “alte Modell”. Wir glauben, es geht besser, und das muss nicht weh tun, im Gegenteil: Es würde Prozess und Ausgang mehr Legitimität verschaffen, die politischen Akteure in ihren Vorhaben stärken und dem Inhalt der Verhandlungen mehr Unterstützung in der breiten Gesellschaft verschaffen.
politik-digital.de: Was sind die wichtigsten drei Ergebnisse der Initiative?
CoLab: Das erste Ergebnis ist, dass wir es trotz der kleinen Gruppe geschafft haben, eine Brücke zwischen handelspolitischen und netzpolitischen Überlegungen zu schlagen (das ist auch nur ein Anfang, hier muss mehr passieren). Keines der Themen kann isoliert betrachtet werden, zu umfassend ist beispielsweise solch ein Abkommen. Das zweite Ergebnis ist, dass wir den gebündelten Stimmen und Eindrücken der Teilnehmer Gehör verschaffen können und mit den Positionen und Recherchen an die Öffentlichkeit gehen können, so also über die diskutierten Entwicklungen aufmerksam machen können. Als drittes – könnte man sagen – ist eine unterschwellige Message der Initiative, dass es technisches Verständnis auf allen Seiten braucht, um diese Prozesse besser zu verstehen, und den Willen, interdisziplinär einen Diskurs anzustreben, der sonst einseitig dominiert wäre.
politik-digital.de: Was passiert nun mit den Ergebnissen?
CoLab: Ein Teil unserer Ergebnisse stellt ein Magazin mit Debattenbeiträgen, Interviews und Recherchen dar, das unter CC-Lizenz in Kürze verfügbar sein wird. Teile der Ergebnisse diskutieren wir dann auch in unserem öffentlichen Workshop am 10.10. mit geladenen Experten. Weitere Ergebnisse, wie Videobeiträge, Interviews und Analysen sowie Artikel aus einem internationalen Call for Papers, werden wir online veröffentlichen. Wir hoffen, dass wir damit einen Beitrag zur Debatte leisten können, die noch lange nicht vorbei ist.
Bilder: collaboratory, Sebastian Haselbeck, Marc Venhaus