Elon Musk hat einen, der damalige US-Präsident Barack Obama ebenfalls, genauso wie die Musiker Justin Bieber und 50Cent. Und jetzt gehört auch der Heilige Vater Papst Franziskus dazu. Was alle diese Personen eint: Sie haben einen Social Bot, der für sie mit den Menschen per Facebook-Messenger kommuniziert. Der „MissioBot“ beispielsweise erzählt mit Emojis und GIFs die Geschichten gemeinnütziger kirchlicher Projekte. Am Ende der Konversation wird der Nutzer dazu aufgefordert, einen kleinen Betrag zu spenden oder die Geschichte weiter zu erzählen.

Diese Chatbots stellen einen Wandel in Facebooks Handhabung mit Social Bots dar. Wurden die automatisiert arbeitenden Programme, von denen sich einige als menschliche Nutzer ausgeben, noch bis Mitte 2016 konsequent aus dem sozialen Netzwerk ausgesperrt, öffnet sich die Plattform jetzt. Die Bots können von Firmen oder eben prominenten Persönlichkeiten betrieben werden und übernehmen dann die Kommunikation auf deren Facebookseiten. Social Bots, die unerlaubt Fake-Profile betreiben, bleiben weiterhin unerwünscht. Die Zahl der Bots im Internet steigt dabei stetig an. Neueste Schätzungen gehen davon aus, dass 2016 erstmals mehr als die Hälfte des weltweiten Traffics im Internet nicht mehr vom Menschen generiert wurde, sondern von automatisierten Programmen verschiedenster Couleur.

Welche Reichweite Social Bots generieren, zeigen zwei Großereignisse der vergangenen Monate. Im Juni 2016 konnten Forscher der Universität Oxford nachweisen, dass insgesamt bis zu 30 Prozent der Posts auf Twitter zum Referendum von Social Bots erstellt wurden. Dabei bedienten sich beide des Hilfsmittels der automatisiert arbeitenden Accounts. Ein Prozent der beteiligten Accounts sorgte für ein Drittel der Tweets. Bots, die #Brexit oder #StrongerIn posteten, hielten sich dabei etwa die Waage. Im Verhalten der Bots zeigte sich jedoch ein Anpassen des Verhaltens an die gegebene Diskussionsumgebung.

Pro-Trump – Pro-Clinton: 5:1

Ein starkes Ungleichgewicht zeigte sich im Vorfeld der US-Wahl. Besonders während der drei Debatten der Präsidentschaftskandidaten waren die Social Bots für beide Seiten aktiv und machten zeitweise bis zu 30 Prozent der Nachrichten auf Twitter zu diesem Thema aus. Während des Wahlkampfes zeigte sich jedoch ein starkes Ungleichgewicht zu Gunsten Donald Trumps, das stetig wuchs, je näher die Wahl rückte. Kurz vor der Wahl übertrafen die Pro-Trump-Tweets die Pro-Clinton-Tweets im Verhältnis 5:1. Bereits durch die große Anzahl an veröffentlichten Tweets zeigt sich, dass Social Bots die Macht besitzen, aktuelle Diskussionen gehörig zu stören. Gegebenenfalls verschwinden andere Meinungen in einer Flut von Nachrichten, indem die gegnerischen Hashtags „gekapert“ werden.

Social Bots sind schon lange keine simplen Link-Spammer oder einfache Informationsposter mehr. Netzwerke von Bots können unbemerkt politische Meinungen in die laufende Diskussion einstreuen, wie ein Vorfall während der Maidan-Demonstrationen in der Ukraine 2014 zeigt. Auf Twitter verbreiteten tausende Social Bots während der Proteste ihre Botschaften. Ihre Aktivitätszyklen ähnelten denen von menschlichen Nutzern. Der Großteil der Posts enthielt jedoch eher unpolitische Inhalte: von Links zu Nachrichtenseiten, über sexistische Witze bis hin zu Links zu wahrscheinlich illegalen Downloadseiten für Filme. Durch dieses menschliche Verhalten erhöhten die Bots ihre menschliche Followerzahl, nur um ab und zu politische Tweets mit positiven Äußerungen über den „Rechten Sektor“ – einer rechtsextremen Gruppierung auf dem Maidan – zu posten.

Es zeigt sich, dass Social Bots immer komplexer in ihrem Verhalten werden. Während die Politik noch über den richtigen Umgang damit diskutiert, halten sich die sozialen Netzwerke bedeckt, wie sie mit diesem Phänomen umgehen (wollen). Die Anfälligkeit der Netzwerke hängt einerseits von der Struktur der Plattformen ab. Während es bei Facebook der Bestätigung einer Freundschaftsanfrage bedarf, erfolgt die Kontaktaufnahme beispielsweise bei Twitter lediglich über Follower-Modell. Auch mag der Anschein entstehen, dass Social Bots überwiegend zu negativen Aufgaben herangezogen werden.  Wobei die Diskussion über gut und böse Immer sartk vom Blickwinkel abhängt.

Gegenmaßnahmen befinden sich noch in den Kinderschuhen

Die Forschung zum Erkennen von Social Bots steht derzeit noch am Anfang. Die Modelle basieren auf drei Grundsystemen. Das erste baut auf die Fähigkeit von ausgebildeten Menschen, Bot-Accounts von Menschen zu unterscheiden. Dabei hängt die Erfolgsquote von den sozialen Netzwerken ab. Bei Twitter beispielsweise bieten die Profile weniger Anhaltspunkte, die Rückschlüsse auf die Echtheit des Nutzers zulassen. Andererseits bedarf es meist eines Teams, um kritische Fälle zu besprechen. Damit ist es sehr teuer für die Netzwerke. Der zweite Ansatz beruht auf der Annahme, dass Menschen nur mit bekannten Nutzern interagieren. Diese Annahme konnte für viele Netzwerke und Beispiele entkräftet werden und gilt damit als unzuverlässig. Die dritte Systematik arbeitet mit selbstlernenden Algorithmen, wie beispielsweise das Projekt Social Media Forensics der Universität Siegen. Ein Ansatz, der auch die Social Bots des Rechten Sektors auf dem Maidan enttarnte, erfolgte über die Analyse der Profilbilder, dem eine Textanalyse vorausging. Die vergleichsweise hohe Erfolgsquote des Projekts: über 80 Prozent erkannte Bots.

Moralisches Dilemma: Transparenz

Nun mag man sagen, dass 80 Prozent doch ein gutes Ergebnis sind. Nur stellt sich die Frage: Was passiert mit den fast 20 Prozent echter menschlicher Nutzer, die fälschlicherweise als Social Bot gekennzeichnet oder verbannt wurden? Der Nutzer weiß nun nicht, was er gemacht hat, um als Bot erkannt und aussortiert zu werden. Das moralische Dilemma entspinnt sich am Grad der Transparenz. Legen die Plattformen und Entwickler der Bot-Erkennungsprogramme offen, nach welchen Kriterien sie Social Bots suchen, können echte Menschen entsprechend erkennen, welches Verhalten zur Kennzeichnung führte. Andererseits können die Entwickler der Bots diese entsprechend anpassen und die Erkennungsprogramme müssen eine neue, zusätzliche Generation von Social Bots ausfindig machen. Ein theoretisches, aber nicht allzu weit entferntes Problem, das alle sozialen Netzwerke und Entwickler in ihren Bestreben berücksichtigen sollten.

Titelbild: Robots by alluregraphicdesign via pixabay, licensed CC0 Public Domain 

Video der Woche

Internet im Kuhstall – klingt komisch, ist aber so. Der moderne Landwirt – als altmodischer, technikängstlicher Landwirt ist das wirtschaftliche Leben heutzutage beinahe unmöglich – nutzt das Internet für seine Betriebsführung wie jede andere Firma auch. In vielen ländlichen Regionen kennt man schnelles Internet („Breitband“) allerdings höchstens vom Hörensagen. So muss dann erst eine Bürgergesellschaft gegründet werden, um auf sich aufmerksam zu machen. Fast wie ein Hohn klingen in diesem Zusammenhang die Zwei-Klassen-Netz-Pläne der Telekom. ‘Managed Service’ und ähnliche Methoden, mit denen die Bonner sich vor allem des Wunsches des doppelten Kassierens und weniger der Demokratisierung des Internets verdächtig machen, bestimmen seit Wochen die rosa Schlagzeilen. Doch so langsam beginnt es auch in der Politik zu rumoren, der Ruf nach Netzneutralität scheint nach und nach auch in die äußeren Zonen des Machtepizentrums vorzudringen. Hoffentlich nicht nur aus wahlkämpferischen Gründen.

Der Verdacht liegt näher, als wir denken

Um Überwachungsmaßnahmen, wie etwa aktuell die Internetüberwachung, zu rechtfertigen, wird häufig behauptet, dass Bürger, die nichts zu verbergen hätten, auch nichts befürchten müssten. Doch moderne Überwachungs- und Durchsuchungstechniken werden von Algorithmen gesteuert, die nach bestimmten, festgelegten Merkmalen und Verhaltensweisen suchen. So entstehen bestimmte Raster und Profile, nach denen gefahndet wird. Es ist demnach nicht unwahrscheinlich, dass derartige Suchmechanismen dazu führen, dass völlig unbescholtene Bürger rein zufällig ins Visier der Justiz geraten, die mit einem Verbrechen, das aufgeklärt oder vereitelt werden soll, nicht das Geringste zu tun haben. Ohne jegliche Verbindung zu einem Verbrechen oder dessen Drahtzieher kann man also leicht als verdächtig gelten, nur aufgrund zufälliger, den Suchkriterien entsprechender Merkmale. Dass Täter auf diese Weise identifiziert werden können, lässt sich kaum bestreiten. Die große Gefahr besteht jedoch darin, dass so quasi jeder ohne eigenes Zutun des Mordes verdächtigt werden kann; die Unschuldsvermutung – ein wesentlicher Grundpfeiler unseres Rechtsstaatsprinzips – ist da leicht ausgehebelt. Im Klartext: Wer etwas zu befürchten hat, entscheidet nicht das Individuum selbst, sondern allein der Suchalgorithmus und die gesuchten Merkmale.

Selfmade?

Lexika in Buchform, so könnte man sagen, sind eher ein Replik der Vergangenheit. Dank Wikipedia ist ‘Wissen’ in digitaler Form immer und (mit mobilem Internet) überall verfügbar. Und dies auch ohne das zweifellos schöne, aber dennoch umständliche Ritual, ein dickbändiges, schweres Lexikon mit sich herumschleppen zu müssen. Die für jederman frei zugänglichen und kostenlosen Artikel in Wikipedia, so das Konzept, werden von Nutzern für Nutzer, also von Menschenhand, geschrieben, aufbereitet und gepflegt. Dies soll laut der Wikipedia Deutschland für alle deutschsprachigen Wikipedia-Artikel gelten. Doch andernorts scheint man auf diese klassische Arbeitsweise weniger Wert zu legen: Immer mehr Artikel werden, allen voran in kleineren Version des Formats, automatisch generiert. Diese Textroboter, sogenannte Bots, erstellen eigenständig Beiträge, ganz ohne Beteiligung menschlicher Schreiberlinge. So entstehen zwar sehr viele Artikel und das digitale Lexikon wächst und wächst – in der niederländischen und schwedischen Version sollen mehr als die Hälfte aller Einträge automatisch erstellt worden sein – jedoch leidet hierunter allzu oft die Qualität, da die Bot-Artikel meist sehr kurz sind und keine umfassenden Informationen enthalten. Die Frage lautet hier: Ist es gut, die Quantität auf Kosten der Qualität auszubauen? Weniger ist bekanntlich manchmal mehr…

Schotten dicht!

Ganz Deutschland nutzt Facebook, Google, Skype, allesamt amerikanische Konzerne. Ganz Deutschland wundert sich, dass US-amerikanische Sicherheitsbehörden mit ihrem digitalen Durchsuchungsbefehl PRISM deutsche Nutzer überwachen und deren Daten ausspähen. Überwachung finden viele hiesige Politiker zwar gut, aber dies möchte man bitteschön selber machen und nicht den Amerikanern überlassen. Doch wie soll das geschehen, wenn deutsche Nutzer amerikanischen Firmen ihr Privatleben offenbaren? Nun kam die Idee auf den Tisch, ein deutsches Internet zu bauen. Deutsches Google, deutsches Facebook, so ließe sich die Überwachung angenehm von zuhause aus regeln. Die Innen- und Finanzressorts würden sicherlich übereinkommen, dass sich sowas auch ohne größere Probleme finanzieren lasse, es diene ja der allgemeinen Sicherheit. Dass dieser Vorschlag Unsinn ist, ließe sich schon allein daran ablesen, dass wohl nur die wenigsten Nutzer bereit wären, ein deutsches oder auch nur europäisches Internet zu nutzen, meint Christian Jakubetz im Cicero. Der Globalisierung und weltweiten Vernetzung sei Dank, dass viele Menschen Freunde in allen Teilen der Welt haben, mit denen, danke Facebook, der Kontakt so einfach und bequem ist wie nie zuvor. Die deutsche Politik wäre gut beraten, in der Internetsicherheitsdebatte Geld und Know-How in Medienkompetenz und digitale Bildung zu investieren, statt noch mehr Kontrolle zu fordern.

Alles glänzt! So schön neu!

Bundeskanzlerin Dr. Angela Merkel spricht vor US-Präsident Barak Obama und der weiteren Weltöffentlichkeit folgenden Satz: „Das Internet ist für uns alle Neuland“. Und das im Jahr 2013. Dass dies höhnisch, belustigend und fassungslos kommentiert würde, damit hätte man zumindest rechnen können; immerhin gibt es das Internet ja nun schon ein paar Tage länger. Von daher: Nein, das Internet ist nicht ‘neu’, denn wir kennen (?)  und benutzen es Tag für Tag, seit weit mehr als 10 Jahren. Dennoch ist diese Behauptung nicht ganz so aus der Luft gegriffen wie es auf den ersten Blick scheint. Heute aktuelle und allgegenwärtige Angebote wie Facebook und Twitter können, zumindest der Nutzung in Deutschland nach, noch auf keine allzu lange Unternehmensgeschichte verweisen; Netzpolitik hat sich so richtig erst in der laufenden Legislaturperiode als ernstzunehmendes Politikfeld etabliert und wer die Zukunft dieses sich jeden Tag rasant wandelnden Mediums vorhersagen möchte, muss wahlweise schon wahrsagerische Fähigkeiten haben oder seine Thesen bald revidieren. Bei genauer Betrachtung ist das Internet ein Raum, wo niemand so ganz allumfassend Bescheid weiß. Das tut Friedemann Karig sicher auch nicht, liefert aber Ansätze, die helfen könnten, Neuland zu Bekanntland zu machen: mehr miteinander statt übereinander reden, mehr echte Vermittlungsarbeit, weniger Besserwisserei, weniger Meinungshoheit und mehr Verständnis. Das könnte ein Weg sein, durch Aufklärung Akzeptanz und Transparenz zu schaffen. Einfach mal ein bisschen runter kommen von dem hohen Ross! Einen Versuch sollte es jedenfalls wert sein.

Bitterer Beigeschmack

Die Demonstrationen gegen den türkischen Präsidenten Erdogan sind seit Wochen eines der meistbeachtetsten Themen in den Nachrichten. Dafür sorgen vor allem Journalisten, die vor Ort über die Lage berichten. Doch ist auch bekannt, dass es Erdogan mit Dingen wie der Meinungs- und Pressefreiheit nicht so genau nimmt. Der türkischen Justiz wird vorgeworfen, des öfteren Verfasser kritischer Texte hinter schwedische Gardinen zu schicken oder zumindest auf Verdacht festzusetzen. Im Zuge der Protestwelle, wo etliche Menschen via Social Media über die Zustände um Polizeigewalt und Regierungskritik berichten, verschwimmt die Grenze zwischen journalistischer und privater Dokumentation zusehends. Der beängstigende Gedanke, die Neugierde der türkischen Polizei auf sich lenken zu können, liegt da nicht sehr fern. Martin Weigert, der in den letzten Wochen journalistisch in der Türkei tätig war, ließ Vorsicht walten, schaltete nahe seiner Unterkunft seine Mobilfunkverbindung aus und nutze für WLAN-Aktivitäten nur noch ausländische VPN-Services. Anlass war weniger die Angst um die eigene Sicherheit als vielmehr die Frage, wie man sich als „Privat-Berichterstatter in einem Umfeld aus staatlicher Zensur und Repression vor ungewollten Zugriffen und Abhöraktionen schützen könne. Schön ist solch eine Erfahrung sicher nicht, Weigerts Artikel könnte aber dazu beitragen, hierzulande als selbstverständlich wahrgenommene Privilegien wie Pressefreiheit und das Äußern der eigenen Meinung noch mehr schätzen zu lernen.