Wie bewerten Sie den Digital Services Act? 

Breyer: “Der Digital Services Act soll die [Social Media] Plattformen regulieren, und der Wunsch war eigentlich, dass er das Problem des Überwachungskapitalismus von Grund auf angeht: Das heißt, dass man auf Schritt und Tritt überwacht wird, um mit Werbebotschaften und politischen Botschaften manipuliert zu werden. Wir wollten im Parlament das Thema Internetzensur angehen, die fehleranfälligen Uploadfilter, denen täglich unzähliges wichtiges Material zum Opfer fällt, weil die Filter zum Beispiel nicht zuverlässig Aufklärung über Terrorismus von Terrorismus-Propaganda unterscheiden können. Und wir wollten auch das Thema Interoperabilität angehen, das heißt die Monopolstellung der Internet Giganten aufbrechen, indem eine plattformübergreifende Kommunikation ermöglicht werden sollte. Im Grunde genommen ist nichts davon im Endergebnis durchgesetzt worden.” 

Darf ich fragen warum?  

Breyer: “Wir sahen uns da gegenüber einem Block von Widerstand seitens der EU-Kommission und seitens der EU-Regierungen, und zwar unter massivem Einfluss von Lobbyismus. Einmal Lobbyismus seitens der Technologiekonzerne selbst – das ist ja jetzt rausgekommen, dass Google zum Beispiel massiv lobbyiert hat um eine Regulierung des Überwachungskapitalismus und der Überwachungswerbung zu verhindern. Es wurde aber auch von anderer Seite interveniert, von Rechteinhabern wurde zum Beispiel in letzter Minute ein Vorstoß unternommen, Suchmaschinen und Suchergebnisse zu zensieren, und offensichtlich stand man da unter starkem Einfluss. Und außerdem, wenn es um das Thema digitale Grundrechte geht, zum Beispiel Recht auf Verschlüsselung, Recht auf Anonymität, Verbot der anlasslosen Vorratsdatenspeicherung, da waren dann die Regierungsinteressen stärker. [Sie] wollen das Internet nutzen, um maximal die Menschen zu kontrollieren und zu überwachen. Diesen Widerstand hat das Europäische Parlament letztlich leider hingenommen. Die Alternative wäre gewesen, eine Einigung zu verweigern und weiter zu verhandeln.”  

Sie haben an anderer Stelle erwähnt, dass der Trilog ein intransparenter Prozess ist. Im Hinblick auf diese Verhandlungen würden sie dem wieder zustimmen?  

Breyer: “Diese Triloggespräche […] sind absolut intransparent, weil die Verhandlungen vertraulich geführt werden. Alle Sitzungen sind nichtöffentlich, alle Dokumente sind nichtöffentlich. Es gibt nicht einmal eine offizielle Liste der Termine, zu denen man miteinander spricht. Auch Tagesordnungen werden nicht veröffentlicht. Es gibt auch nicht mal mehr ein Verzeichnis von Dokumenten, die man ausgetauscht hat. Das führt dazu, dass es oft genug zu unbefriedigenden Lösungen kommt, das heißt, dass sich Industrie- und Regierungsinteressen gegen Bürgerinteressen durchsetzen, weil die Öffentlichkeit davon gar nichts erfährt. Zum anderen führt es teilweise auch dazu, dass überraschend noch ganz andere Elemente einfließen, die in dem öffentlichen Teil, also wo sich Parlament und Rat positionieren, in dem öffentlichen Mandat gar nicht vorgekommen sind. Zum Beispiel: Beim Digital Services Act wurde plötzlich noch ein sogenannter Notfallmechanismus, also dass man im Krisenfall besondere Befugnisse der EU-Kommission gibt, um gegen Plattformen vorzugehen – Stichwort Ukraine, Stichwort Desinformation – das wurde völlig überraschend in dieser intransparenten, nichtöffentlichen Phase hinzugefügt, zu dem Digital Services Act, wovon vorher gar keine Rede gewesen ist.” 

Was Sie jetzt schildern, klingt ja so ein bisschen wie das Schreckgespenst, das Verschwörungstheorie-nahe Menschen haben vom Deep State. Würden sie so weit gehen, das so zu nennen? 

Breyer: “Also ich habe ja selbst am Verhandlungstisch mit gesessen und ich kann schon sagen, dass die Vertreter des Parlaments ehrlich bemüht waren, ihre Ideen und Vorstellungen auch im Sinne der Bürger vorzubringen und einzubringen, an den Verhandlungstisch zu bringen. Aber die Durchsetzung ist natürlich massiv geschwächt, wenn man nicht öffentlich Unterstützung auf seiner Seite hat, wenn man nicht viel Berichterstattung auf seiner Seite hat, wenn die Nichtregierungsorganisationen wenig Wissen über die Prozesse haben. Dann fällt es uns schwerer, im Sinne der Bürger Ergebnisse auszuhandeln. Man muss sagen, in der Praxis ist es schon so, dass spezialisierte Nachrichtendienste, oft leider bezahlpflichtig, ab und zu Informationen veröffentlichen oder leaken, dass auch Nichtregierungsorganisationen genauso wie andere Lobbyisten auf inoffiziellen Kanälen mehr oder weniger gut über den Verhandlungsstand informiert sind und informiert werden. Es ist so eine inoffizielle Teil-Transparenz, die wirklich unbefriedigend ist, denn es geht hier um Gesetze, an die sich alle halten müssen.  

Wenn Sie die Frage ansprechen des Bürgerwillens: das ist wirklich der wunde Punkt der Europäischen Union, dass sie als Elitenprojekt gestartet wurde, dass die Verträge in der Hand der EU-Regierungen liegen und in den allermeisten EU-Staaten die Bürger nichts mitzubestimmen haben. Selbst bei Vertragsänderung, geschweige denn, dass es Elemente der direkten Demokratie gäbe, wie das ja in Deutschland eigentlich alle Bundesländer inzwischen haben: Volksinitiativen, Volksentscheide, dass man Gesetze wieder kippen kann, dass man eigene Gesetze initiieren kann. All das fehlt völlig auf EU-Ebene und das entfremdet die EU von den Bürgern und macht es Populisten leicht, die die EU angreifen, die sie schwächen wollen oder diese sogar einen Austritt betreiben, wie zuletzt in Großbritannien.” 

Sie würden also sagen, der Brexit und der Wahlerfolg von EU-Skeptikern wie Marine Le Pen begründet sich zum Teil auch in der Struktur der EU?

Breyer: “Die EU macht es diesen Anti-Europäern, diesen illiberalen, autoritären Kräften leicht, sie anzugreifen: als bürgerfern und Elfenbeinturm. Weil es eben tatsächlich zu wenige Mechanismen gibt, um den Bürgern auch Macht in die Hand zu geben. Das betrifft direkte Demokratie, aber man müsste zum Beispiel auch digitale Werkzeuge einsetzen, damit Bürgerinnen und Bürger EU-Gesetzentwürfe kommentieren oder Fragen dazu stellen könnten. Man könnte sich vorstellen, dass man regelmäßig auch Konferenzen organisiert, Bürgerkonferenzen zu besonders umstrittenen Themen, wo man sich mit Bürgerinnen und Bürgern darüber austauscht und ihre Fragen beantwortet.” 

Dann kommen wir noch zu einem aktuelleren Punkt: Der DSA enthält jetzt einige Auflagen für die Plattformbetreiber, nicht für die von News-Seiten, sondern die von Plattformen mit User-generierten Inhalten. Inwiefern betrifft das dezentrale Angebote wie Mastodon, wenn ich jetzt zum Beispiel meinen eigenen Server aufbaue?  

Breyer: “Die sind auch betroffen, es gibt nur vereinzelte Ausnahmen für kleine Angebote. Aber es gibt generell Regeln für alle Vermittlungsdienste, zum Beispiel diejenigen, die Haftung regeln, also sie sind normalerweise nicht haftbar, wenn jemand etwas Illegales auf ihrem Server postet, es sei denn sie bleiben untätig, wenn es ihnen gemeldet wurde. Es gibt auch Regeln, die für alle Online-Plattformen gelten auch für die Kleinen […] Ich denke, die Entwickler von Mastodon müssen ihre Software noch mal überarbeiten, damit man diesen Anforderungen gerecht werden kann. Dafür gibt es jetzt auch eine gewisse Zeit, die zur Verfügung steht.” 

Herr Breyer, vielen Dank für Ihre Antworten.  

Photo by Patrick Breyer

Das Erstarken autokratischer Strukturen, das schwindende Vertrauen in die demokratischen Strukturen und die Polarisierung der Gesellschaft sind Phänomene, die oft auf eine gemeinsame Ursache zurückgeführt werden: die Rolle der Sozialen Medien, und hier vor allem die Funktion der algorithmischen Auswahl von Inhalten. Mit dem Digital Service Act (DSA) hätte die EU die Gelegenheit gehabt, dieses Problem von Grund auf anzugehen. Doch es scheint, dass dieser Versuch gescheitert ist. Nachdem das EU-Parlament einen vielversprechenden Vorschlag für das Gesetz vorgelegt hatte, setzten sich Ende April 2022 im sogenannten “Trilog“, dem Abstimmungsprozess von EU-Parlament und Rat der Europäischen Union unter Moderation der EU-Kommission, vielfach die Interessen der Internetwirtschaft und der Regierungen durch. Das Ergebnis – und die Art und Weise, wie es zustande kam – sind Wasser auf die Mühlen der Kritiker und politischen Gegner des Staatenbundes. 

Der im Januar verabschiedete Entwurf baute auf einer Vorlage des Ausschusses für Binnenmarkt und Verbraucherschutz (IMCO) auf und war um einige wichtige Elemente erweitert worden. Dazu zählten etwa ein Recht zur anonymen Nutzung, auf Verschlüsselung oder auf eine Ablehnung von Überwachsungswerbung (“do not track”). Die NGO Civil Liberties Union for Europe bezeichnete den Entwurf als einen “wichtigen Sieg für das Recht auf freie Meinungsäußerung”.  

Von diesen Vorschlägen ist nicht viel übriggeblieben.  

Die Abstimmungen zum DSA waren von starken Interessen der Lobbygruppen der sozialen Plattformen und Internetfirmen geprägt. Sie schützen damit ihr Geschäftsmodell, das auf zwei Pfeilern basiert: einerseits der gezielten Werbung (aufbauend auf Anwender-Profilen), andererseits der möglichst starken Nutzung der Plattformen durch diese Nutzer, angefeuert durch algorithmische Selektion der aufmerksamkeitsstärksten Inhalte. 

Während der erste Teil dieser Gleichung zwar problematisch, aber durch Datenschutzgesetze wie die DSGVO in der EU in seinem Risiko abgemildert ist, birgt der zweite Teil sozialen Sprengstoff. In Forscherkreisen wird diskutiert, welche Auswirkungen es auf die Gesellschaft hat, dass dem Anwender algorithmisch gesteuert stets solche Inhalte präsentiert werden, die ein möglichst hohes Erregungspotenzial bieten. Ergebnisse legen nahe, dass dies besonders gut funktioniert mit solchen Botschaften, welche Angst oder Wut erzeugen. Gleichzeitig setzen Feedback-Prozesse ein, wodurch ein Anwender immer extremere Botschaften einer bestimmten Art bevorzugt. Schließlich sorgen Netzwerkeffekte dafür, dass sich durch diese Art der Steuerung und die Möglichkeiten der Vernetzung abgeschottete Gruppen bilden – ein Prozess der Polarisierung und Radikalisierung tritt ein. Plattformen ohne diese algorithmische Wahl zeigen ein geringeres Maß an Polarisation. Zusätzlich angefeuert wurde dieser Prozess in der Vergangenheit durch staatliche Akteure, die diese Faktoren gezielt ausnutzten und gezielt auf die Destabilisierung der freiheitlichen Demokratien hin arbeiteten. Nicht zuletzt deswegen bezeichnen Anastasia Kozyrev, Philosophin und Kognitionspsychologin, und der Kognitionspsychologie Stephan Lewandowsky den Kampf um eine transparentere, weniger manipulative Medienwelt als “die entscheidende politische Schlacht des 21. Jahrhunderts.” 

Wie gut wird der DSA diesem Anspruch gerecht? Zwar enthält der finale Entwurf eine Verpflichtung der großen Plattformen, regelmäßig Rechenschaft abzulegen und Maßnahmen gegen Disinformation zu ergreifen. Auch soll ein Notfallmechanismus der EU in Krisenfällen zeitlich begrenzt die direkte Einflussnahme ermöglichen. Zudem sollen die Plattformen auf Hinweise von staatlich ernannten, sogenannten “Trusted Flaggers”, hin illegale Inhalte entfernen.  

Ein weiterer Hoffnungsschimmer: nicht mehr die nationalen Regierungen werden zuständig sein für die Regulierung der großen Plattformen (was es den Lobbyisten leichter machte), sondern die EU–Kommission selber –die könnte den Einfluss der Interessengruppen dieser Internetgiganten zumindest ein wenig einschränken. 

Ein Lichtblick auch ist die Vorgabe, dass die großen Plattformen den Anwendern einerseits Auskunft über ihre Targeting- und Empfehlungsmethoden geben müssen und andererseits eine Möglichkeit einräumen, für sich einen Empfehlungs-Algorithmus zu wählen, der nicht auf dem durch Tracking erstellten Profil beruht. Doch ein wesentlicher Teil des Tracking- und Targeting-Markts, nämlich die Daten-Broker und Profiler außerhalb der Plattformen, bleibt davon unberührt. Auch das angestrebte Recht auf “Do not track”, also die Ablehnung aller Tracking- und Profiling-Aktivitäten durch den Anwender (etwa durch eine Browser-Einstellung), ist nicht vorgesehen.  

Von Interesse sind die Vorgaben des neuen Gesetzes in puncto Moderation und Löschung von Inhalten. Hier müssen wirksame Wege zur Meldung und ein Prozess zur schnellen Bearbeitung eingerichtet werden, sowie eine transparente Begründung der Entscheidung. Pikanterweise trifft dies auf soziale Medien aller Größenordnungen zu. Auch die dezentrale Plattform Mastodon ist davon betroffen, die auf einer Föderation zahlreicher kleinerer Instanzen basiert, die teils von Privatpersonen oder kleinen Vereinen betrieben werden. Auch sie müssen Wege finden, den gesetzlichen Ansprüchen trotz oftmals minimaler personeller Ressourcen gerecht zu werden.  

Das Inkrafttreten erfordert eine pro-forma-Zustimmung des EU-Parlaments, woraufhin der fertige Gesetzestext im Amtsblatt der EU erscheinen kann und nach 20 Tagen in Kraft tritt. Es bleiben dann eine Übergangsfrist von insgesamt zwölf Monaten, bis er wirksam wird. Damit wird Anfang 2024 gerechnet.  

Unser Autor hat zu diesem Thema mit MdEP Patrick Breyer (Piraten) gesprochen. Das Interview in voller Länge finden Sie hier.

Photo by Michał Jakubowski on Unsplash

Was war dieses schwerwiegende Urteil? Es geht um den Schutz persönlicher Daten durch die Europäische Datenschutzgrundverordnung EU-DSGVO. Das seit dem Jahr 2018 geltende Gesetz verpflichtet Unternehmen, die solche Daten speichern, zu deren Schutz, zur Rechenschaft darüber, was mit den Daten geschieht, unterbindet die unberechtige Weitergabe und gibt den Bürger*innen weitgehende Selbstbestimmung darüber, wem sie ihre Daten für welchen Zwecke geben – inklusive des Rechts der Löschung. Diese DSGVO (oder “GDPR”) ist eines der weitreichendsten, fortschrittlichsten Gesetze, die in diesem Bereich je erlassen worden sind.

Um es US-Firmen einfach zu machen, die persönlichen Daten von EU-Bürger*innen zu speichern und zu verarbeiten, vereinbarten die EU und die USA 2000 (lange vor der EU-DSGVO) das “Safe Harbour”-Abkommen. Es gab US-Unternehmen die Möglichkeit, sich mittels einer Selbstverpflichtung als den europäischen Datenschutzvorschriften konform zu erklären. Es wurde durch eine Klage des österreichischen Juristen Max Schrems 2015 vom EuGH für ungültig erklärt. Als Ersatz schlossen die EU und die USA das “Privacy Shield”-Abkommen, welches mit leichten Änderungen den gleichen Inhalt hatte. Es war vielen Kennern der Materie klar, dass es spätestens mit Inkrafttreten der DSGVO das gleiche Schicksal erleiden würde wie sein Vorgänger Safe Harbour. Im Urteil Schrems vs. Facebook II erklärte der EuGH Privacy Shield für unvereinbar mit europäischem Recht. Mehr noch: das Gericht machte klar, dass kein bilateraler Vertrag mit den USA das nötige Schutzniveau für die Daten von EU-Bürgern garantieren kann, solange die USA nicht ihre Geheimdienstgesetze wie den Cloud Act oder Fisa ändern. Diese gelten für alle US-Unternehmen und verpflichten sie, auf Anfrage sämtliche Daten zugänglich zu machen, auf die sie Zugriff haben.

Warum ist das von Bedeutung für Schulen in Deutschland? Es gibt zweierlei relevante Bereiche.

• Zum einen ist da der Digitalpakt. Er gewährt Schulen 5 Milliarden Euro an Fördermitteln für die digitale Ausstattung. Dies soll die digitale Teilhabe der Schüler ermöglichen, Digitalkompetenz vermitteln, kurz: die digitale Transformation des Unterrichts unterstützen. Ein Großteil dieses Geldes ist noch nicht ausgezahlt worden, da die Planung, Ausschreibung und Antragstellung aufwändig sind.
• Zweitens besteht das Problem des Remote-Unterrichts, den die Corona-Krise nötig gemacht hat. In einem schier unglaublichen Schub dezentraler Innovation haben Schulen in Deutschland innerhalb kürzester Zeit Lösungen aufgebaut, um ihren vom Lockdown betroffenen Schüler*innen zumindest eine Minimalversion von Unterricht zu erteilen. Das verlief weder reibungslos, noch sei hier bestritten, dass ein Großteil der entfallenden pädagogischen Arbeit auf die Schultern der Eltern abgeladen wurde. Im Gegenteil: dies belegt, dass es ein organisatorischer Kraftakt war, der nur gelingen konnte, indem an jedem Punkt erhebliche Zugeständnisse gemacht wurden.

Eines dieser Eingeständnisse war der Datenschutz. In der Not griffen Schulen auf jedes digitale Mittel zurück, das sich schnell und unkompliziert einsetzen ließ. Bedenken bezüglich der Sicherheit und Datensicherheit gerieten dabei ins Hintertreffen. Diese pragmatische Entscheidung wurde vielerorts gedeckt durch die Kultusministerien: Der Freistaat Bayern fällt durch eine besonders Microsoft-freundliche Politik auf. Erst Anfang August hatte er allen Schulen des Bundeslandes Microsoft Teams zur Nutzung zur Verfügung gestellt. Das US-Unternehmen hat seinen deutschen Hauptsitz übrigens in München, kaum 20 Minuten von der Staatskanzlei entfernt. Auch das Land Baden-Württemberg hatte im Mai die Microsoft-Cloud-Lösung Office 365 für Schulen zugelassen.

Weniger laut waren lange Zeit die warnenden Stimmen der Datenschutzbeauftragten. So schließt die Datenschutzbeauftragte des Landes Berlin Maja Smoltczyk für Zoom, Skype und Teams eine “rechtskonforme Nutzung des Dienstes aus […]” und bescheinigt ihnen unter anderem “Unzulässige Datenexporte”. Die Datenschutzkonferenz von Bund und Ländern (DSK) zeigt Microsoft ebenfalls die rote Karte. Darin fand sich die klare Empfehlung, Lösungen von US-Anbieter*innen wie Microsoft nicht zu verwenden. Das Land Bayern in Person seines Landesbeauftragten für den Datenschutz verzögert derzeit die Veröffentlichung des Berichts.

Aktuell herrscht eine Art Patt-Situation, was die Frage des Datenschutzes bei der Digitalisierung der Schulen angeht. Der EuGH hat die lange gehegten Bedenken der Datenschützer*innen bestätigt. Schulen und Kommunen bewegen sich auf dünnem Eis (es drohen Klagen von Eltern, Rückforderungen von Seiten des Bundes für Fördermittel). Die Kultusministerien scheinen zu hoffen, dass es so schlimm schon nicht kommen wird – Hauptsache, 2020 findet irgendeine Art von Unterricht statt.

Das ist eine pragmatische Herangehensweise – die Schäden, die Schüler*innen und der Gesellschaft durch den entfallenen Unterricht entstehen, sind erheblich. Man kann durchaus der Ansicht sein, dass der Datenschutz weniger schwer wiegt. Doch damit ignoriert man, dass es kaum sensiblere Daten gibt als jene, die im Schulbetrieb verwendet werden. Autoritäre Regimes könnten im Exil lebende Dissidenten damit überwachen. Krankenkassen könnten die Zahl der Fehltage nutzen, um Risikoprofile zu erstellen und gegebenenfalls chronisch kranke Menschen zu benachteiligen. Politische Parteien könnten den formellen Bildungsabschluss nutzen, um einzelne Schüler*innen gezielt mit Propaganda anzusprechen. Es ist eine Lehre der IT, dass jeder Datensatz irgendwann in die Öffentlichkeit gerät, und dass es immer jemanden gibt, der daraus Kapital schlägt. Gerade junge Menschen sollten davor geschützt werden, dass ihre Zukunft durch geleakte Daten beeinträchtigt wird.

Wie geht es weiter? Wir haben vermutlich noch einige Phasen von Remote-Unterricht vor uns. Selbst wenn die Schulen geöffnet bleiben – Lehrer*innen, die Risikopatient*innen sind, sind auf dieses Hilfsmittel angewiesen, um sich selbst zu schützen.

Doch es ist kaum anzunehmen, dass die Kultusministerien jetzt wegen Schrems II den Stecker ziehen und die mühsam provisorisch aufgebaute Lösung zum Einsturz bringen. Sie könnten hoffen, dass es keine Klagen von Bürger*innenseite geben wird, und politischen Druck auf die zuständigen Stellen ausüben, sich mit Rügen zurückzuhalten (so geschehen möglicherweise im Fall des Bayerischen Landesdatenschutzbeauftragten). Es könnte ausreichen, um den Winter 2020/2021 zu überbrücken. Doch spätestens dann muss das geltende Recht in eine klare Handlungsanweisung umgesetzt werden: Lösungen, die Cloud-Technologie von US-Anbieter*innen enthalten, sind für den Schulbetrieb nicht geeignet. Plattformen und Tools wie Teams, Zoom (oder gar Whatsapp) müssen spätestens dann außer Betrieb genommen werden.

Schon jetzt aber sollten die Kultusministerien entsprechende Richtlinien in die Vorgaben zu Projekten im Digitalpakt aufnehmen. Denn auch hier, wo es in erster Linie um Hardware geht, kommt Cloud-Technologie zum Einsatz. Vor allem die Konsolen zur Verwaltung, Steuerung und Wartung der eingesetzten Komponenten sind oft Cloud-basiert. Produkte aus den USA, aus China oder einem anderen Land, dass nicht auf der Empfehlungsliste der EU steht, dürfen nur dann verbaut werden, wenn keine Cloud-Technologie zum Einsatz kommt. Und selbst dann sollten die Schulen auf die No-Spy und No-Backdoor-Klauseln bestehen, welche etwa die EVB-IT (“Ergänzende Vertragsbedingungen für die Beschaffung von IT-Leistungen”) vorgibt.

Schrems II war ein Erfolg für die Sicherheit und die digitale Souveränität. In untypischer Manier haben Bund und Länder die Konsequenzen, die sich aus dem geltenden Recht ergeben, bisher weitgehend ignoriert. Das mag pragmatisch gewesen sein, darf jedoch nur ein Notnagel in der Corona-Krise sein. Es muss allen Verantwortlichen schon jetzt klar sein, dass ihnen 2021 heftige Nacharbeit sicher ist.

Photo by Austrian National Library on Unsplash

Die Covid-19-Pandemie hat zu erheblichen Einschränkungen der Grundrechte geführt, in Deutschland ebenso wie im Rest der Welt. Die Gründe dahinter sind nachvollziehbar: nach dem aktuellen Kenntnisstand steht das Leben von Millionen Menschen auf dem Spiel. Um die ungebremste Ausbreitung der Pandemie zu verhindern, hat die Bundesregierung Gesetze erlassen, die einige der Grundrechte aus dem Grundgesetz, Artikel 1 bis 20, außer Kraft setzen: so etwa die Versammlungsfreiheit, die Freizügigkeit und die Unverletzlichkeit der Wohnung. Nicht weniger einschneidend ist aber eine Maßnahme, die nicht im Text des Gesetz zur Abmilderung der Folgen der COVID-19-Pandemie im Zivil-, Insolvenz- und Strafverfahrensrecht enthalten ist. Es geht um die Monopolisierung der Information über das Corona-Virus und die Unterdrückung von Veröffentlichungen, die den Zielen der Bundesregierung zur Bekämpfung der Pandemie zuwider laufen.

Freiwillige Zensur der Social Media Unternehmen

Die Basis dafür ist der Verhaltenskodex zur Bekämpfung von Desinformation, eine freiwillige Verpflichtung der sozialen Medien aus dem Oktober 2018. In ihr verpflichten sie sich zu einer Reihe von Maßnahmen, etwa die Entfernung von Scheinkonten und die Begrenzung der Sichtbarkeit von Websites, die Falschnachrichten verbreiten. Im Rahmen dieser Vereinbarung haben die sozialen Netzwerke nun begonnen, tiefe Einschnitte in die Kommunikation ihrer Anwender vorzunehmen. Sie blockieren oder entfernen Posts, deren Inhalte von den Regierungen oder NGOs als Falschinformationen bezeichnet werden: “Die Inhalte, die wir entfernen, werden uns von führenden globalen Gesundheitsorganisationen und lokalen Gesundheitsbehörden gemeldet”, so ein Facebook-Sprecher.

Automatisierte Zensur im Namen der Regierungen, ohne Recht auf Einspruch

Die Zensurmaßnahmen sind dafür gedacht, Schaden von Menschen fernzuhalten. Sie sollen Werbung für schädliche oder wirkungslose Heilmittel für Covid-19 bekämpfen oder Behauptungen über die Krankheit bekämpfen, welche geeignet wären, die staatlichen Maßnahmen zu untergraben. Nun werden nur die extremsten Vertreter des Rechts auf freie Rede fordern, dass das Heil von Menschen diesem Recht nachrangig ist. Eine sorgsame Abwägung der Grundrechte wird dagegen zu dem Ergebnis kommen, dass angemessene Einschnitte in das Recht der freien Rede zugunsten des Rechts auf körperliche Unversehrtheit zulässig sind. Doch der Teufel steckt im Detail. Was bedeutet “angemessen”? Die Pandemie ist ein Forschungsgebiet mit vielen Unbekannten. Vieles ist nicht als Tatsache gesichert, was als Begründung der Maßnahmen dient. Welche Zweifel an der Faktenlage sind also gerechtfertigt, welche gelten schon als Desinformation, wo endet die zulässige Kritik an den Maßnahmen der Regierung? Diese Entscheidung ist eine, die sehr stark kontextabhängig ist. Es benötigt Fachwissen und Fingerspitzengefühl, diese Fragen zu beantworten. Leider können die sozialen Netzwerke diese sorgfältige Abwägung nicht leisten. So erklärt Facebook: “Mit dünner besetzten und räumlich getrennten Teams [infolge der Pandemie] werden wir verstärkt automatisierte Technologien einsetzen, um unzulässige Inhalte und Profile zu erkennen.” Mit anderen Worten: der Technologiekonzern verlässt sich vermehrt auf Algorithmen der Texterkennung, um Schädliches von Erlaubtem zu unterscheiden. Mit absurden Ergebnissen.

Brotbacken mit Obama als schädlicher Inhalt?

So berichten Facebook-Nutzer*innen etwa davon, dass die Plattform ihnen scheinbar harmlose Posts untersagt. So hat Facebook das Teilen des Artikels “Stress baking more than usual” der New York Times zeitweise unterbunden. Der an sich harmlose Text enthält einige politisch relevante Begriffe wie “Corona”, “Obama” und “Hillary Clinton”. Der Verdacht liegt nahe, dass diese Mischung genug war, um eine algorithmische Sperrung auszulösen. Bereits einige Tage zuvor hatte Facebook Fehler in der algorithmischen Zensur eingestanden und für behoben erklärt. Ein Facebook-Sprecher konnte auf unsere Anfrage hin die jüngste Blockade mehrere Tage später nicht nachvollziehen: “Wir konnten keine Auffälligkeiten feststellen und können den Artikel auf Facebook teilen.”

Nicht nur, dass der Algorithmus scheinbar unsauber arbeitet und seine Ergebnisse nicht einfach nachvollzogen werden können. Ein normaler Anwender hat aktuell nicht die Möglichkeit, eine fälschliche Sperrung zu reklamieren. “Wenn wir Inhalte entfernen, können Personen normalerweise eine erneute Überprüfung verlangen […] Angesichts unserer reduzierten Belegschaft [werden wir] Inhalte voraussichtlich nicht ein weiteres Mal überprüfen”, so der Facebook-Sprecher.

Eingriff in die private Kommunikation

Auch Whatsapp und der Facebook Messenger, beides Produkte des Facebook-Konzerns, unterdrücken in der aktuellen Situation Inhalte, die den offiziellen Richtlinien zuwiderlaufen. Durch verschiedene Maßnahmen hat Facebook erreicht, dass das Volumen weitergeleiteter Nachrichten um ein Viertel zurückgegangen ist. Genaue Zahlen, wie viele Nachrichten so unterbunden wurden, liegen dem Konzern nicht vor. Gleichzeitig verbreitet das Social Media Unternehmen massiv Veröffentlichungen der betreffenden Behörden. Insgesamt 100 Millionen Mal wurden “verifizierte und vertrauenswürdige Informationen [der] Weltgesundheitsorganisation (WHO) und mehr als 20 nationale[r] Gesundheitsbehörden” verbreitet. Auflagezahlen, die jedes Medienimperium vor Neid erblassen lassen.

Bestimmen auch Orban, Trump, Johnson und Bolsonaro?

Die sozialen Medien sind aktuell weniger ein Kanal des freien Austauschs, denn ein Massenmedium mit einer klaren Flußrichtung der Information von oben nach unten. Sie unterscheiden sich dabei wenig von Funk und Fernsehen. Mehr noch als zuvor werden sie damit interessant als Werkzeug für autoritäre Politiker, um demokratische Strukturen zu untergraben. Jetzt haben die Autokraten dieser Welt möglicherweise einen Weg erhalten, auch die sozialen Medien für diesen Zweck zu verwenden. Die Vorliebe des US-Präsidenten für Twitter ist bekannt, und es scheint, als ob ihm das soziale Netzwerk keine Beschränkungen auferlegt. So steht ein Tweet Trumps vom 21. März weiterhin online, in dem er den Wirkstoff Hydroxychloroquin als Kur für Covid-19 empfiehlt. Dies ist in medizinischen Kreisen umstritten. Trump schadet damit Patienten, die das Medikament für die Behandlung von rheumatoider Arthritis und des systemischen Lupus Erythematodes benötigen und nun aufgrund der plötzlichen Nachfrage nicht mehr erhalten können. Ebenso gefährdet dieser Hinweis das Leben von Menschen, die Trump beim Wort nehmen. So etwa zwei Menschen aus Nigeria, die sich mit dem Wirkstoff tödlich vergiftet haben. Die Richtlinien von Twitter würden diese Art von Tweet ausdrücklich verbieten. Sie untersagen etwa:

“Beschreibung angeblicher Heilmittel für für COVID-19, die nicht unmittelbar schädlich, aber bekanntermaßen unwirksam sind, [oder] Beschreibungen von schädlichen Heilmitteln oder Schutzmaßnahmen, die bekanntermaßen unwirksam sind.“

Diese Richtlinien wurden etwa angewandt, um Botschaften ähnlichen Inhalts von Brasiliens Präsident Jair Bolsonaro zu löschen. Es liegt nahe, dass Twitter für Trump einen anderen Maßstab anlegt – schließlich könnte er als Staatschef des Landes, in dem das Unternehmen seinen Sitz hat, direkte Strafmaßnahmen anordnen. Zudem hat mit dem Milliardär Paul Singer jüngst ein Unterstützer des US-Präsidenten einen großen Anteil an Twitter erworben. All das macht es dem Kurznachrichtendienst schwierig, den öffentlichen Diskurs als unabhänige Plattform zu gewährleisten. So vermutet die taz, dass etwa der Kampf gegen rechtradikale Inhalte und Nutzer zum Erliegen kommen könnte.

Eine besorgniserregende Intransparenz der Maßnahmen

Den Regierungen in den USA, in Russland, China und anderen wird aktuell vorgeworfen, die Fakten zur Pandemie zu verfälschen, um politisches Kapital daraus zu schlagen. Weder Facebook noch der Google-Konzern oder Twitter beantworteten Fragen, ob und wie sie politische Beeinflussung durch Regierungsquellen verhindern. Man darf darüber streiten, ob die aktuelle Lage es rechtfertigt, die öffentliche Diskussion so massiv zu beschneiden, wie es aktuell auf Facebook und anderen sozialen Medien geschieht. Man sollte selbst dann, wenn man diese Frage bejaht, mit größtem Misstrauen überprüfen, ob Regierungen oder andere Interessengruppen diese Zensur nicht für eigene Zwecke nutzen. Aktuell gibt es keine unabhängige Stelle, die darüber wacht. Die sozialen Medien haben dafür keinen Weg vorgesehen. Björn Grünewälder, Sprecher des Bundesministeriums des Innern, für Bau und Heimat bestätigt, dass “ein besserer Forschungszugang zu den Daten der Plattformen geboten ist, um die Verbreitung von Desinformation besser nachvollziehen und die Umsetzung des Verhaltenskodex besser überwachen zu können.” Die Einschränkung der Grundrechte und der Eingriff in die Kommunikation der Menschen sind beängstigende Entwicklungen. Sie sind möglicherweise völlig berechtigt, um im Zuge der Covid-19-Pandemie Leben zu retten. Gleichwohl ist es von höchster Wichtigkeit, durch Kontrolle und kritische Diskussion sicherzustellen, dass sie nicht für andere Zwecke missbraucht werden. Die Intransparenz, die gerade die sozialen Medien in diesem Punkt an den Tag legen, ist eine direkte Gefahr für die Demokratie.

Photo by: Kon Karampelas on Unsplash

Die Plattformen unternahmen damit auf eigene Initiative hin eine Zensur, und es dürfte sich kaum ein Kritiker dieses Schritts finden. Andere Plattformen wie 8chan ließen das Video online. Als Reaktion darauf entschlossen sich die großen Internet-Anbieter in Australien und Neuseeland, die betreffenden Plattformen zu sperren. Zugriff auf 8chan und andere war in diesen Ländern nur noch über Umwege möglich.

Dieser Schritt wiederum wurde kritisiert. Nicht nur die Verhältnismäßigkeit einer kompletten Sperrung der Plattformen wurde in Frage gestellt, sondern auch das Recht der ISP (Internet Service Provider), Inhalte zu zensieren. In Deutschland sperrte Vodafone jüngst auf Betreiben der GEMA einen ausländischen Anbieter urheberrechtlich geschützten Materials.

Doch welche Teile des Ökosystems Internet haben die Möglichkeit, aus eigenem Antrieb heraus bestimmte Inhalte oder Anbieter zu unterdrücken oder völlig zu blocken? Wann geschieht dies, und wie ist dieses Verhalten zu bewerten? Ein Blick auf verschiedene Szenarien des Deplatformings und verwandter Blocks

1. Totschweigen in den sozialen Medien

Facebook, Youtube, Instagram und Twitter unterdrücken inzwischen regelmäßig anstößige Inhalte. Dabei sind die entsprechenden Posts noch vorhanden, werden aber in Suchen oder in den Vorschlägen nicht mehr angezeigt. Beispiele sind Videos von Impfgegnern oder rechtsradikale Inhalte. Oft, aber nicht immer, werden diese Maßnahmen mit dem Verstoß gegen Nutzungsrichtlinien begründet.

Anwender können die betreffenden Inhalte weiterhin verlinken und weiterempfehlen, so dass zumindest die enthusiastischen Follower von dieser Maßnahme kaum betroffen sind.

2. Verbannen aus den sozialen Medien

Gerade im Fall von Aufrufen zu Gewalt und Hass durch rechtsradikale Accounts haben sich Facebook et al. in den letzten Monaten zur Löschung diverser Accounts entschlossen. Alex Jones Blog Inforwars ist eines der prominenten Beispiele. Erst Anfang des Monats verwies Facebook abermals zahlreiche kontroverse User des Netzwerks. Auch hier liegen meist Verstöße gegen Nutzungsrichtlinien zugrunde.

Anwender haben nur dann die Möglichkeit, die Botschaften der gesperrten Teilnehmer zu empfangen, wenn diese auf anderen Plattformen oder einer eigenen Website vertreten sind.

3. Stilllegen webbasierter Finanzierungsquellen

Im Falle von Infowars oder Impfgegnern setzen die Plattform-Betreiber immer wieder auch auf das Stilllegen der Finanzierungsquellen. Im Online-Ökosystem sind Spenden oder Merchandising-Käufe über Bezahldienste wie Patreon oder Paypal ein beliebtes Mittel, einzelne Produzenten zu finanzieren. Werden diese Kanäle (die bisweilen in der Hand der Social Media Plattform sind) von den Anbietern gesperrt, schadet das dem Produzenten empfindlich.

Alternativ können die Anbieter von Online-Werbung (auch hier sind die Social Media Anbieter selbst beteiligt) einzelne Seiten aus dem Anzeigengeschäft ausschließen, und so eine weitere Finanzierungsquelle trockenlegen. In der Vergangenheit waren rechtsradikale Blogs wie Breitbart oder Impfgegner betroffen – oftmals auf Druck der Anzeigenkunden hin.

4. Entzug von Webspace

Selbst wenn ein Produzent umstrittener Inhalte einen eigenen Blog oder eine eigene Website verwendet, greift er dafür oft auf Webspace der großen Cloud-Anbieter zurück. Diese könnten den Vertrag mit ihm kündigen und die betreffenden Inhalte digital “heimatlos” machen – so geschehen mit dem Netzwerk gab.ai. Es steht jedem Teilnehmer des Internets offen, einen eigenen Webserver zu installieren, auf dem die Inhalte gehostet werden. In den meisten Fällen dürfte dies das technische Know-How und die zeitlichen Ressourcen für Pflege und Wartung aber übersteigen.

5. Entzug von DNS-Verweisen

Der DNS ist eine Art Adressbuch des Internets, der eine URL in die IP-Adresse des jeweilige Anbieters übersetzt. DNS-Provider sind private Unternehmen, denen es freisteht, Kunden zu akzeptieren oder zu kündigen. So kündigte der Anbieter Godaddy vor kurzem der rechtsradikalen Seite altright.com. Findet sich kein anderer DNS-Provider, sind die betroffenen Seiten nur noch über ihre IP-Adresse zu erreichen. Ein mühsamer Weg, der den Traffic empfindlich senken dürfte.

6. Blockierung im Netz

Das schärfste Mittel, eine Seite oder einen Produzenten von Inhalten mundtot zu machen, sind Sperren auf der Netzebene. Zugriffe auf bestimmte Inhalte oder Seiten werden dabei vom Internetanbieter komplett geblockt. Die oben erwähnten Beispiele belegen, dass die rechtliche Grauzone bereits heute unter verschiedenen Szenarien dazu einlädt, eine digitale Totalzensur einzurichten. In beiden Fällen haben die Internet-Provider ohne rechtlichen Zwang Maßnahmen ergriffen, die vermutlich auf Basis bestehenden Rechts von einem Richter angeordnet worden wären. Aber der vorauseilende Gehorsam macht viele Netzaktivisten nervös. Es ist heute kein absurder Gedanke, dass die nächste Regierung oder der nächste CEO eines großen Tech-Unternehmens autoritäre Tendenzen hat. Die digitale Zensur könnte dann schnell zu einem Mittel des Machterhalts werden, der an das chinesische Modell erinnert.

Die Digitalisierung der Redefreiheit

Alle oben beschriebenen Maßnahmen rühren an eines der wichtigsten Prinzipien der freiheitlichen demokratischen Ordnung: der Redefreiheit. Weniger stark im Falle der Punkte 1-3: es sind hier private Unternehmen, die ein eigenwirtschaftliches Interesse haben. Sie geben in erster Linie dem Druck ihrer Anwender nach, schädliche Inhalte zu tilgen und Akteure zu verbannen. Auch wenn Facebook und Youtube weitgehende Monopole innehaben, ist gegen diesen digitalen Hausputz grundsätzlich nichts einzuwenden. Selbst im Falle des Entzugs von Webspace (Punkt 4) kann man noch argumentieren, dass ein privater Anbieter von technischer Infrastruktur das Recht hat, seine Dienste verschiedenen Kunden vorzuenthalten. Man gerät aber damit an die Grenzen der Diskriminierung: warum sollte ein Bäcker verpflichtet sein, entgegen seiner religiösen Überzeugung Hochzeitstorten für gleichgeschlechtliche Paare zu backen, ein Webspace-Anbieter aber Kunden verweigern dürfen, die seinen politischen Ansichten widersprechen? Es kommt hier auf den Einzelfall an – aber damit ein Geschädigter Gerechtigkeit einfordern kann, muss die Sachlage justiziabel sein.

Als Faustregel für alle privaten Maßnahmen gegen einzelne Anbieter oder Inhalte könnte gelten: wenn ein verbannter Teilnehmer weiterhin die Möglichkeit hat, sich mit eigenen Mitteln zu helfen (eigener Webserver, eigene Bankverbindung), ist der digitale Boykott nicht zu beanstanden. Die positive Redefreiheit ist nicht im gleichen Maße einklagbar wie die negative Redefreiheit.

Anders bei der Blockade oder der Zensur auf Infrastrukturebene: bei DNS-Verweis und Datenverkehr sollten sehr strenge Maßstäbe angelegt werden, bevor ein privates Unternehmen einzelne User blockieren darf. Hier sind oft keine Alternativen verfügbar – die negative Redefreiheit wird dadurch direkt verletzt. Eine richterliche Anordnung sollte deswegen grundsätzlich erforderlich sein. Sowohl im Falle des Attentäters von Christchurch als auch des Anbieters GEMA-geschützten Materials war dies nicht erfolgt.

Offenbar weist die Rechtsprechung hier eine gefährliche Lücke auf: nicht nur werden die Bürger unzureichend vor dieser privaten – und willkürlichen – Zensur geschützt. Es fehlen auch Mechanismen, um gerechtfertigte Ansprüche (wie im Falle des Terrorvideos) schnell genug umzusetzen um den Schaden zu verhindern, den sie anrichten: es fehlt, kurz gesagt, eine Charta der digitalen Redefreiheit.

Titelbild: DOE Completes Cleanup of Transuranic Waste at Berkeley Lab by United States Department of Energy, Public Domain, via Wikicommons

Doch wieso haben Falschnachrichten eine so starke Wirkung? Das Internet als Recherchequelle macht es einfacher denn je, Wahrheit und Lüge zu unterscheiden. Die aktuelle Entwicklung scheint den entgegenzulaufen. Die Kommunikations- und Medienwirkungsforschung hat sich zum Ziel gesetzt, dieses Rätsel zu lösen. Ergebnisse aus der Psychologie und der Beobachtung von Fake-News-Strategien rechtsradikaler Akteure werfen nun neues Licht auf die Wirkungsweise der Fake News.

Der Bullshit-Rezeptor

Es gibt ein Persönlichkeitsmerkmal, das in der Psychologie gerne mit der Empfänglichkeit für Fake News assoziiert wird: die sogenannte “pseudo-profound bullshit receptivity”. Dieser Wert gibt an, mit welcher Wahrscheinlichkeit ein Mensch einer zufällig generierten Wortfolge einen Sinn zuschreibt (Beispiele finden sich hier und hier). Es wird angenommen, dass das menschliche Vermögen zur Mustererkennung hier eine Rolle spielt. In der Tat zeigt sich auch jenseits der Sprache, dass Menschen mit hoher Bullshit-Affinität in zufällig generierten Bildern mit höherer Wahrscheinlichkeit ein Muster entdecken. Die Anfälligkeit für Bullshit ist also nicht nur ein Zeichen mangelnder Medienkompetenz oder Intelligenz. Im Gegenteil: es ist die Kombination eines starken Talentes zur Mustererkennung, allerdings ohne die Fähigkeit, falsch positive Ergebnisse auszuschließen.

Ein Team von Wissenschaftler der University of Regina und des MIT haben nun untersucht, welcher Zusammenhang zwischen der Empfänglichkeit für Bullshit und für Fake News besteht. Die Ergebnisse legen nahe, dass vor allem Menschen mit hoher Bullshit-Affinität Fake News Glauben schenken und sie weiterverbreiten:

Wer zufällig generierten Wortfolgen mit höherer Wahrscheinlichkeit einen Sinn zuschreibt,

• glaubt auch häufiger Fake News.
• ist weniger gut in der Lage, Fake News und korrekte Nachrichten zu unterscheiden.
• ist eher bereit, News-Inhalte zu teilen (gleich ob Fake oder korrekt)
• (und, so eine andere Studie: ist weniger wohltätig)

Die Psychologie der Fake News

Welche anderen Erkenntnisse zur Psychologie der Fake News gibt es noch?

• Menschen, die ihren eigenen Wissensstand überschätzen, glauben häufiger Fake News.
• Wer besser in der Lage ist, kritisch zu denken, glaubt seltener Fake News.
• Wiederholtes Lesen einer Fake-News-Schlagzeile erhöht die Wahrscheinlichkeit, dass man sie für glaubhaft hält (das Gleiche gilt auch für korrekten Nachrichten, und sogar dann, wenn man sich nicht an das erste Lesen erinnert.)

Es gibt zudem Hinweise darauf, dass die Anfälligkeit für Fake News weniger von deren Übereinstimmung mit den eigenen politischen Ansichten zusammenhängt, als mit einem Mangel an kritischem Denken: wer besser bei Tests zum kritischen Denken abschneidet, glaubt mit geringerer Wahrscheinlichkeit auch solche Fake News, die seine Weltanschauung bestätigen.

Die Funktionsweise von Fake News

Es ist wenig überraschend, dass die Verbreiter von Fake News die oben genannten Mechanismen gezielt ausnutzen. Erfolgreiche Fake News Kampagnen sind auf die oben erwähnten psychologischen Effekte zugeschnitten. Medienforscher identifizieren dabei folgende Taktiken:

• Psychologisch: Wiederholung. Das beständige Wiederholen der immer gleichen Botschaften, egal wie oft sie unwidersprochen widerlegt wurden.
• Technisch: Algorithmische Effekte (Trending Topics) durch Koordination. Funktionen wie “Trending Topics” führen dazu, dass durch die kurzfristige Häufung von Nachrichten zu einem Thema dieses von den Algorithmen der sozialen Netzwerke aktiv weiter verbreitet wird. So sollen etwa Anhänger der AfD generalstabsmäßig Kampagnen planen, um ihre Themen in die Öffentlichkeit zu heben.
• Bots: Ein Werkzeug sowohl zur Wiederholung als auch zur Koordination.
• Emotionalisierung gegen Reflexion: Emotionen behindern das kritische Denken kurzfristig. Lange genug, dass ein User ein Fake-News-Posting teilt. Dies wird auch durch den Einsatz von Bildern unterstützt: Bilder sind ein höchst effektives Werkzeug der Emotionalisierung und leicht zu fälschen. Zudem sind die Algorithmen der sozialen Netzwerke so programmiert, dass sie Bilder bei der Verbreitung bevorzugen.

Der Umgang mit Fake News

Wie kann man dem Problem der Fake News begegnen? Sowohl staatliche als auch privatrechtliche Akteure und natürlich die Anwender selber haben verschiedene Optionen. Zensurgesetze sind in autoritären Staaten beliebt (und mit dem NetzDG haben sie auch in Deutschland einen kleinen Bruder bekommen). Die EU hat sich bisher zu einem weniger aggressiven Vorgehen entschlossen und setzt auf Koordination, Aufklärung und eine Selbstverpflichtung der Plattformbetreiber. Diese unternehmen mittlerweile zunehmend Schritte gegen Fake News – auch, weil sie befürchten selber unter das Presserecht gestellt zu werden, und damit für Falschinformationen haftbar gemacht zu werden. Dies wäre eine parallele Entwicklung wie die zum Urheberrecht, wo den Plattformbetreibern Strafen drohen, wenn sie zulassen, dass geschützte Inhalte unlizenziert auf ihren Plattformen stehen.

Eine der vielversprechendsten Maßnahmen ist der Einsatz von Fact Checkern. Die dpa hat jüngst von Facebook das Mandat erhalten, als zweiter Fact Checker in Deutschland Falschnachrichten als solche auszuweisen.

Schließlich haben die User der sozialen Netzwerke die Möglichkeit, durch Protest und Boykott Schritte der Plattformen zu erzwingen. Viele der Maßnahmen, mit denen die sozialen Netzwerke in jüngster Zeit gegen rechtsextreme und populistische Angebote vorgegangen sind, dürften wesentlich durch den Druck der User zustande gekommen sein.

Doch wie effektiv sind diese Maßnahmen, und wie stark beschneiden sie den öffentlichen Diskurs und Grundrechte wie die Meinungsfreiheit?

Fact Checking

Allgemein bestehen Zweifel daran, ob man dem Problem der Fake News durch Korrektur und Richtigstellung Herr werden kann. Manche Studien zeigen, dass fundierte Gegendarstellungen keinen Effekt haben, wenn es darum geht, eine irrige Annahme zu korrigieren. Vor allem im politischen Bereich droht, dass der Fact Checker oder das Netzwerk von Usern als parteiisch wahrgenommen werden und ihre Versuche deswegen wirkungslos bleiben. Ihr Effekt ist im besten Falle schwach.

Dennoch sind die Diskussion über Falschmeldungen, die Frage, wer von ihrer Verbreitung profitiert und ihre Richtigstellung wichtig. Nicht dadurch, dass sie eine falsche Ansicht korrigieren (was wie gesagt zweifelhaft ist), sondern weil sie ein gelebtes Vorbild für Medienkompetenz sind. Ein User, der so mit der Frage konfrontiert wird, wer welche News mit welcher Motivation fälscht oder verfälscht darstellt und wie man den Wahrheitsgehalt prüfen kann, wird dadurch für eben diese Fragen sensibilisiert. Er entwickelt unwissentlich und unwillentlich die Werkzeuge, die ihn selbst weniger anfällig machen für die nächsten Fake News.

Einen eingefleischten Verschwörungstheoretiker wird selbst diese Fähigkeit nicht mehr erreichen. Das Ziel ist aber ein anderes: zu verhindern, dass das Lager der Populisten und Faktenverweigerer nicht weiter anwächst. Wie jeder Hype wird auch dieses Phänomen sich dann früher oder später totlaufen.

Bühne und Sprachrohr

Fake News sind ein Werkzeug politischer (und wirtschaftlicher) Akteure. Die Meinungsfreiheit gebietet es, sie nur im Extremfall zu unterbinden (bei strafrechtlich relevanten Inhalten etwa, und teilweise auch im Falle von staatlicher Propaganda). Das bedeutet jedoch nicht, dass ihnen private Organisationen eine Bühne einräumen oder ihre Botschaft verbreiten müssen. Zwar haben die sozialen Netzwerke ein wirtschaftliches Interesse daran, das zu tun. Sie haben aber in der letzten Zeit dem öffentlichen Druck nachgegeben und Maßnahmen ergriffen, Fake News zu bekämpfen. Auch durch die algorithmische Deselektion von Fake News-Inhalten und -Akteuren. Deren Nachrichten sind nach wie vor auffindbar, werden aber quasi nur noch auf gezielte Suche hin angezeigt. Ein normaler User wird sie in seiner Timeline nicht mehr zu sehen bekommen.

Ähnlich wie beim Fact Checking lassen sich die eingefleischten Fans von Fake News-Quellen dadurch nicht abhalten. Es lässt sich aber verhindern, dass sie ungehindert Nachwuchs bekommen. Leider sind die Maßnahmen nur teilweise aktiv: Zwar haben Fake News Inhalte 80 Prozent ihrer Reichweite eingebüßt, dafür dauert es bis zu drei Tage, bis ein Fake News Post als solcher erkannt und unterdrückt wird. In Social Media-Begriffen eine Ewigkeit.

Fazit

Das System Fake News funktioniert, weil psychologische Mechanismen und technische Möglichkeiten in Kombination eine starke Wirkung auf das Weltbild haben können. Es muss einer freiheitlichen und demokratischen Gesellschaft daran gelegen sein, weder die freie Ausübung der Kommunikation zu stark zu beschränken noch zu versuchen, das Denken unserer Mitmenschen mit Gewalt zu ändern.

Gleichzeitig ist es die Aufgabe der Gesellschaft, jedem einzelnen faktenbasierte Urteile zu ermöglichen. Dazu sind Bildung und Zugang zu relevanten Informationen zentral wichtig. Die Schulpflicht ist nicht zuletzt deswegen weitgehend unumstritten, selbst wenn sie die Wahlfreiheit von Eltern und Kindern begrenzt.

Parallel darf es auch beim Zugang zu relevanten und korrekten Informationen staatliche Vorgaben geben. Dort, wo die technologische Verbreitung von Fake News es faktisch unmöglich macht, sich mit allgemein akzeptierten und wissenschaftlich begründeten Fakten auseinander zu setzen (man denke an die Impfdebatte), ist ein Eingreifen nicht nur möglich, sondern auch nötig. Eine Zensur im Sinne des NetzDG ist dennoch der falsche Weg. Der algorithmische Entzug der Megaphons, mit dem Verschwörungstheoretiker und Populisten neue Anhänger rekrutieren, ist dagegen ein geeigneter.

Titelbild: alone-4008607_1920 via pixabay 

Selten hat ein Gesetzesvorschlag eine so heftige Reaktion ausgelöst wie der zur Reform des Urheberrechts. Dieser “Richtlinie des Europäischen Parlaments und des Rates über das Urheberrecht im digitalen Binnenmarkt” wird etwa von Oliver Süme vom eco-Verband der Internetwirtschaft unterstellt, “das Internet kaputt zu filtern”. Da sie quasi zwingend die Einführung von Uploadfiltern für geschützte Inhalte nach sich zieht, gilt sie vielen als Instrument staalicher Zensur. Doch der Alarmismus ist übertrieben. Im Gegenteil: die Reform könnte das Ökosystem Internet dezentralisieren und damit aus dem Griff der “Big Five” befreien.

Was steht drin? Filtern bei den großen Plattformen

Ohne die Warnungen vor einer hypothetischen Ausweitung der Filter (siehe hierzu eine hervorragende Abhandlung auf Literaturcafe.de) völlig ausschließen zu wollen: der Gesetzentwurf betrifft nur “Online Content Sharing Service Provider” – also Plattformen wie Youtube, Facebook oder Twitter. Sie müssen künftig garantieren, dass kein urheberrechtlich geschütztes Material auf ihre Server geladen und bereit gestellt wird. Alternativ müssen sie einen Vertrag über die Lizenzierung dieser Inhalte nachweisen. Neu ist hierbei, dass sie gezwungen sind, präventiv tätig zu werden. Das ist de facto nur über automatische Sichtung und gegebenenfalls Blockierung von Uploads möglich: den gefürchteten Uploadfilter.

Diese Filter existieren bereits (etwa in Form von Youtubes “Content ID”), und sie sind bereits im Einsatz. Den genauen Umfang oder ihre Funktionsweise kennen wir nicht. Die Big Five sind Privatunternehmen, die uns – ihrem Publikum – keine Rechenschaft schuldig sind. Erfahrungen der Vergangenheit zeigen aber, dass Inhalte meist ohne Angabe von Gründen blockiert werden und von einem normalen User nicht sinnvoll moniert werden können.

Wen treffen die Uploadfilter, und wen nicht?

Wenngleich nicht namentlich benannt, richtet sich die EU-Richtlinie an Facebook, Youtube, Twitter, Instagram et al. Dienste, die ihren Benutzern die Möglichkeit geben, Inhalte hochzuladen und bereit zu stellen:

“[Ein] Anbieter von Informations-Gemeinschaftsdiensten, deren hauptsächlicher oder einer der hauptsächlichen Zwecke es ist, große Mengen an Werke oder andere Inhalte zu speichern und öffentlich zur Verfügung zu stellen, die von seinen Usern hochgeladen werden, und die er zum Zwecke der Gewinnerzielung organisiert und anbietet.”

(“provider of an information society service whose main or one of the main purposes is to store and give the public access to a large amount of works or other subject-matter uploaded by its users which it organises and promotes for profit-making purposes”), siehe Artikel 2 Absatz 5

Nicht betroffen von der Pflicht zur Filterung sind alle Plattformen, Personen oder Dienste, die nicht unter die entsprechende Definition fallen: Blogs, Websites, Messenger oder E-Mail.

Links bleiben unbetroffen

Ebenfalls nicht betroffen sind Links zu Inhalten, auf die sie verweisen. Ein Video zu einem Blog sollte auf Facebook ohne weiteres verlinkbar sein, ebenso die Schlagzeile einer News-Meldung, ein Meme, Fake News oder politische Brandschriften. Zu klären wäre, in welchem Rahmen Vorschaubilder zulässig sind oder wieviel von einem verlinkten, geschützten Text, zitiert werden darf. Die aktuelle Empfehlung von 70 Zeichen Headline und einem kurzen Anreißer von 155 Zeichen dürfte als Richtlinie gelten.

Warum die Urheberrechtsreform?

Mit der aktuellen Reform will die EU das Geschäftsmodell der Big Five abschaffen: groß geworden waren sie als leidenschaftslose Anbieter von User-generierten Inhalten. Dass dabei urheberrechtlich geschützte Werke eine große Rolle gespielt haben, störte nicht. Die Rechtmäßigkeit, die Korrektheit, die gesellschaftlichen Auswirkungen dieser Inhalte sind nicht relevant.

Was geklickt wird, wird per Algorithmus weiter verbreitet. Dass die Plattformen in der Zwischenzeit quasi Verlagshaus (Amazon eBooks) und TV-Anbieter (Youtube) geworden sind, hat diesem Ansatz keinen Abbruch getan. Noch Anfang 2018 bestand Mark Zuckerberg darauf, dass Facebook nichts mit einem Medien- oder Presseunternehmen gemein hätte. Nur widerwillig haben die Big Five in den letzten Jahren begonnen, Verantwortung für ihre Rolle zu übernehmen. Sie beginnen, die Botschaften von Impfgegnern totzuschweigen, russische Troll-Armeen zu blockieren, oder die schlimmsten Rassisten zu verbannen.

Das Urheberrecht vs. das Geschäft mit Social Media

Der Grund für das Zögern der Big Five liegt darin, dass diese Einschränkung der User dem Grundgedanken eines Social Media Netzwerkes widerspricht. Alles, was den Anwender in seiner Freiheit beschneidet, zu posten was er will, beschädigt die Plattform. Sie lebt von dieser Interaktion. Gesetze können dabei nur stören, und das ist der Grund, warum es so schwer ist, falsche, verleumderische oder eben das Urheberrecht verletzende Inhalte von der Plattform zu entfernen. Es ist kein Versäumnis seitens der Plattformbetreiber, es ist ein Kollateralschaden der Geschäftsphilosophie.

Der Untergang für Kreative?

Gleichzeitig haben die Plattformen eine Marktmacht entwickelt, die sie quasi zu Monopolisten macht. Keine Marketingstrategie kann heutzutage noch ohne Facebook funktionieren. Zeitungen, Verlage, Musiker, Künstler – sie alle generieren einen großen Teil ihres Geschäfts über die sozialen Medien. Ihnen droht jetzt Ungemach: wenn sie ihre eigenen Werke dort promoten wollen, könnten sie durch einen Uploadfilter ausgebremst werden. Den Nachweis, dass sie als Rechtinhaber berechtigt sind, ihre eigenen Werke dort zu zitieren oder in Gänze zur Verfügung zu stellen, müssten sie selber bringen. Das ist zeitaufwändig, und übersteigt die Mittel der meisten kleinen Verlage, Unternehmen oder Künstler.

Der Untergang der öffentlichen Debatte?

Ähnlich, so die Befürchtung, dürfte es in anderen Fällen sein, wo urheberrechtlich geschützte Werke im Rahmen der Kunstfreiheit, des wissenschaftlichen Diskurs oder anderer Ausnahmen zum Urheberrecht geteilt werden. Auch hier könnte der Filter streng unterbinden, was ein wertvoller und legitimer Beitrag zur öffentlichen Debatte wäre. Auch hier läge die Nachweispflicht beim User, und auch hier steht zu befürchten, dass der große Aufwand sich nicht lohnt. Die Folge: ein Veröden der öffentlichen Debatte. Doch es droht noch Schlimmeres.

Zensur?

Viele Beiträge zum Thema des neuen Urheberrechts warnen vor staatlicher Zensur mit dem Uploadfilter. Einmal eingerichtet, könnte er zur Unterdrückung unliebsamer politischer Botschaften verwendet werden. Die Beschränkung der Filter auf die sozialen Netzwerke könnte nur der erste Schritt sein, später jede Art der Kommunikation zu filtern. Diese Ängste sind ernst zu nehmen. Es sind in den letzten Jahren mehrere autoritäre Potentaten aus demokratischen Systemen erwachsen. Sie könnten einen Uploadfilter wie oben beschrieben ausweiten und missbrauchen.

Doch das Argument, so bedrohlich auch seine Implikation, ist schwach. Eine diktatorische Regierung könnte schon jetzt Uploadfilter einführen. Die Technologie existiert bereits. Doch sämtliche Kommunikation zu politischem Zweck zu überwachen und zu filtern, stellt verfassungstechnisch eine ganz andere Problematik dar als die selektive Kontrolle bestimmter Inhalte auf bestimmten privaten Plattformen.

Im Fall der Uploadfilter, wie sie jetzt geplant sind, geschieht eine Abwägung der Rechte: das Recht am geistigen Eigentum gegenüber dem Recht der freien Meinungsäußerung in einem eindeutig beschränkten Rahmen. Würden die Filter zur Zensur auf allen Kanälen und zu einem anderen Zweck eingesetzt, entfällt die Rechteabwägung. Es gibt kein Recht der Regierung, sich gegen andere Meinungen zu schützen. Das Horroszenario vieler Kritiker wäre vermutlich nicht grundgesetzkonform. Die wichtigste Hürde, die uns schützt, ist also nicht die technische Machbarkeit, sondern der politische Wille. Wenn dieser fehlt, wenn wir also einen entsprechenden Griff nach den Grundrechten nicht unterbinden, dann rettet uns auch nicht, dass die Uploadfilter bisher nur ein Hobby der Big Five und rechtlich nicht bindend waren.

Keine Angst vor der Veränderung

Die Uploadfilter in ihrer aktuellen Form sind also kein kleiner Big Brother. Sie bedeuten auch nicht das Ende der kleinen Verlage, Künstler oder Redaktionen. Wer Angst hat vor der Machtlosigkeit der Kreativen gegenüber dem Uploadfilter, der verkennt, dass die sozialen Netzwerke davon leben, ihren Anwendern das Posten leicht zu machen. Facebook et al. dürften alles daran setzen, den Einspruch gegen automatische Filter-Blockaden in Zukunft zu erleichtern – eben weil diese Inhalte das Herzblut darstellen, das durch die Adern der sozialen Netzwerke fließt.

Zudem unterbindet der Filter nicht die Kommunikation mit geschützten Inhalten wie Memes, die auf Basis von Fotos aus Filmen oder Nachrichten entstehen. Er verhindert nur, dass die geschützten Inhalte auf Facebook-Servern liegen. Wer ein Werk teilen will und sich sicher ist, damit nicht gegen das Urheberrecht zu verstoßen, kann es weiterhin publizieren – in seinem Blog oder auf seiner Website. Dank der Impressumspflicht kann ein Rechteinhaber ihn im Zweifelsfall identifizieren, die Löschung verlangen oder Lizenzgebühren eintreiben. Wegen Bagatellfällen dürfte mithin keiner der Rechteinhaber den Weg vor ein Gericht gehen – kleine, private Anwender dürften quasi “unter dem Radar fliegen” – auch weil das Gesetz zur Abmahnung bei Urheberrechtsverstößen seit seiner Novellierung 2013 das Geschäftsmodell des Abmahnanwalts unrentabel hat werden lassen.

Hierin liegt zudem die größte Chance für Urheber, aber auch für die Gesellschaft. Das neue Gesetz wird die Marktmacht der sozialen Plattformen erheblich beschneiden. Es wird dazu führen, dass andere, dezentrale Wege der Verbreitung stärker verwendet werden. Aus einem Internet-Volk der Facebook-User könnte eine demokratische Gesellschaft der Selbst-Veröffentlicher werden. Ein eigener Blog mit WordPress ist in einer halben Stunde aufgebaut. Technologien wie Newsletter und RSS, die im Zeitalter von Facebook in Vergessenheit zu geraten drohen, würde neues Leben eingehaucht. Auch die Rolle der Messenger wird dabei gestärkt. Schon heute ist Whatsapp in vielen Ländern im Vergleich zu Facebook der wichtigere Kanal. Die dezentrale Natur der persönlichen Netzwerke, die hier aufgebaut werden, macht die Kommunikation zudem noch schwerer zu kontrollieren. Aus Sicht der freien Rede und des gesellschaftlichen Diskurs ein weiterer Vorteil. (Siehe hierzu auch Simon Hurtz Essay in der Süddeutschen“Das freie Netz stirbt vor unseren Augen”).

Weg mit dem vermittelten Kontakt zum Publikum

Auch aus Marketingsicht stärkt das die Position der Kreativen. Ein Facebook-Like auf der Page eines Künstlers, Musikers oder Unternehmens ist heute nicht mehr viel wert. Die organische Reichweite der Posts auf der Plattform geht gegen Null. Man kommt nicht darum herum, die Plattform zu nutzen, um gefunden zu werden. Aber jede Ansprache des eigenen Publikums muss über Sponsored Posts geschehen und kostet teures Werbegeld. Der direkte Kontakt zum Kunden ist dem vermittelten Kontakt gewichen.

Viel wertvoller ist dagegen ein RSS- oder Newsletter-Abonnent. Hier ist der Dialog von Anbieter zu Publikum direkt. Ein Autor, der ein neues Buch promoten will, eine Band, die ein neues Video hat – sie erreichen alle ihre Fans mit einer E-Mail oder einen neuen Post – und nicht nur die 2 Prozent, denen Facebooks Algorithmus die Nachricht anzeigt.
Fazit: Die Reform des Urheberrechts bekämpft die Zentralisierung der Kommunikation. Gut so!

Mit ihrem Entwurf eines neuen Urheberrechts will die EU die Position von Kreativen und Verlegern stärken. Im Zeitalter der digitalen Transformation konnten Ihre Rechte bisher nicht geschützt werden. Die großen sozialen Netzwerke sind als Parasiten dieser Entwicklung groß geworden. Heute tragen sie einen überwiegenden Anteil der öffentlichen Debatte – aber sie gestalten ihn nach ihrem Gutdünken und ohne Rechenschaft dafür ablegen zu müssen.

Durch ihre Maßnahmen zum Schutz der Urheber erreicht die EU also viel mehr: sie entzieht Youtube, Facebook et al. eines ihrer wichtigsten (illegitimen) Standbeine und zwingt sie, Verantwortung für die Inhalte zu übernehmen, durch die sie Geld verdienen. Das ist in jeder Hinsicht zu begrüßen. Nicht nur im Bereich des Urheberrechtsschutzes, sondern in allen anderen Bereichen auch.

Dass die technische Infrastruktur dazu auch für unlautere, ja diktatorische Mittel missbraucht werden könnte, ist korrekt. Aber die Technologie existiert ohnehin schon, sie ist bereits im Einsatz. Es ist allein unser politischer Wille, der verhindert, dass sie zu den falschen Zwecken eingesetzt wird. Ihre Verwendung zum Schutz der Rechte von Kreativen und Produzenten ändert daran nichts. Im Gegenteil: wenn sie dazu beiträgt, die monolithische Position der Big Five im öffentlichen Diskurs zu begrenzen, stärkt sie quasi als Nebenwirkung den freien öffentlichen Diskurs.

Dieser sogenannte “Staatstrojaner” wurde von den beiden Privatunternehmen DigiTask (Version von 2011) und Gamma International (aktuelle Version, FinFisher, ein deutsch-britischer Exportschlager) entwickelt. Er ist die Antwort der Regierung auf den Trend zur Verschlüsselung, der nach den Enthüllungen Edward Snowdens über die weitreichenden Aufklärungs- und Spionageaktionen der US-Behörde NSA aufgekommen war.

Vorausgegangen waren Klagen von Polizei und Innenministerium, dass ihre Überwachungsmaßnahmen ins Leere laufen: die seit Jahren verankerte Befugnis zum Abhören von Telefonaten und dem Abfangen von SMS würde von Kriminellen und Staatsfeinden unterlaufen. Der Staatstrojaner (dessen erste Version im Jahr 2011 gestoppt wurde, da der Chaos Computer Club gezeigt hatte, dass er unsicher war und in seinen Spionagefähigkeiten über das Erlaubte hinaus ging), so das Verständnis der Regierung, stellt also nur den Status Quo wieder her, der durch die technische Innovation im Bereich Kryptographie aus dem Lot geraten war. (Es soll an dieser Stelle angemerkt sein, dass die Polizei in ihrer jährlichen Statistik der Online-Überwachung auch 2015 einen deutlichen Anstieg der Fälle anzeigte. Die Behinderung durch die Kryptographie hat dem Erfolg des Instruments offenbar keinen Abbruch getan.)

Die Geschichte wiederholt sich nicht, sie gibt sarkastische Kommentare ab

In einem Fall historischer Ironie geriet ein naher Verwandter des Staatstrojaners zeitgleich in die Schlagzeilen: die Ransomware Petya legte ab dem 27. Juni zahllose Computersysteme in Europa lahm, darunter sicherheitsrelevante wie Nahverkehrsleitstellen, Nuklearüberwachungsanlagen, Krankenhäuser und Frachthäfen. Petya nutzt eine Schwachstelle namens EternalBlue aus, welche die US-Behörde TAO, Teil der NSA, entdeckt und geheim gehalten hatte. Sie wurde im April 2017 von Hackern bekannt gemacht.

Petya beweist eindrucksvoll die Sicherheitsbedenken, welche der Staatstrojaner bei Fachleuten hervorruft. Durch die Kultivierung von Schwachstellen und Einfallstoren in Computersystemen öffnet er Kriminellen oder staatlichen Cybertruppen Tür und Tor. Es ist, kurz gesagt, nahezu unmöglich ein System vor Angriffen zu schützen, ohne dass staatliche Stellen aktiv die Sicherheitsvorkehrungen ihrer Bürger untergraben. Sie arbeiten damit auch gegen ihre eigenen Bestrebungen der nationalen Cyber-Sicherheit. Ein digitales Wettrüsten, bei dem die Geheimdienste Schwachstellen horten wie seinerzeit Atomwaffen, steht zu befürchten. Der digitale Schlagabtausch zwischen Nationen ist seit November 2016 keine Fiktion mehr, als der noch amtierende US-Präsident Obama Cyber-Schläge gegen Russland als Reaktion auf deren Eingreifen in den US-Wahlkampf anordnete. Von dieser Sorge getrieben, forderte etwa Microsoft jüngst einen digitalen Nichtangriffspakt: Schwachstellen müssten rasch und vollständig bekannt gemacht werden. Nur so können sie rechtzeitig behoben werden.

Geheimbotschaften auf Nacktfotos

Ein weiteres Problem sehen Datenschützer: der Staatstrojaner greift auf das Smartphone zu, also auf ein Gerät, das längst im Lebensmittelpunkt vieler Menschen angekommen ist. Sie speichern dort Familiäres, medizinische und finanzielle Informationen, berufliche Daten und romantische (ähem). Anders als ein Telefonat oder eine SMS sind diese persönlichen Informationen noch stärker durch das Grundgesetz geschützt. Wie schon beim Staatstrojaner 1.0, so fürchten Datenschützer, könnte die Software auch hier ihren Bestimmungszweck überschreiten. Eine Invasion des Privatbereiches durch den Staat wäre die Folge – und auch hier ist die Wirklichkeit der Fiktion einen Schritt voraus. Ermittler hatten bereits 2009 Telefonsex mitgeschnitten und gespeichert.

Wer es in Kauf nimmt, dass Verdächtigen schwerer Delikte so auf den Zahn gefühlt wird, sollte sich vor Augen führen, dass auch ihre Kommunikationspartner Ziel der Ermittlungen sind – also Unschuldige, die das Pech hatten mit den falschen Menschen einen Whatsapp-Chat zu führen.

Wie Dieter Wiefelspütz, innenpolitischer Sprecher des SPD-Bundestagsfraktion, versicherte, soll diese Gefahr ausgeschlossen werden, indem die Ermittler ihre Software so programmieren, dass sie “den Kernbereich privater Lebensgestaltung” ausschließt. So hatte es das Bundesverfassungsgericht 2008 gefordert. Neben der Frage, wie gut eine automatisierte Erkennung von Privatem funktionieren kann, ist der Gedanke an und für sich falsch. Wenn ein Krimineller weiß, dass bestimmte Teile seiner Daten wie Nacktfotos oder Familienchats von der Ausspähung ausgenommen sind, wird er seine geheim zu haltenden Daten sicherlich dort verstecken. Dem menschlichen kriminellen Erfindungsgeist sind keine Grenzen gesetzt: Botschaften auf Nacktbildern sind ebenso machbar wie digitale Wasserzeichen auf Kinderfotos. Ebenso lässt sich der Staatstrojaner einfach unterlaufen, indem die Verschlüsselung eine Ebene vor das Smartphone gesetzt wird, etwa in Form eines peripheren Geräts.

Zwischen Brazil und Minority Report

Doch eine oft unterschätzte Gefahr birgt der Staatstrojaner noch: die digitale Transformation der Überwachung. Es hat sich in zahlreichen Fällen gezeigt, dass die Digitalisierung durch das schiere Ausmaß ihrer Leistungskraft vertrauten Dingen eine neue Qualität gibt.

Ein einfaches Beispiel ist die Rückwärtssuche im Telefonbuch. Sie war in analogen Zeiten der schweren gelben Wälzer ohne weiteres möglich, aber zu umständlich, als dass es die Aufmerksamkeit des Gesetzgebers erfordert hätte. Mit den ersten Telefonbuch-CDs, die eine komplette Datenbank der Anschlussinhaber auf den heimischen PC  brachten, wurden die datenschutztechnischen Probleme klar. Der Gesetzgeber schritt ein und unterband Programme, welche die Rückwärtssuche erlaubten. Erst 2004 erkannte man, dass dieses Verbot nicht durchzusetzen war, und eine Novelle des Gesetzes erlaubte die Rückwärtssuche unter bestimmten Voraussetzungen.

Branche um Branche erlebt derzeit ihr digitales Blaues Wunder. Alte Geschäftsmodelle werden innerhalb weniger Jahre obsolet und neue entstehen. So wird es auch der digitalen Ermittlungsarbeit gehen. Stand heute ist der Staatstrojaner als reaktives Mittel konzipiert, das (in rund 20.00 Fällen jährlich immerhin) laufende Ermittlungen erleichtert. Doch dabei wird es nicht bleiben.

Die Internetwirtschaft macht vor, was man mit den Daten von Anwendern erreichen kann. Sie erlauben statistisch valide Vorhersagen über Vorlieben und Verhalten. Erste Chat-Tools sollen Selbstmordgedanken anhand der Sprache erkennen, die Facebook-Likes, Cookies von besuchten Amazon-Seiten oder Google-Suchbegriffe erlauben schon heute eine plattformübergreifende Werbung. (Ein Bekannter dieses Autors schwört Stein und Bein, dass sein Smartphone seine Gespräche mit der Gattin belauscht. Nicht unmöglich, aber vermutlich nicht nötig. Es handelt sich um einen sehr aktiven Facebook-User ohne großes Hintergrundwissen zu Tracking-Cookies und maßgeschneiderter Werbung).

Es ist nur eine Frage der Zeit, bis die Polizei ähnliche Methoden einsetzt, um Verbrechen vorzubeugen, ähnlich des allseits bekannten Profilings, also der gezielten Kontrolle von Personen aufgrund ihrer Hautfarbe, Herkunft oder ihres Modestils. Sollten die Ermittler die technischen Mittel an die Hand bekommen, im großen Stil verdächtige Personengruppen online zu observieren, so werden sie dieses Mittel auch hier einsetzen wollen. Dies könnte bedeuten, den Staatstrojaner präventiv auf alle Träger bestimmter Merkmale anzusetzen – und auch hier wären Marketingdaten hilfreich bei der zielgenauen Eingrenzung. Junge, deutschstämmige Männer mit Kampfhund, die in rechtsgerichteten Facebookgruppen aktiv sind etwa, oder Menschen muslimischen Glaubens. Es gilt hier Maslows Hammer: Wenn man erst einmal einen Hammer hat, sieht alles aus wie ein Nagel.

Von diesem Punkt bis zur präventiven Vereitelung von Straftaten durch Schutzhaft ist es kein weiter Weg mehr – ein Konzept, dass im Film Minority Report nach Philip K. Dick erforscht wird. Die Fehleranfälligkeit eines solchen Systems wiederum ist ein zentrales Element des gleichfalls dystopischen Meisterwerks “Brazil”.

Es braucht keine futuristischen Genies, um sich die Gefahren auszumalen, die aus dem Big-Data-Ansatz der Strafverfolgung entstehen, dem der Staatstrojaner zugrunde liegt. Man fragt sich jedoch schon, ob im Bundestag keine Cineasten sitzen, welche die beiden oben genannten Filme gesehen haben. Es wäre ihre Aufgabe, den Rechtsstaat vor sich selbst zu schützen und das “Gesetz zur effektiveren und praxistauglicheren Ausgestaltung des Strafverfahrens” abzulehnen. Doch drei, zwei Monate vor der Bundestagswahl ist so viel Selbstbeherrschung wohl zu viel verlangt.

Titelbild: cocoparisienne via pixabay, RichardLey via pixabay// CC0 Public Domain, Eigene Bearbeitung