Ohne Zweifel gibt es erschreckende Beispiele, die die Schattenseite individueller menschlicher Entscheidungshoheit im Rechtsystem offenbaren. In einer prominenten Studie der New Yorker Columbia University und der israelischen Ben-Gurion-Universität wurden mehr als tausend Urteile von acht unterschiedlichen Richter*innen an zwei israelischen Gerichten untersucht. Das Ergebnis macht in eindrucksvoller Weise die inhärente Willkür von verschiedenen Einflussfaktoren auf die Richter*innen in gerichtlichen Prozessen deutlich. Die Forscher*innen untersuchten, ob die Angeklagt*innen eine Bewährungs- anstatt einer angedrohten Haftstrafe erhalten. Das Ergebnis ist erstaunlich und sorgte nicht nur im soziologischen Diskurs für Aufmerksamkeit. Es stellte sich nämlich heraus, dass Richter*innen vor einer Mittagspause dazu tendieren, im Sinne des Status Quo zu urteilen, und dieser Effekt nach eingenommenen Mittagessen verblasst. Mit anderen Worten sind Gerichtsurteile davon beeinflusst, ob der oder die zuständige*r Richter*in hangry ist oder nicht.

Hinsichtlich der Ergebnisse der Studie scheint eine Utilisierung von emotionslosen, algorithmus-basierten KIs auf den ersten Blick sehr hilfreich. Die Mathematikprofessorin Hanna Fry identifiziert in ihrem Buch Hello World – Was Algorithmen können und wie sie unser Leben verändern verschiedene gerichtliche und anwaltliche Prozesse, bei denen künstliche Intelligenz bereits heute eine Rolle spielt. Zum Beispiel benutzen Anwält*innen innovative Instrumente, um Verträge zu erstellen oder lassen sich bei der Beurteilung und Einordnung von Beweisen unterstützen. Des Weiteren können sogenannte Language Processing Models Anwälte dabei unterstützen, Vergleichsfälle und frühere Urteile zu recherchieren. Dadurch können in manchen Fällen die Anwaltskosten signifikant gesenkt und somit der Zugang zu rechtlichem Beistand für viele erleichtert werden. Außerdem unterstützen KI-Systeme die Richter*innen bei der Einschätzung über die Wahrscheinlichkeit der Rückfälligkeit von Straftäter*innen durch die Auswertung von demografischen und personenbezogenen Daten oder schlagen passende Interventionsprogramme vor. In den USA sind diese sogenannten Risk Assessment Tools bereits fester Bestandteil der juristischen Praxis. Jedoch sorgen diese seit der Implementation für Kritik und es wird gemahnt, dass durch die Funktionsweise des maschinellen Lernens ebenfalls Ungerechtigkeiten entstehen können.

Das Justizsystem weiß selber, dass es nicht perfekt ist. Jedoch ist nicht ohne Grund der oft postulierte Anspruch: Justitia ist blind. Nichtsdestotrotz gibt es ungerechte Urteile beziehungsweise viele Urteile fühlen sich ungerecht an. Ist dementsprechend ein blinder Algorithmus, dem keine Intuition und Gefühlszustände zugrunde liegen, letzten Endes ein besserer Richter? KI kann zwar bei der Entscheidungsfindung der Gerichte helfen, birgt aber bei der Anwendung in juristischen Prozessen selbst auch gewisse Fallstricke. Grundlage für KI-Systeme sind immer Daten. Bei der Anwendung innerhalb der Rechtsprechung werden diese Daten zumeist direkt aus der juristischen Praxis entnommen. Die Algorithmen werden mit den Ergebnissen von vergangenen Prozessen trainiert – dadurch werden beispielsweise rassistische und sexistische Einschätzungen menschlicher Entscheidungsträger*innen direkt übernommen und somit herrschende Ungleichheiten reproduziert. Beispielsweise beschreibt das Deutsche Institut für Menschenrechte in seinem Bericht Rassismus in der Strafverfolgung in mehreren Fachbeiträgen Missstände in den gerichtlichen Arbeitsabläufen. Die Expert*innen stellen fest, dass ausländische Kläger*innen aufgrund verschiedener Gründe wie zum Beispiel Sprachbarrieren oder Vorurteilen weniger ernst genommen werden, aber auch explizit rassistisch motivierte Straftaten oft nicht hart genug bestraft werden würden. Dieselben Gefahren werden von der Rechtsprofessorin Giula Gentile skizziert. Sie betrachtet die Voreingenommenheit der Datengrundlage als eine der größten Risiken. Es gäbe keine Garantie dafür, dass KI-gestützte Gerichte mit grundlegenden Werten wie der Unabhängigkeit der Justiz und letztlich der Rechtsstaatlichkeit im Einklang stehen.

Verschiedene Wissenschaftler*innen sind sich zumindest einig, dass schon heute künstliche Intelligenz dazu beiträgt, eine Effizienzsteigerung bei juristischen Arbeitsprozessen zu erzielen. Diese Entwicklung wird sicherlich in den kommenden Jahren zunehmen. Giula Gentile mahnt, dass es in dem Zusammenhang jetzt die Aufgabe von Expert*innen sei, festzustellen, was bei der Algorithmisierung der Justiz verloren geht. Sie betont, dass KI kein Allheilmittel für die Fehlerhaftigkeit von Gerichten sein kann.
Außerdem hält sie fest, dass sich durch den Einfluss von Algorithmen auf die Rechtspraxis das Bild von Richter*innen und deren Autorität verändern wird. Das Bild der Rechtsprechung als moralische Institution wird sich zunehmend wandeln. Schon heute kann künstliche Intelligenz durch Einschätzungen und Prognosen der Justiz dabei helfen, gerechtere Urteile zu fällen. Beispielsweise werden Empfehlungen zur Bewährungsdauer artikuliert, passende Interventionsprogramme vorgeschlagen oder die Höhe von Kautionen empfohlen. Hanna Fry fasst das wie folgt zusammen: Algorithmen seien zwar noch nicht in der Lage, Beweise zu analysieren und Reue zu bewerten und somit über Schuld zu entscheiden – jedoch können Sie die Richter*innen dabei unterstützen möglichst viele Aspekte in ihr Urteil mit einzubeziehen. Die juristische Entscheidung bleibt somit weiterhin (noch) in menschlicher Hand. Ob und wie Künstliche Intelligenz in der Rechtsprechung unterstützt, sollte zumindest in der Begründung von Urteilen transparent gemacht werden müssen. So gibt es zwar Diskussionen darüber, wie eine Transparenz, insbesondere bei komplexen maschinellen Lernsystemen, sichergestellt werden kann, inwiefern diese Bedenken auch im AI Act ausreichend aufgegriffen werden, bleibt abzuwarten.

Foto von Titiwoot Weerawong auf vecteezy

Unser Mediensystem befindet sich im Wandel. Der Stellenwert von klassischen Massenmedien wie Zeitungen und Zeitschriften sinkt und die neu entstandene Logik sozialer Netzwerke hat auch auf die politische Kommunikation immer mehr Einfluss. Zeitgleich verlagert sich der politische Diskurs ebenfalls immer mehr in den digitalen Raum oder findet dort parallel statt. Damit unterliegt dieser aber auch neuen Regeln.  

Eins der wichtigsten Merkmale ist hierbei das Wegfallen der Gatekeeperfunktion von Journalist*innen. Während beispielsweise in Zeitungen und Zeitschriften professionalisierte Medienschaffende eine Vorauswahl treffen und gegebenenfalls Falschmeldungen aussortieren, können in sozialen Medien von den User*innen ungefiltert Beiträge und politische Messages verbreitet werden. Die Kriterien für die erstellten Inhalte sind nicht mehr ein möglichst hoher Informationsgehalt, sondern das Erzeugen von Emotionen und die Interaktion unter Gleichgesinnten.  

Ein weiterer essentieller Unterschied liegt in der Länge der publizierten Erzeugnisse. Ein Beispiel hierfür ist die oft referierte 140-Zeichen-Beschränkung des Kurznachrichtendienstes Twitter. Durch den komprimierten Raum werden auch komplexere Themen immer vereinfachter dargestellt. Größere Zusammenhänge werden vermehrt zugespitzt präsentiert. Somit wird zwar auch der Zugang zu größeren Themenkomplexen erleichtert, aber es besteht ebenfalls die Gefahr, dass durch die Simplifizierung Falschdarstellungen zunehmen. Genau das spielt den Populist*innen in die Karten. Plakative Parolen gehören genauso wie simplifiziertes Scapegoating („Sündenbock suchen“) zum populistischen Kommunikationsarsenal. Anstatt zu versuchen, der Komplexität von vielschichtigen Themen gerecht zu werden, wird auf vereinfachende Erklärmechanismen der eigenen Ideologie zurückgegriffen. Das Hauptproblem hierbei besteht darin, dass keine weitere journalistische Kontrolle ausgewirkt wird oder die Inhalte in irgendeiner Art und Weise auf deren Wahrheitsgehalt geprüft werden. Die Entwicklung nimmt so rasant zu, dass die UNSECO bereits seit zwei Jahren von einer sogenannten infodemic spricht. 

Außerdem ist ein zentraler Bestandteil von Social-Media die Darstellung der eigenen Person. Charismatisches Auftreten und eine schillernde Persönlichkeit sind des Öfteren wichtiger als die Inhalte, die in den Beiträgen transportiert werden. Hiervon profitieren populistische Parteien besonders, da diese sehr oft auf eine Führungsperson ausgelegt sind, welche als Aushängeschild dienen.  

Der Erfolg von populistischen Parteien in der heutigen Zeit ist unter anderem auf die Resonanz auf den sozialen Plattformen zurückzuführen. Beispielsweise verzeichnet Donald Trump ca. 87,2 Millionen Follower auf Twitter. Somit folgen ihm dort trotz zwischenzeitlicher Sperrung auf der Plattform mehr als doppelt so viele Menschen wie dem amtierenden US-Präsidenten Joe Biden. Aber wieso kommen Populist*innen im digitalen Raum so gut an? Der Hauptgrund hierfür ist die Synergie zwischen der populistischen Argumentationsstrategie und der Funktionslogik von Social-Media. Alarmistische Inhalte emotionalisieren. Das dauerhafte Konstruieren einer künstlichen Bedrohungslage polarisiert. Diese Taktik ist in der populistischen Praxis Alltag. Bei den Nutzer*innen werden durch die andauernde Krisenrhetorik und eine künstliche Untergangsstimmung starke Gefühle erzeugt.  Diese Stimmung führt dazu, dass solche Inhalte stärker geteilt und mehr Klicks für die Betreiber generiert werden. Das Prinzip ähnelt sehr dem Phänomen des Clickbaits. Mit anderen Worten wird durch reißerische und emotionale Statements Aufmerksamkeit erzeugt, da sich die plakativen Inhalte von differenzierten Aussagen absetzen.  

Ebenso profitieren populistische Parteien von der Zelebrierung ihrer Spitzenkanditat*innen in den sozialen Netzwerken. Politiker*innen können sich volksnah zeigen und Einblicke in ihren vermeintlichen Alltag gewähren. Dadurch können sogenannte parasoziale Beziehungen entstehen, welche auf einer asymmetrischen Kommunikation zwischen den Beitragserstellenden und User*innen basiert. Dabei bedienen sie sich der gleichen Mechanismen, wie man es von Influencer*innen aus vielen anderen Lebensbereichen kennt.  

Populismus und soziale Medien scheinen wie füreinander gemacht zu sein. Populistische Kommunikationsmuster folgen genau den Regeln, welche Inhalte auf sozialen Plattformen erfolgreich machen. Einige Wissenschaftler*innen  vermuten deshalb, dass eine weitere Gefahr darin besteht, dass Akteur*innen aus der politischen Mitte ebenfalls auf diese Kommunikationsstrategien zurückgreifen. So hatte beispielsweise Robert Habeck 2019 seinen Twitter-Account unter anderem deswegen gelöscht, da er davon überzeugt war, dass das Medium ihn dazu brachte, “polemischer” und “aggressiver” zu kommunizieren. Die Frage ist, wie man einen technologischen Rahmen schaffen kann, in dem beispielsweise im Wahlkampf politische Werbung stattfinden kann, ohne dass populistische Agitationen belohnt werden und ob das überhaupt möglich ist. 

Prof. Dr. Paula Diehl geht davon aus, dass uns Populismus auch wegen der sozialen Medien in den kommenden Jahren begleiten wird. Jedoch gibt es auch Möglichkeiten, populistische Kommunikationsmuster zu entlarven. Die Professorin der Uni Kiel merkt, dass „rhetorische Kurzschlüsse im Populismus stattfinden“, wenn eine vielschichtige Thematik auf polarisierende Weise mit Hilfe einer Freund-Feind-Dichotomisierung reduziert wird. Diese Taktik gilt es zu durchschauen. 

Es lässt sich insgesamt festhalten, dass die politische Kommunikation sich durch das stetig wandelnde Mediensystem immer stärker verändert und man immer öfter mit populistischen Argumentationsstrukturen konfrontiert wird. Die inhaltliche Auseinandersetzung im gesellschaftlichen Diskurs mit populistischem Framing gewinnt somit immer mehr an Bedeutung. Wenn dadurch eine Sensibilisierung stattfinden sollte, bleibt es abzuwarten, ob Populist*innen in sozialen Medien so erfolgreich bleiben.   

Foto von Jakob Owens auf Unsplash