Clar: Aus dem von der Anti-Diskriminierungsstelle des Bundes (ADS) in Auftrag gegebene Forschungsprojekt Diskriminierungsrisiken bei Verwendung von Algorithmen“ aus dem Jahre 2019 gingen verschiedene Erkenntnisse hervor, unter anderem Feststellungen, wie die Anti-Diskriminierungsstelle selbst vorzugehen hat, um gegen digitalisierte Diskriminierung vorzugehen.

Wie steht es um diese Ansprüche?

Man kam zu der Erkenntnis, dass Ersteller von Algorithmen beraten und sensibilisiert werden müssten, um eine von vornherein diskriminierende Programmierung zu vermeiden. Es wurde zudem gefordert, dass die ADS in Entscheidungsprozesse bei Beschaffung von Algorithmen durch staatliche Behörden/Institutionen einbezogen werden sollte. Durch direkte Analysen und das Testen von Algorithmen, sollen diskriminierende Strukturen schneller erkannt werden.

Hier werden verschiedene Fragen aufgeworfen. Zum einen, in welchen Aspekten die ADS Fortschritte gemacht hat und ob es neue oder geplante Projekte gibt. Zum anderen, wie die aktuellen Entscheidungsprozesse ablaufen und welche Rolle die ADS in diesen spielt.

Welchen der von Ihnen angeführten Punkte halten Sie für besonders akut?

Ataman (Antwort auf alle vorstehenden Fragen): “Es gibt viel zu tun, um Diskriminierungsrisiken durch Algorithmen gut zu begegnen und wir stehen zugegebenermaßen immer noch am Anfang. Mein eigenes Amt ist ja noch ganz neu. Im April 2022 wurde das Allgemeine Gleichbehandlungsgesetz geändert und die Position einer Unabhängigen Bundesbeauftragten für Antidiskriminierung geschaffen, die gleichzeitig die Antidiskriminierungsstelle des Bundes leitet. Ich habe dieses Amt im Juli übernommen. Und zu meinen Befugnissen als Beauftragte gehört auch, dass Bundesbehörden mich bei allen Vorhaben, die meine Zuständigkeit berühren, zukünftig beteiligen müssen. Das gilt auch bei der Frage der Beschaffung von algorithmischen Entscheidungssystemen durch staatliche Stellen. Wichtig ist, dass Testing-Möglichkeiten geschaffen werden, um Diskriminierungsrisiken zu identifizieren. Ich werde diese Punkte als Unabhängige Beauftragte einbringen, wenn die Bundesregierung hier einen Gesetzentwurf vorlegt.”

Clar: Die Ampel-Koalition positioniert sich in Ihrem Koalitionsvertrag noch deutlicher als ihre Vorgänger gegen Diskriminierung. Zudem verweist der Vertrag auf die Ausweitung des Allgemeinen Gleichbehandlungsgesetzes, eine Möglichkeit, die sowohl in Ihrem Forschungsprojekt als auch im Policy Brief #5 von der Nicht-Regierungsorganisation AlgorithmWatch gefordert wird.

Hat der Regierungswechsel bezüglich der Arbeit (Abläufe, Herangehensweise etc.) gegen digitalisierte Diskriminierung nennenswerte Veränderungen herbeigeführt oder sind diese zu erwarten?

Ataman: “Klar ist: Das Thema Diskriminierungsschutz gehört auf die Agenda, und zwar jetzt. Es gab schon kurz nach dem Regierungswechsel die erste substanzielle Änderung des AGG seit vielen Jahren, die mir als Beauftragte und damit auch der Antidiskriminierungsstelle die Beteiligungsrechte gegeben hat, die ich erwähnt habe. Aber wie Sie selbst ansprechen, hat die Regierung sich noch eine grundsätzlichere AGG-Reform vorgenommen, die laut Koalitionsvertrag „Schutzlücken schließen, den Rechtsschutz verbessern und den Anwendungsbereich des Gesetzes“ ausweiten soll. Ich will mit daran arbeiten, dass dieser Anspruch auch erfüllt wird und die AGG-Novelle Menschen, die Diskriminierung erleben, tatsächlich hilft. Denn das Gesetz, das wissen wir seit langem, ist zu schwach und macht es Menschen zu schwer, zu ihrem Recht zu kommen. Das gilt auch im Umgang mit algorithmischen Systemen und die Bundesregierung steht da wirklich in der Pflicht. Als Antidiskriminierungsstelle haben wir ein Rechtsgutachten vergeben, das für uns ganz genau prüfen soll, ob und wie das Allgemeine Gleichbehandlungsgesetz angepasst werden muss, um mit Diskriminierung durch algorithmische Systeme angemessen umgehen zu können. Das Gutachten werde ich in einigen Monaten vorlegen können.

Ein Verbandsklagerecht und auch ein Klagerecht der Antidiskriminierungsstelle in Fällen von grundsätzlicher Bedeutung gehören aus meiner Sicht jedenfalls zu den Verbesserungen, die unbedingt kommen sollten.”

Clar: In den Schlussfolgerungen, welche Sie aus dem Forschungsprojekt ziehen, führen Sie auch verschiedene gesetzliche Möglichkeiten gegen digitale Diskriminierung vorzugehen auf.

Wurden diese Vorschläge bereits von der Ampel-Koalition aufgegriffen oder rechnen Sie damit, dass dies in Zukunft passiert? Rechnen Sie zudem mit Gesetzesentwürfen/gesetzlichen Anpassungen während der aktuellen Legislaturperiode?

Ataman: “Wir sind ja mittendrin in der gesetzgeberischen Debatte, aktuell aber vor allem auf EU-Ebene, wo es um die Europäische Verordnung zu Künstlicher Intelligenz geht. Viele Expert*innen kritisieren, dass der Vorschlag den Diskriminierungsschutz eher als Nebensache behandelt. Ich sehe das auch kritisch. Die Betroffenen und ihre Rechte kamen im ersten Entwurf der Kommission eigentlich gar nicht vor. Wir dringen hier darauf, dass die Bundesregierung in den Verhandlungen möglichst viel für den Schutz vor Diskriminierung herausholt. Parallel gibt es jetzt auch einen ersten Entwurf für eine Konvention des Europarats zu Künstlicher Intelligenz, die besonders den Schutz der Grundrechte in den Blick nimmt.

Mir ist vor allem wichtig, dass wir Dokumentationspflichten für die Anwender algorithmischer Systeme in allen Bereichen haben, in denen Diskriminierung verboten ist, damit vor Gericht überhaupt nachgewiesen werden kann, nach welchen Kriterien eine Entscheidung gefällt wurde. Dass es Transparenzpflichten gibt und die Betroffenen überhaupt darüber informiert werden, dass z.B. in einem Bewerbungsverfahren Algorithmen eingesetzt werden. Und dass wir genau hinschauen, ob bestimmte Änderungen am bestehenden Antidiskriminierungsrecht

nötig sind, damit es zukünftig noch durchgesetzt werden kann. Um nur ein Beispiel zu nennen: Die Antidiskriminierungsstelle hat bisher keinen Auskunftsanspruch gegenüber privaten Unternehmen. Da hilft uns dann die schönste Dokumentation von Entscheidungskriterien eines Algorithmus nichts, wenn wir sie nicht anfordern können.

Ob auch nationale Gesetzgebung nötig wird, werden wir sehen, wenn die europäischen Verhandlungen abgeschlossen sind. Ich bin aber ziemlich sicher, dass wir am Ende der Legislaturperiode eine Rechtslage haben werden, die deutlich klarer ist.”

Clar: Der Policy Brief #5 von AlgorithmWatch ähnelt insbesondere in Bezug auf die Schlussfolgerungen und Handlungsansätze stark der Ihren.

Bestätigt das Ihre Arbeit? Wie ist das weitere Vorgehen? Welchen Einfluss hat dies auf Sie?

Ataman: “Tatsächlich kommt AlgorithmWatch zu sehr ähnlichen Empfehlungen wie das Gutachten, das Carsten Orwat vom KIT Karlsruhe für die Antidiskriminierungsstelle des Bundes erarbeitet hat. Und das ist auch gar nicht überraschend, denn beide liegen auf einer Linie mit den allermeisten Analysen aus der Wissenschaft und auch von europäischen und internationalen Fachgremien, die inzwischen vorliegen. Natürlich fühlen wir uns darin bestätigt, dass wir mit unseren grundsätzlichen Empfehlungen auf dem richtigen Kurs sind. Wir werden uns mit Organisationen wie AlgorithmWatch in Zukunft laufend inhaltlich austauschen. Ich finde es wichtig, dass wir in beiden Richtungen einen Wissenstransfer organisieren zwischen denen, die sich seit Jahren mit Algorithmen und KI beschäftigen, und denen, die Expert*innen für Antidiskriminierung sind. Da machen wir auch gute Fortschritte.”

Clar: Es besteht die Möglichkeit, dass es zu keinen konkreten Maßnahmen gegen digitale Diskriminierung kommt, oder diese erst in einigen Jahren wirken.

Wie können sich Nutzer*innen aktuell schützen? Gibt es eventuell konkrete Plattformen/Betreiber*innen etc., die zu meiden sind?

Ataman: “Es ist sehr schwierig, Einzelpersonen zu empfehlen, wie sie sich schützen können. Solange es keine Transparenzpflichten gibt, wissen sie ja oft gar nicht, dass ein algorithmischer Entscheidungsmechanismus zum Einsatz kommt. Und eigentlich sollte unser Ansatz doch auch ein anderer sein: Damit wir einen guten Schutz vor Diskriminierung erreichen, müssen wir uns an diejenigen richten, die gestalten können: Das sind die Anbieter*innen von KI und die Unternehmen, die solche Anwendungen nutzen. Das ist die Politik, die die Rahmenbedingungen setzen muss. Und das sind all diejenigen, die in Beratungsstellen aktiv mit Menschen arbeiten, die Diskriminierung erleben.

An der Stelle haben wir zuletzt angesetzt. Wir haben das Projekt AutoCheck von AlgorithmWatch gefördert, das einen Ratgeber zu „Automatisierten Entscheidungssystemen und Diskriminierung“ erarbeitet und Schulungsprogramme für die Antidiskriminierungsberatung entwickelt hat. Dadurch wollen wir die Berater*innen ansprechen, die überall im Land täglich Menschen unterstützen, die Diskriminierung erfahren. Sie sollen in die Lage versetzt werden, einen

Zusammenhang eines Diskriminierungsfalls mit algorithmischen Systemen besser zu erkennen. Das hilft in erster Linie den Betroffenen, weil sie besser beraten werden können. Es hilft uns aber auch dabei, solche Fälle besser zu dokumentieren, damit wir politische Schlüsse aus ihnen ziehen und dann eventuell auch die Öffentlichkeit besser über einzelne, problematische Anwendungen aufklären können.”

Picture by Tobias Golla on pixabay

Welche Projekte hat die Landeszentrale anlässlich der LTW neu gestartet oder auf die Wahl bezogen?

Zur sächsischen Landtagswahl 2019 bietet die Landeszentrale verschiedene Projekte an. Unser größtes Projekt sind die Wahlforen: Zusammen mit den drei großen Regionalzeitungen Leipziger Volkszeitung, Sächsische Zeitung und Freie Presse veranstalten wir 60 Wahlforen, also in jedem Wahlkreis in Sachsen ein Wahlforum, bei dem die Bürger mit  den Wahlkreiskandidaten der sechs großen Parteien debattieren. Das sind die Parteien, die im Landtag oder Bundestag in Fraktionsstärke vorhanden sind. Das hat es so, glaube ich, noch nie gegeben, zumindest nicht in Sachsen. Auch auf Bundesebene ist mir kein solches Projekt bekannt.

Dann haben wir die Bücher „Wahlen in Sachsen“ und „Die Parteien in Sachsen“ herausgebracht. Außerdem bieten wir seit Anfang August wieder den Wahl-O-Mat an.

Mit der Aktion Zivilcourage in Pirna haben wir für junge Leute ein Peer-to-Peer-Motivationsprojekt „Ich bin wählerisch“ ausgerufen, mit dem wir junge Menschen motivieren wollen, sich mit den Wahlen auseinanderzusetzen.

Das Projekt „Ich bin wählerisch“ läuft ja seit ein paar Wahlperioden. Wie wird das angenommen?

„Ich bin wählerisch“ hat einerseits einen spielerischen Charakter, führt andererseits aber auch zu einer ernsthaften politischen Auseinandersetzung mit den Wahlen. Mit der Aktion Zivilcourage haben wir da einen sehr guten Partner. Die sprechen gezielt junge Leute an, die wiederum in der Schule ihre Freundinnen und Freunde ansprechen. Wie schon bei den Europawahlen funktioniert das auch bei der Landtagswahl sehr gut.

Analog: Wahldebatten in jedem Wahlkreis

Wie werden die Wahlforen angenommen?

Bislang haben wir 36 Wahlforen veranstaltet und sind mit der Resonanz sehr zufrieden. Wir haben zwischen 50 und 250 Gäste. Die Besucher aus der Bevölkerung, aber auch die Politiker, finden es toll, dass es ein solches Angebot gibt, dass man sich über aktuelle Fragen auseinandersetzen und die Kandidaten kennenlernen kann.

Die Debatten sind meist sachlich und fair, wir hatten allerdings auch ein paar unruhige Abende. Insgesamt funktioniert es sehr gut, die Partnerschaft mit den drei großen Regionalzeitungen ist ein großer Gewinn. Wir haben ein sehr konstruktives Miteinander und eine sehr umfängliche Berichterstattung. Damit sind die Themen des Wahlkampfs nicht nur an diesem Abend präsent, sondern werden durch die Vor- und Nachberichterstattung einer breiteren Bevölkerung zugänglich gemacht.

Der Wahl-O-Mat ist ein Klassiker vor den Wahlen, gerade weil er sich auf die Landtagswahlthemen bezieht. Was ist das spezifische an der Landtagswahl im Freistaat und welche Themen beschäftigen die Bürgerinnen und Bürger?

Ich sehe im Moment nicht das große Wahlkampfthema. Ich sehe verschiedene kleine Themen, auch spezifische sächsische Themen. Beim Wahl-O-Mat gibt es auch einige Ähnlichkeiten beispielsweise zu Brandenburg, wo die Themen „Senkung des Wahlalters“, „Wolf“ oder „Sanktionierung von Cannabis-Besitz“ ebenfalls eine Rolle spielen. Wichtige Themen in Sachsen sind derzeit der Braunkohle-Ausstieg, das Polizeigesetz, Schule, Landarzt und Versorgung im ländlichen Raum. Das Flüchtlingsthema hat nachgelassen, ist aber emotional schnell wieder mobilisierbar. Wirtschaft und Arbeitsplätze spielen interessanterweise nur eine geringe Rolle, das war vor ein paar Jahren noch anders. Anscheinend gibt es weniger Ängste um den Arbeitsplatz als früher.

Warum ist das Flüchtlingsthema im Wahl-O-Mat zu finden? Wird das nicht auf Bundesebene behandelt?

Ja, aber zum Beispiel bei der Frage, wie und mit welcher Konsequenz abgeschoben wird, haben die Länder ebenfalls Regelungskompetenzen. Insgesamt gilt aber beim Wahl-O-Mat: Wir nehmen nur Themen auf, die auch auf Landesebene geregelt werden können.

Digital: Kontrovers diskutieren

„Lasst Uns Streiten“ ist ein Format, das die Diskussion insbesondere über kontroverse Themen wie Klimawandel und „Toleranz und ihre Grenzen“ ermöglicht. Ihr Appell: „Bewerten Sie andere Kommentare und Beiträge und lassen Sie uns streiten!“ Wie sind Ihre bisherigen Erfahrungen?

Das ist ein bewährtes Format. Wir machen das schon seit einigen Jahren und haben zwischen 600 und 3.000 User, die mitmachen. Wir hatten auch sehr heftige Debatten, unter anderem beim Thema „Sachsen-Bashing“. Das hat die Gemüter erhitzt. Unsere Strategie von der Emotionalität zur Sachlichkeit zu kommen gelingt nicht bei jedem User, meist aber doch. Allein schon deswegen, weil der User immer neue Fragen und Thesen eingeblendet bekommt, mit denen er sich auseinandersetzen kann. Dann kann er nicht nur wild „rumpolemisieren“, sondern muss Entscheidungen treffen und sich tiefer mit den Dingen auseinandersetzen, andere Perspektiven einnehmen. Das ist sicher ein Format, das Zukunft hat.

Das Projekt ist aus den 150 Debatten, die die Landeszentrale rund um die Themen „Flucht“, „Asyl“ und „Asylbewerberheime“ geführt hatte, entstanden, weil es da zum Ende sehr unfruchtbar war. Da kamen dann Leute aus der rechten Szene, die ihre Statements von Karteikarten abgelesen haben – das war kein Dialog mehr. Da hat man sich nicht mehr zugehört. Das wollen wir online mit diesem Angebot durchbrechen.

Auf der digitalen Ebene stellen Sie nicht nur den Wahl-O-Mat bereit, sondern sind auch auf Facebook, Twitter, YouTube und Instagram vertreten. Wie nutzen Sie diese Kanäle?

Auf Twitter haben wir uns in der letzten Zeit etwas zurückgehalten. Mit Instagram sprechen wir die Jüngeren an, Facebook ist für uns aber auch wichtig, gerade für die Veranstaltungsankündigungen.

Noch wichtiger ist allerdings Youtube, wo wir mit „#wtf?! – Wissen, Thesen, Fakten“ eine – für unsere Verhältnisse – hohe Nachfrage haben. Das Video über Reichsbürger und Verschwörungstheorien liegt bei über 70.000 Klicks. Mit Fußballstars können wir natürlich nicht mithalten, aber für politische Bildung ist das eine gute Zahl. Wir wissen auch, dass wir den Bereich noch weiter ausbauen müssen, weil sich das Nutzungsverhalten der Menschen immer weiter ins Digitale verlagert. Da gehen wir mit.

„Eine sehr polarisierte Gesellschaft“

Ich habe mir die Post und Kommentare auf der Facebook-Seite der Landeszentrale angesehen. Entweder moderieren Sie sehr stark oder es geht da sehr gesittet zu.

Das freut mich zu hören. Ja, es gibt Phasen und Themen, da moderieren unsere Kollegen sehr stark. Wir haben eine Netiquette, die wir anwenden, wenn sich Menschen im Ton vergreifen. Glücklicherweise gibt es aber auch Nutzer, die in den Debatten selbst zur Mäßigung aufrufen und versachlichen. Insgesamt haben wir aber sehr viele „Freunde“ aus dem sehr linken und aus dem sehr rechten Spektrum. Wir wünschen uns mehr User aus der Mitte der Bevölkerung, die sich an den Diskussionen beteiligen. Auch im Internet spiegelt sich Sachsens recht polarisierte Gesellschaft wider.

Sie haben die Diskussionen im Netz und die analogen Diskussionen bei den Wahlforen erlebt. Geht es im Netz härter zu?

An manchen Tagen liegen da tatsächlich Welten dazwischen. Wir hatten auch unfreundliche Situationen bei den Wahlforen, aber insgesamt ist im Internet die Hemmschwelle verbal zuzulangen geringer. Unsere Aufgabe besteht darin, die Mitte der Gesellschaft darin zu bestärken, Position zu beziehen. Dass diese Mitte der Gesellschaft deutlich macht, dass sie die Gesellschaft zusammenhält.

Sie leiten jetzt seit zwei Jahren die Landeszentrale. Wie fällt Ihr Zwischenfazit aus, was macht Sachsen besonders?

Es gibt ja kluge Leute, die sagen, man solle sich vor einem Fazit hüten, weil das Leben immer weitergeht. Dennoch: Die Arbeit macht Spaß, ich habe ein tolles Team, in Sachsen gibt es viele Leute, die sich für die Gesellschaft engagieren. Wir sind hier in Sachsen gerade eine Hochburg der Debatte. Diese Debatten sind manchmal gut und fruchtbar, manchmal aber auch unkonstruktiv und emotional. Das direkt zu erleben, gehört zu meinem Lernprozess. Ich frage mich bei emotionalen Debatten oft, ob es wirklich nur um bestimmte Sachthemen geht oder welche Gefühle hinter den Argumenten stecken.

Sachsen ist ein Brennglas gesellschaftlicher Entwicklungen, einmal, was den Populismus angeht, aber auch im Blick auf Themen wie den demografischen Wandel, das Verhältnis von Stadt und Land oder die Wende in der Energie- und Klimapolitik. Das was heute hier debattiert wird, dürfte mit hoher Wahrscheinlichkeit in den nächsten Jahren auch in anderen Regionen Deutschlands zum Thema werden. Und wenn man sich länger mit Sachsen beschäftigt, kann man dabei auch einiges über den Zustand der Bundesrepublik und der ost-mitteleuropäischen Länder lernen.

Mir ist wichtig: Sachsen und die neuen Bundesländer haben weiterhin ein großes Potenzial, neue Ideen und Konzepte zu denken und umzusetzen. Durch den öffentlichen Fokus auf den Populismus, der sich ja hier auch in einer Art Laborsituation befindet, wird leicht übersehen, dass es ganz andere zukunftsweisende, politische Themenfelder gibt, die wir schnellstens anpacken müssen und bei denen wir Modellprojekte, Kreativität, neuartige Lösungsangebote brauchen. Hier sehe ich eine echte Chance der neuen Bundesländer.

Vielen Dank für das Interview!

Zur Person:
Dr. Roland Löffler, 48, studierte Evangelische Theologie in Tübingen, Berlin, Cambridge und Marburg. Seit zwei Jahren ist er Direktor der Sächsischen Landeszentrale für politische Bildung. Zuvor arbeitete er u.a. als freiberuflicher Journalist, als Gastprofessor an der Universität Montreal und in leitenden Funktionen bei zwei deutschen Stiftungen.

 

 

Titelbild: Fridays For Future-Demonstration in Dresden by Ralf Lotys (Sicherlich) viaWikicommons, CC-BY 4.0

Screenshot „Lasst Uns Streiten“: © SLpB

Porträtfoto Dr. Löffler: © SLpB/Benjamin Jenak