Vor einigen Monaten tauchte Norman auf. Norman behauptet, ein Psychopath zu sein. Während sein Kollege auf Rohrschachtests eine Hochzeitstorte sieht, sieht er, wie ein Mann in eine Teigmaschine fällt oder auf offener Straße erschossen – Brutales, um es kurz zu fassen. Norman ist kein Mensch; Norman ist der Name einer KI, die mit Fotos eines Reddit Threads trainiert wurde und dann angeben sollte, was sie auf Fotos des Rohrschachtests sieht. Es ist unklar, ob wir Norman irgendwie witzig finden oder ihn als Symbol für die Risiken und Gefahren halten sollten, die KI birgt. Bei anderen Meldungen ist es eindeutiger: Es ist letzteres.  In letzter Zeit machte Gesichtserkennungssoftware von IBM, Face++ oder Microsoft Schlagzeilen: Weil sie hellhäutige Männer wesentlich besser erkennt, als Frauen mit dunklerer Hautfarbe. Eine rassistische KI? Das ist dabei kein Einzelfall: Die Software COMPAS, die die Wahrscheinlichkeit eines kriminellen Rückfalls voraussagen soll, beschreibt afroamerikanischen Häftlingen mehr als doppelt so häufig fälschlicherweise als Hochrisikofälle. Chatbots, wie Tay von Microsoft, verleugnen auf twitter den Holocaust. Immer lauter, immer häufiger wird der Vorwurf der diskriminierenden Systeme ausgesprochen. Doch handelt es sich dabei wirklich um diskriminierende Technologie? Ist es einer Technologie möglich, sexistisch, rassistisch, extremistisch zu sein? Und wie sollen wir als Gesellschaft damit umgehen?

„Algorithmen sind nicht ausschließlich technisch.“

Im Juni hält Goda Klombyte, Doktorandin des GEdis Lab der Universität Kassel, einen Vortrag in Berlin. GEdis steht dabei für Gender and Diversity in Informatic Systems, sie spricht über Feminismus und Algorithmen. Was sie sagt, ist allerdings anwendbar auf jegliche Form von Diskriminierung: Algorithmen seien nicht ausschließlich technisch – es sei an uns zu fragen, wessen Perspektive sie vermitteln und wie es möglich ist, soziale Praktiken in Algorithmen einzuschleusen. Wie wurde beispielsweise Tay zum Holocaustleugner oder die Gesichtserkennungssoftware zum vermeintlichen Rassisten? Hinter beiden Anwendungen scheinen neuronale Netze zu stehen (etwas mehr darüber haben wir bereits hier geschrieben). Neuronale Netze sind Algorithmen, die maschinell lernen können. Sie werden mit einem Datensatz trainiert, einem Trainingsset; bei Bilderkennung mit Fotos, bei Spracherkennung mit Sprache und Text. Umso mehr Input zur Verfügung steht, umso größer das Trainingsset, umso besser werden diese Systeme in der Erkennung von Bildern oder Sprache. Sie lernen. Würden wir das Trainingsset der Gesichtserkennungssoftware ansehen, würden wir wohl einen Datensatz auffinden, in dem Menschen (beziehungsweise Männer) mit hellerer Hautfarbe wesentlich häufiger auftauchen, als Menschen mit anderer Hautfarbe. Weiße Männer wären stark repräsentiert, Frauen und Menschen anderer Hautfarbe unterrepräsentiert. Daher erkennt Software letztere weniger gut – sie lernte besser, helle Hautfarbe zu erkennen, als dunkle. Datensätze, in denen etwas über- oder unterrepräsentiert ist, sind ein häufiges Phänomen, nicht nur in Gesichtserkennungsalgorithmen: Datenbiases.

Algorithmen erkennen Muster viel stärker als wir Menschen

Das bedeutet, dass obgleich das Resultat diskriminierend ist, die Technologie, sprich die Algorithmen als solche, nicht diskriminierend sind. Sie lernen lediglich mit den Daten, die ihnen zur Verfügung gestellt werden. Und das ist ein Problem: Denn häufig lernen Algorithmen mit historischen Daten; mit dem, was „eben da ist“. „Spracherkennungsalgorithmen, beispielsweise, lernen auf Basis existierender Sprache. Wenn es in der existierenden Sprache das Muster gibt, dass ein Mann immer der Verdiener, der Arzt, ist und die Frau mit Haushalt assoziiert wird, weil Menschen das so im Kopf haben, lernt der Algorithmus das. Und man muss sich aktiv bemühen, das rauszunehmen“, sagt Professor Florian Ellsaesser vom Centre for Human and Machine Intelligence der Frankfurt School of Finance and Management. Diskriminierung und Ungleichheiten sind in unserer Gesellschaft präsent, sie finden sich in alltäglichen Strukturen, in unserer Sprache, in den Daten, mit denen Algorithmen dann lernen sollen. „Das ist ja nicht nur ein Problem von Algorithmen, sondern auch der Mensch hat das Problem, dass er Dinge zu sehr generalisiert. Es existiert bei uns Menschen genauso, nur der Algorithmus bringt es viel stärker heraus, weil es da vollautomatisch läuft.“ Dem stimmt auch Dr. Sebastian Thieme, Bioinformatiker und -physiker, zu. Er weiß, dass Algorithmen viel besser darin sind, Muster zu erkennen, als wir Menschen. Algorithmen erkennen Muster auch dort, wo wir sie nicht erkennen – nicht mehr erkennen oder nicht erkennen wollen. Und das ist erschreckend.

„Wir erkennen die Systematik dadurch viel stärker“, sagt Ellsaesser. „Da merken wir, dass Frau eben im durchschnittlichen Sprachgebrauch oft mit Haushalt assoziiert wird.“ Uns werde jetzt ein Spiegel vorgehalten, sagt Thieme, ein gesellschaftlicher Spiegel. Das trifft vor allem auf den COMPAS Algorithmus zu: Trainiert wurde er mit historischen Daten. Mit Daten, die repräsentieren, dass einige Gruppen von Menschen eine andere Behandlung erfahren, einige RichterInnen und BeamtInnen nicht immer objektiv entscheiden. Mit Daten, in denen sich rassistische und diskriminierende Muster finden lassen. „Was wir in Zukunft erleben werden ist keine mehr so offensichtliche Diskriminierung, sondern neue Arten von Diskriminierung“, ist sich Thieme sicher.  Erlebt haben wir hier nicht zwangsläufig eine gezielte diskriminierende Programmierung – sondern stattdessen das Sichtbarmachen und Potenzieren eines Musters erlebt, das so in unserer Gesellschaft existiert.

Was darf entscheidungsrelevant sein?

Wenn wir über Daten sprechen, müssen wir über noch mehr sprechen als über Biases. So muss bei der Programmierung entschieden werden, welche Parameter oder Kriterien für die Datenbewertung durch den Algorithmus festgelegt werden. Es muss sich überlegt werden, welche Kriterien letztlich relevant für eine Bewertung und Entscheidung sind. Würden wir uns COMPAS anschauen müssten wir also beispielsweise fragen: Wenn festgestellt werden soll, ob jemand frühzeitig aus der Haft entlassen wird, ist die Hautfarbe ein solcher Parameter? Benötigt man in einem Datensatz Angaben über Religion, Herkunft, Delikt – was davon darf wirklich urteilsstiftend sein? „Diejenigen, die den Algorithmus entwickeln, entscheiden letztlich, welche Kriterien oder Features sie mit hereinnehmen und welche nicht. Das heißt, hier liegt viel in der Verantwortung der EntwicklerInnen, auf solche Dinge zu achten“, sagt Thieme.

Wir brauchen ein Algorithmenmonitoring

Aber wie kann das geleistet werden? Wie können wir beispielsweise sicherstellen, dass die Menschen, die in der Verantwortung stehen, darauf achten? Algorithmenmonitoring, oder von vielen auch Algorithmen-TÜV genannt, scheint hier eine mögliche Antwort zu sein. Thieme sieht letzteren Begriff allerdings skeptisch: „Was es nicht geben wird ist, dass Firmen uns ihre Algorithmen geben, so dass wir sie von Zeile eins bis zehn Millionen durchschauen. Deshalb finde ich den Begriff TÜV irreführend.“  Zu groß seien dafür die Programme, zu kompliziert die Algorithmen. Und zulassen würden es die Unternehmen schon gar nicht: „Es ist schwierig, darüber eine gesetzliche Handhabe zu bekommen, weil die Entwicklung eines Algorithmus viel mit geistigem Eigentum zu tun hat. Wenn der Algorithmus von google bekannt würde, würde ihn jeder kopieren – weshalb Firmen den Teufel tun, den rauszugeben.“ Wie Monitoring stattfinden kann, ist eine Frage, auf die es nur die Antwort gibt, dass es irgendwie passieren muss. Das wie ist noch nicht klar. Thieme spricht viel von den Hindernissen, auf die man treffen wird, wenn man versucht, Daten von unabhängiger Distanz sichten zu lassen. Vertrauliche Daten, vertrauliche Algorithmen, Kunden- und Firmengeheimnisse. Prinzipiell glaube er aber daran, in die Systeme hineinsehen zu müssen, um sie zu prüfen. Dasselbe gilt für die Daten, mit denen gearbeitet wird: Diese müssten genauso von ExpertInnen gesichtet und analysiert werden. Völlig ohne Verzerrungen, biasfrei sozusagen, werden wir sie allerdings nicht bekommen, ist er sich sicher. „Allein bei der Selektion der Daten haben wir ja bereits einen Bias. Und auch wenn wir es objektiv machen wollen, werden wir es wahrscheinlich subjektiv machen. Weil wir nun mal Menschen sind“, sagt er. „Aber wenn möglichst viele Menschen sich die Daten ansehen und einigen, dann kann man den Bias so klein wie möglich halten, auch wenn man ihn nicht völlig rauskriegt.“

 Es beginnt noch früher

Die Daten müssen also gesichtet werden, die Algorithmen analysiert. Allerdings sind es am Ende des Tages nicht die Algorithmen, die sexistisch und rassistisch sind – sondern die Gesellschaft, in der wir leben, zumindest zum Teil. Aus diesem Grund sind die Daten, auch wenn sie ein großes Thema sind, nicht das einzige. Während ihres Vortrags fragt uns Klombyte beispielsweise, warum alle Sprachassistenten (oder Assistentinnen?) weiblich konzipiert sind? Siri, Alexa – was vermittelt es für ein Bild, dass es weibliche Stimmen mit weiblichen Namen sind, die uns ohne Widerworte in jedem Aspekt unseres Alltags unterstützen sollen? Eine ähnliche Frage stellt sich bei einem im letzten Jahr entwickelten System, das anhand eines Fotos eines Menschen feststellen sollte, ob er oder sie homosexuell ist. Nicht nur die Annahme, dass es tatsächlich bei 70-80% der Bilder funktionierte, ist diskussionswürdig – sondern auch warum überhaupt danach gefragt wurde: „Es gibt ganz viele andere Fragestellungen – hat das Aussehen etwas mit Bildung zu tun, oder einer sozialen Stellung in der Gesellschaft, oder beim Einstellungsverfahren: Spielt bei der Einstellung in Firmen das Aussehen eine Rolle? All das ist interessant und wäre damit erklärbar. Aber es wurde eine sexuelle Frage gestellt, eine Frage nach der sexuellen Orientierung. Und das ist grenzwertig“, sagt Thieme. Es sind nicht nur die Daten, die wir auswählen, es beginnt viel weiter davor: Was für Fragen stellen wir uns überhaupt? Was wollen wir mit unseren Algorithmen erreichen? Und was sagt die Antwort auf diese Fragen über unsere Gesellschaft aus?

Algorithmen helfen uns, zu erkennen, was bereits in unserer Gesellschaft verankert ist, so fest, dass es nicht mal mehr bemerkt wird, nicht hinterfragt wird, sondern akzeptiert. Die Algorithmen erkennen diese Muster und verstärken sie. So stark, dass erkannt wird, dass es eben nicht akzeptiert werden kann. Und dann folgt ein Aufschrei. Es ist ein Paradox: Einerseits die Möglichkeit zu erkennen, wo wir Diskriminierung haben;  andererseits die Gefahr einer neuen, weniger offensichtlichen Diskriminierung. So oder so: Bei dem Aufschrei müssen wir aufpassen, dass er die richtigen Verantwortlichen trifft – denn es sind nicht die Algorithmen, die diskriminieren, es sind unsere gesellschaftlichen Strukturen.

Titelbild: Photo by Oleg Laptev on Unsplash

Der Begriff Künstliche Intelligenz, KI, scheint fest in den Strukturen unseres Alltags verankert. Er begegnet uns nicht nur, wenn wir in sozialen Netzwerken unterwegs sind, Suchmaschinen nutzen oder uns überhaupt im Internet aufhalten. Auch in selbstfahrenden Autos beispielsweise; oder in der Medizin – Algorithmen, die Krankheiten diagnostizieren, die darüber entscheiden, wie Spenderorgane verteilt werden.  Gerade in diesen Bereichen wirkt es erschreckend, wenn die Metapher der Blackbox auftaucht. Es entsteht das Bild einer Technologie, deren Entscheidungen von niemandem nachvollzogen werden kann. Auch nicht von den Menschen, die sie programmiert haben. In diesem Artikel versuchen wir, eine technische Antwort auf die Frage zu finden, wie das eigentlich sein kann.

„Nur eine definierte Abfolge von Tätigkeiten, um das Problem zu lösen – mehr ist es nicht“

Um besser zu verstehen, was wir an KI eigentlich nicht verstehen, müssen wir uns anschauen, was hinter der Technologie steht. Der Begriff Künstliche Intelligenz beschreibt – streng genommen – etwas, was momentan noch gar nicht existiert. Was genau Intelligenz bedeutet ist zwar eine Definitionsfrage, aber ein System, das der vorherrschenden Vorstellung von menschlicher Intelligenz nahe kommt, gibt es derzeit noch nicht. Stattdessen fungiert KI als Sammelbegriff für eine ganze Reihe an Algorithmen, an Systemen, die jeweils eine bestimmte Aufgabe erfüllen. Schwache Künstliche Intelligenz (narrow Artifical Intelligence) lautet die eigentlich zutreffende Bezeichnung.

Davon ist nicht jede automatisch eine Black Box. „Algorithmen sind zunächst nicht einmal ausschließlich digital“, sagt Dr. Sebastian Thieme, Bioinformatiker und -physiker, der versucht, den abstrakten Begriff ein wenig plastischer werden zu lassen. „Ein Zauberwürfel zum Beispiel, wenn man den löst, ist das auch ein Algorithmus. Ein Algorithmus ist nichts anderes als ein Lösungsweg für ein Problem. Nur eine definierte Abfolge von Tätigkeiten, um das Problem zu lösen – mehr ist es nicht.“ Bei dem Zauberwürfel können wir dann eindeutig sagen, wie wir ihn gelöst haben: Ein paar Mal nach links drehen, dann nach rechts, die weiße Seite zuerst.

Mit einer Black Box hat das höchstens die eckige Form gemeinsam. Wird es also erst kompliziert, wenn wir die digitale Ebene erreichen? „Es gibt einige digitale Algorithmen, bei denen man genau weiß, warum sie auf ein bestimmtes Ergebnis gekommen sind. Beispielsweise regelbasierte Arten. Bei ihnen wird sozusagen ein Entscheidungsbaum abgelaufen. Man fragt jedes Mal: Ist diese Bedingung erfüllt? Falls ja, laufen wir nach rechts, falls nein, nach links.“ Zahlensortiert könne man es sich ganz gut vorstellen. Man nehme irgendeine Kugel mit einer Zahl, lasse sie hereinfallen und sie nimmt einen ganz bestimmten Weg durch den Baum – alle Zahlen größer als fünf nach rechts, alle kleineren nach links. „Jeder kann sich diesen Baum aufmalen und verstehen, warum aus der Ausgangssituation dieser Weg resultierte. Deshalb mag ich diese Art von Algorithmus. Sie sind einfach zu verstehen, weil sie unheimlich intuitiv sind.“ Warum nutzten wir dann nicht immer Algorithmen, die wir verstehen? Wäre das nicht nur konsequent intuitiv? So einfach ist es leider nicht. Wie oft ist es auch hier so, dass ein Ja gleichzeitig ein Nein bedeutet: „Will ich nachvollziehen, wie eine Entscheidung getroffen wird und akzeptiere dafür häufiger, dass das Ergebnis nicht korrekt ist, oder will ich es häufiger korrekt haben – und verstehe es dafür nicht, habe also die Black Box?“, fragt Professor Florian Ellsaesser des Centre for Human and Machine Intelligence der Frankfurt School of Finance and Management. Ein Ja zu absoluter Nachvollziehbarkeit kann in einigen Fällen ein Nein zu bestmöglicher Leistung bedeuten: „Das ist typischerweise der Trade-Off. Komplette Nachvollziehbarkeit oder Neuronale Netzwerke – sonst würde jeder die nachvollziehbaren verwenden.“

Knoten und Kanten statt Neuronen und Synapsen

Damit sind wir bei der schwarzen Kiste angekommen: Künstliche neuronale Netze, die Algorithmen, die wohl von sich behaupten dürften, die Metapher der Black Box geprägt zu haben. Um zu verstehen, was sie so schwieriger nachzuvollziehen macht, als beispielsweise ihre regelbasierten Alternativen, müssen wir einen Blick auf ihre Struktur werfen. Ein neuronales Netz könnte man sich vorstellen wie ein Gehirn, erklärt Thieme. Aber anstelle von Neuronen und Synapsen spricht er von einem System aus Knoten und Kanten: Die Knoten sind unsere Neuronen, hier in Form von mathematische Formeln, die Kanten die Synapsen, hier die zu den Formeln gehörenden Gewichte. Diese Knoten sind hierarchisch angeordnet, die einzelnen Hierarchiestufen werden als Schichten oder Layer bezeichnet. Geeignet sind solche Systeme vor allem für Aufgaben wie das Erkennen von Bildern, Gesichtern oder Sprache.

Wie kann dieses Netz nun einen Output generieren, eine Zielfunktion erfüllen? Um einen Output zu erzeugen, also beispielsweise um zu erkennen, ob auf einem Foto eine Katze oder keine abgebildet ist, wird das System mit Daten gefüttert – Input. In diesem Fall sind das Fotos, viele Fotos, von Katzen und ab und zu anderen Tieren dazwischen. „Diese Bilder nehmen dann einen bestimmten Weg durch das Netzwerk. Irgendwann lernt das Netzwerk sozusagen: Wenn dieser eine Weg genommen wird, ist es eine Katze. Wenn es einen anderen Weg nimmt, ist es keine Katze.“ Neuronale Netze sind Systeme, die maschinell lernen. Das Netzwerk soll am Ende in der Lage sein, eine Katze auf dem Foto zu erkennen. In dem Katzenbeispiel von Thieme funktioniert das auch sehr gut – bis der Algorithmus auf einmal ein Foto eines Meerschweinchens auf einem Sofa als Katze erkennt. Was gibt es nun für Möglichkeiten, das zu erklären?

„Das ist wie bei den ganzen Strukturen im Gehirn – da kann man auch kein einzelnes Neuron benennen, wenn man etwas zu erklären versucht“

Die Schwierigkeit nachzuvollziehen, welcher Weg warum genommen wurde, begründet sich in der Komplexität der Systeme: „Man muss sich vorstellen, dass sie hunderte von verschiedenen Layern haben, mit Millionen von Knoten. Es lässt sich nicht einfach sagen: Ah, okay, wegen dieses Knotens ist das jetzt so“, sagt Thieme. Der Versuch, die Black Box einfach zu öffnen, also in den Algorithmus hineinzuschauen, mache aufgrund der unzählig vielen Knoten, Kanten und Layer schlichtweg keinen Sinn. „Das ist wie bei den ganzen Strukturen im Gehirn, da kann man auch kein einzelnes Neuron benennen, wenn man etwas zu erklären versucht“, so auch Ellsaesser. Außerdem ist es auch hier ähnlich wie bei menschlichen Gehirnen: Es gibt nicht nur eine Version von neuronalem Netz, die überall benutzt wird. „Das neuronale Netz“ gibt es genauso wenig wie es beispielsweise „den Deutschen“ oder „den Ausländer“ gibt – wir bewegen uns immer noch in einem unheimlich generellen Begriffsspektrum, warnt Ellsaesser. Da neuronale Netzwerke für jede Aufgabe oder Zielfunktion individuell programmiert werden, unterscheiden sie sich in vielerlei Hinsicht, wie beispielsweise der Art der Hierarchie oder Verknüpfungen zwischen den Knoten.

Wir können lediglich ein Gefühl dafür entwickeln, wie der Algorithmus funktioniert

Doch besteht nun irgendeine Möglichkeit, wenigstens das neuronale Netz unserer Katzenfotos nachvollziehbarer zu machen? Tatsächlich gibt es die. Es ist durchaus vorstellbar, die Black Box wenigstens ein bisschen verständlich zu machen; zwar nicht transparent, aber etwas wie dunkles Milchglas scheint möglich. „Eine Idee ist, mit verschiedenen Inputs zu spielen und zu schauen, was das Modell rauswirft. Beispielsweise könnten wir mit einem Algorithmus fragen, ob jemand ein politisch engagierter Bürger werden wird – und er gibt aus, dass ich kein solcher Bürger werde. Wenn wir jetzt verstehen wollen, woran das liegt, können wir verschiedene Parameter nehmen und die variieren“, erklärt Ellsaesser. „Wir fragen uns, was passieren würde, wenn ich meinen Universitätsabschluss ändern würde. Wenn ich nicht in Frankfurt studiert hätte, sondern beispielsweise in Berlin – was würde sich ändern?“ Dieses Ausprobieren passiert natürlich nicht analog, sondern systematisch; ein weiterer Algorithmus übernimmt diese Arbeit. „So bekommt man ein Gefühl dafür, wie der Algorithmus funktioniert.“ Keine Gewissheit also, aber immerhin eine Idee der Funktionsweise.

Wenn man solche Verfahren im Katzenbeispiel anwendet erkennt man, dass das neuronale Netz nie gelernt hat Katzen zu erkennen – sondern Tiere auf Sofas. In dem Datensatz, mit dem der Algorithmus trainiert wurde, saßen überdurchschnittlich viele Katzen auf einer Couch, weshalb der Algorithmus das Sofameerschweinchen fälschlicherweise für eine Katze hielt. Vermutlich. Denn: „Am Ende des Tages ist es eben immer noch eine Black Box. Wir haben lediglich ein besseres Verständnis davon, wie sie funktioniert – aber wir kennen nicht jedes Detail, wir werden es nie zu 100 Prozent nachverfolgen können.“

Gilt das nur für Algorithmen?

Bedeutet das, dass wir die Technologie nicht nutzen sollten? Sollten wir nicht verstehen, was wir tun? „Es ist ein wenig so, wie wenn Sie einen Menschen fragen: Ihre Nachbarin, wird sie eine engagierte Studentin werden? Menschen werden das mit Ja oder Nein beantworten und einige Gründe dafür nennen können, aber auch nicht alle. Wenn ich ihnen dann ein paar Parameter gebe, beispielsweise, dass sie in der Schule immer schon sehr gute Noten hatte – dann kann man beobachten, wie sich ihre Entscheidung verändern würde“, erklärt Ellsaesser weiter.

Es drängt sich  also die Frage auf, inwiefern sich eigentlich unsere eigenen Handlungen und Urteile von einer Black Box unterscheiden. Uns ist häufig eben nicht alles über die Art, wie wir Urteile fällen oder Entscheidungen treffen bekannt. Wenn ich gefragt werde, ob meine Nachbarin irgendwann eine gute Studentin sein wird, werde ich nicht alle Parameter benennen können, die meine Antwort beeinflussen. Vielleicht habe ich in der Vergangenheit mehr weibliche statt männliche Studierende kennengelernt, vielleicht halte ich Frauen grundsätzlich für klüger oder ehrgeiziger, vielleicht bin ich Pessimistin. All das oder zumindest ein Teil davon fließt in meine Entscheidung mit ein, ohne dass ich mir dessen voll bewusst bin; ohne, dass ich benennen könnte, wie stark welcher Faktor die Entscheidung getrieben hat. Und hier ist es wie Ellsaesser sagt – erst, wenn er mich zu vielleicht ein paar zehn oder hundert verschiedenen möglichen Nachbarn mit unterschiedlichem Alter, Geschlecht, Hobbies befragt, werden wir vielleicht eine Idee davon bekommen, welche Faktoren zu wie viel Prozent hinter meinen Entscheidungen stehen.

Warum die Black Box noch ein anderes Problem darstellt

So ein Vergleich impliziert natürlich nicht, dass diese Algorithmen keine Probleme darstellen. Vielmehr soll er zeigen, dass etwas, was noch nicht hundertprozentig nachvollzogen werden kann, nicht automatisch abgelehnt werden sollte. Er soll zeigen, dass gelernt werden muss, differenziert mit so einer Technologie umzugehen. Wenn man das tut, fällt vielleicht auch auf, dass Algorithmen noch auf eine ganz andere Art eine Black Box darstellen. Es scheint, dass für viele Menschen nicht nur neuronale Netze, sondern jeglicher digitale Algorithmus eine Black Box darstellt – dass, obwohl wir doch so viel darüber sprechen, vielen nicht bewusst ist, dass Künstliche Intelligenz bisher noch nicht existiert, oder dass der Großteil der Algorithmen mehr mit einer Kaffeemaschine gemeinsam hat als mit der Science-Fiction-Vorstellung eines menschenähnlichen, bösartigen, weißen Roboters. Das fehlende Wissen und das daraus resultierende fehlende Einschätzungsvermögen ist gleichermaßen ein Problem, über das gesprochen werden muss und dem entgegengewirkt werden muss. Was uns dazu bewegt hat, diesen und die folgenden Artikel zu schreiben.

Titelbild: Photo by Falco Negenman on Unsplash

Digitalisierung bringt neue, vorher nicht da gewesene Handlungsmöglichkeiten. Sie wirft Fragen auf, die wir vorher nicht gestellt haben – und auf die auch ethische Antworten gefunden werden müssen. Benötigen wir dafür eine neue Ethik, oder genügen bereits existierende ethische Frameworks? Die Arbeitsgruppe Ethik hat sich das Ziel gesetzt, ethische Grundvorstellung auf die digitalisierte Gesellschaft zu übertragen. In der Veranstaltung am 21.06.2018 beschäftigt sich die Arbeitsgruppe mit der Corporate Digital Responsibility – welche Verantwortungen haben Unternehmen in einer digitalen Gesellschaft? Wir werden heute politische und wirtschaftliche Interpretationen dieser Frage hören.

CDR heißt, „Verantwortung nicht an der Garderobe der Digitalisierung abzugeben“

„Für uns“, sagt Stephan Engel, Head of Corporate Responsibility der Otto Group, „ist Ethik Teil unserer wirtschaftlichen Erfolgsfunktion.“ In erster Regel sei er Kaufmann, Hamburger Kaufmann, nicht Ethiker. Angenehm ehrlich wirkt er mit seinem Bekenntnis. Dennoch, so steht es in dem 80 Seiten langen Imagebericht seines Unternehmens, bedeutet Kaufmannsein eben auch, sogenannte Kaufmannstugenden zu berücksichtigen: Werte sind essentiell für sein Unternehmen. Engel fährt fort: „CDR heißt, Verantwortung nicht an der Garderobe der Digitalisierung abzugeben.“ Was genau steckt hinter dieser Verantwortung? Neben den Vorteilen der Digitalisierung führt die Schnelligkeit, mit der sie voranschreitet, auch zu Verunsicherung, so steht es in dem Otto-Bericht. Das scheint Björn Stecher, stellvertretender Geschäftsführer der Initiative D21, zu meinen, als er kurz darauf von Vertrauensankern spricht, an denen sich Menschen festhalten können. „Es ist wichtig, Vertrauen zu schaffen“, sagt er, „um die Komplexität der Digitalisierung für die Gesellschaft zu reduzieren.“ Vertrauen ist ein Wort, das noch häufiger auf dieser Veranstaltung fällt, es scheint von hoher Bedeutung zu sein. Doch inwiefern ist das Schaffen dieses Vertrauens Teil dieser Verantwortung? Wie lässt sich der abstrakte Begriff CDR konkretisieren?

CDR als digitale Ergänzung einer CSR?

Jens-Rainer Jänig, Geschäftsführer der Kommunikationsagentur mc quadrat, versucht sich an einer Definition: Corporate Digital Responsibility sei Verständnis von Unternehmensverantwortung in und für eine digitale Gesellschaft. Es umfasse es eine regulierte und eine freiwillige Ebene: Einerseits also das Einhalten relevanter Gesetze oder Richtlinien, andererseits die Wahrnehmung einer freiwilligen Verantwortung bei der Mitgestaltung der digitalen Gesellschaft. Im Fokus, so Jänig, sollen die über die regulative Ebene hinausgehenden freiwilligen Maßnahmen stehen. In der anschließenden Diskussionsrunde sorgt das für Unklarheit bei anderen TeilnehmerInnen: An Regeln halten – ist das wirklich Verantwortung oder nicht vielmehr Selbstverständlichkeit, ja, eine notwendige Rahmenbedingung für gesellschaftliche Teilnahme? Aber, antwortet Stecher darauf, ist es beispielsweise mit der DSGVO überhaupt noch so eindeutig, inwiefern, wann und wo ein Unternehmen gegen Recht verstößt? Eine klare Antwort wird es heute also nicht darauf geben.

CDRs Vorgängerin, die Corporate Social Responsibility, ist lange ein Begriff. Sie umfasst in der Regel die zusätzlichen Pflichten und Verantwortlichkeiten, die ein Unternehmen sich auferlegt, nicht die gesetzlichen. Allerdings ist CDR ungleich CSR: Jänig fragt sich, welche Rolle CDR neben CSR einnehmen soll. Ist sie etwas grundlegend neues, nur eine digitale Neuinterpretation dessen, was bereits existiert – oder sollten wir sie vielmehr als Ergänzung verstehen?

Besonders groß, das ist für Jänig bereits eindeutig, ist allerdings die Verantwortung von Unternehmen in sehr marktmächtigen Positionen. Unternehmen mit monopolähnlicher Stellung, wie Google, dürfen nicht nur reagieren, sondern müssen proaktiv die Fragen beantworten, die Digitalisierung in Bezug auf Gesellschaft und Ethik aufwirft.

Beschwerdemanagement als Bestandteil einer CDR

Zuletzt hören wir die politische Perspektive. Wolfgang Teves vom Bundesministerium der Justiz und für Verbraucherschutz  erklärt, was aus seiner Sicht Potentiale einer CDR sind. Auch für ihn spielt Vertrauen eine Schlüsselrolle, auch für ihn geht CDR über Regulierungen hinaus: CDR ist etwas, das flexibler ist, und von jedem Unternehmen individuell definiert und umgesetzt werden kann. Die Handlungsfelder einer CDR sind für jedes Unternehmen, vom traditionellen Konzern bis zum Start-Up, unterschiedlich, anders als allgemeingültige Gesetze. Für Teves ist außerdem klar, dass es bei CDR um mehr geht, als nur um Transparenz und Datenschutz: Aus seiner Sicht als Verbraucherschützer sind auch Beschwerdemanagement und Streitbeilegungsverfahren essentielle Bestandteile von digitaler Verantwortung.

Teves sucht auch offen die Diskussion: Wie kann Politik CDR mitgestalten, und wie kann sie das Übernehmen von Verantwortung in der Digitalisierung begleiten? Für ihn steht fest, dass verschiedene Akteure zusammenarbeiten müssen: Politik, NGOs, Unternehmen, internationale Organisationen. Wie passend, dass aus jedem Feld heute jemand an der Sitzung der AG Ethik teilnimmt.

Am Ende Veranstaltung ist deutlich geworden, welche Schlüsselrolle Vertrauen zukommt. Es wird allerdings auch deutlich, dass wir erst am Anfang stehen: Wir wissen, dass CDR von großer Bedeutung ist – doch wie wir sie gestalten und was sie genau beinhalten wird, muss noch geklärt werden. Ist sie einfach nur ein Teil der CSR – die nun eben neben einer analogen, auch eine digitale Komponente umfasst? Oder ist sie wirklich etwas grundlegend Andersartiges? Derzeit suchen wir noch nach Antworten auf diese Frage, die die Rolle von immer digitaler werdenden Unternehmen prägen wird.

Die Arbeitsgruppe Ethik trifft sich einmal im Quartal und wird geleitet von der Initiative D21. Mehr Informationen dazu gibt es hier.

Titelbild: © Redaktion.

Der Grimme Online Award geht in die 18. Runde. Seit 2001 prämiert er qualitativ hochwertige Online-Angebote, die sich an die allgemeine Öffentlichkeit im deutschsprachigen Raum richten. Dieses Jahr sind 28 Angebote in vier Kategorien – Information, Wissen und Bildung, Kultur und Unterhaltung sowie Spezial – nominiert.

Publizistische Qualität im Netz

Angebote können Websites, bestimmte Projekte und Einzelleistungen, oder Apps sein – wichtig ist, dass ein klarer Mehrwehrt zu erkennen ist; dass ein zumindest für Teile der Gesellschaft relevantes Thema aufgegriffen und gut und nachvollziehbar kommuniziert wird. Was davon sich dann besonders für einen Award qualifiziert, bestimmt eine unabhängige Jury anhand verschiedener Kriterien wie der Inhalte, der Nutzerfreundlichkeit des Angebots oder die visuelle Aufbereitung.

Der Publikumspreis als Möglichkeit der Partizipation

Besonders an dem Grimme Online Award ist allerdings, dass nicht nur besagte Jury entscheidet, sondern auch das Publikum die Möglichkeit hat, aktiv teilzunehmen. Interessierte können nicht nur im Vorfeld selbst Nominierungsvorschläge einreichen, sondern eben auch ihren eigenen Publikumspreis vergeben. Diesen gewann im letzten Jahr übrigens die Youtube-Satire der Datteltäter.

Die Preisverleihung findet am 22. Juni in der Flora in Köln statt. Wer verfolgen möchte, wer nun letztendlich den Publikumspreis (sowie all die anderen Awards) gewinnt, aber nicht live dabei sein kann, kann dies über einen Livestream tun. Ab 18:45 Uhr wird vom roten Teppich aus gesendet.

Die Abstimmung ist noch bis zum 17. Juni 2018 um 23:59 Uhr möglich. Dabei können bis zu drei Stimmen abgegeben werden. Hier geht es zur Abstimmung  und hier kann zusätzlich mehr über die Nominierten erfahren werden.

Titelbild: © Grimme Online Award, Screenshot.

„Lasst uns Streiten!“ ist eine Plattform der Sächsischen Landeszentrale für politische Bildung, die seit 2016 den Meinungsaustausch und Dialog zu aktuellen politischen Themen ermöglicht. Ihre aktuelle Diskussion dreht sich um Fragen der Netzpolitik: Ist das Internet der Jobmotor der Zukunft? Brauchen wir digitale Medienbildung als Schulfach? Diese Gedanken stellen die Grundlage für insgesamt vier Thesen dar, die diskutiert werden sollen.

Eine Plattform, die den Dialog mit jedem ermöglicht

Die Plattform lädt dabei jeden ein, am Austausch teilzunehmen – unabhängig von seiner oder ihrer Vorbildung; unter eigenem Namen oder anonym. Dafür werden zu jeder These Hintergrundinformationen in Form von Texten, Internetseiten oder Statistiken angeboten. Dann wird zu den einzelnen These online abgestimmt: Bin ich dagegen, stimme ich zu – oder stehe ich ihr neutral gegenüber? Die Positionierung muss auch mit einem kurzen Statement begründet werden. Ein Moderationsteam sorgt anschließend dafür, dass dieses veröffentlicht wird. Nach Absenden der Position wird der Verfasser oder die Verfasserin außerdem mit einer Gegenmeinung konfrontiert – ein richtiger Dialog eben.

Wir müssen konstruktiv streiten

Die Moderation durch die Plattform ist essentiell. Ein so geschützter Diskussionsraum, der rationales und sachliches Argumentieren ermöglicht, ist notwendig, um „konstruktiv streiten“ zu können. Durch Social Media wird das Kommentieren und Veröffentlichen der eigenen Meinung immer einfacher – die Probleme, die wir diskutieren, aber auch immer komplexer. Die Anonymität im Internet oder Fake News sind dabei nicht zwingend gute Voraussetzungen für eine adäquate Argumentationskultur. Ein Ort für konstruktives Streiten und Argumentieren ist heute also wichtiger denn je.

Dialogrunden, wie aktuell zu Netzpolitik und Demokratie, finden alle drei Monate statt; geöffnet ist der Dialog dabei für etwa einen Monat. Die aktuelle Diskussion ist noch bis zum 25.06.2018 geöffnet. Zur Teilnahme sowie zu weiteren Informationen rund um die Plattformen und ihre Themen geht es hier.

Titelbild: © Sächsische Landeszentrale für Politische Bildung, bearbeitet.