Ohne Zweifel gibt es erschreckende Beispiele, die die Schattenseite individueller menschlicher Entscheidungshoheit im Rechtsystem offenbaren. In einer prominenten Studie der New Yorker Columbia University und der israelischen Ben-Gurion-Universität wurden mehr als tausend Urteile von acht unterschiedlichen Richter*innen an zwei israelischen Gerichten untersucht. Das Ergebnis macht in eindrucksvoller Weise die inhärente Willkür von verschiedenen Einflussfaktoren auf die Richter*innen in gerichtlichen Prozessen deutlich. Die Forscher*innen untersuchten, ob die Angeklagt*innen eine Bewährungs- anstatt einer angedrohten Haftstrafe erhalten. Das Ergebnis ist erstaunlich und sorgte nicht nur im soziologischen Diskurs für Aufmerksamkeit. Es stellte sich nämlich heraus, dass Richter*innen vor einer Mittagspause dazu tendieren, im Sinne des Status Quo zu urteilen, und dieser Effekt nach eingenommenen Mittagessen verblasst. Mit anderen Worten sind Gerichtsurteile davon beeinflusst, ob der oder die zuständige*r Richter*in hangry ist oder nicht.

Hinsichtlich der Ergebnisse der Studie scheint eine Utilisierung von emotionslosen, algorithmus-basierten KIs auf den ersten Blick sehr hilfreich. Die Mathematikprofessorin Hanna Fry identifiziert in ihrem Buch Hello World – Was Algorithmen können und wie sie unser Leben verändern verschiedene gerichtliche und anwaltliche Prozesse, bei denen künstliche Intelligenz bereits heute eine Rolle spielt. Zum Beispiel benutzen Anwält*innen innovative Instrumente, um Verträge zu erstellen oder lassen sich bei der Beurteilung und Einordnung von Beweisen unterstützen. Des Weiteren können sogenannte Language Processing Models Anwälte dabei unterstützen, Vergleichsfälle und frühere Urteile zu recherchieren. Dadurch können in manchen Fällen die Anwaltskosten signifikant gesenkt und somit der Zugang zu rechtlichem Beistand für viele erleichtert werden. Außerdem unterstützen KI-Systeme die Richter*innen bei der Einschätzung über die Wahrscheinlichkeit der Rückfälligkeit von Straftäter*innen durch die Auswertung von demografischen und personenbezogenen Daten oder schlagen passende Interventionsprogramme vor. In den USA sind diese sogenannten Risk Assessment Tools bereits fester Bestandteil der juristischen Praxis. Jedoch sorgen diese seit der Implementation für Kritik und es wird gemahnt, dass durch die Funktionsweise des maschinellen Lernens ebenfalls Ungerechtigkeiten entstehen können.

Das Justizsystem weiß selber, dass es nicht perfekt ist. Jedoch ist nicht ohne Grund der oft postulierte Anspruch: Justitia ist blind. Nichtsdestotrotz gibt es ungerechte Urteile beziehungsweise viele Urteile fühlen sich ungerecht an. Ist dementsprechend ein blinder Algorithmus, dem keine Intuition und Gefühlszustände zugrunde liegen, letzten Endes ein besserer Richter? KI kann zwar bei der Entscheidungsfindung der Gerichte helfen, birgt aber bei der Anwendung in juristischen Prozessen selbst auch gewisse Fallstricke. Grundlage für KI-Systeme sind immer Daten. Bei der Anwendung innerhalb der Rechtsprechung werden diese Daten zumeist direkt aus der juristischen Praxis entnommen. Die Algorithmen werden mit den Ergebnissen von vergangenen Prozessen trainiert – dadurch werden beispielsweise rassistische und sexistische Einschätzungen menschlicher Entscheidungsträger*innen direkt übernommen und somit herrschende Ungleichheiten reproduziert. Beispielsweise beschreibt das Deutsche Institut für Menschenrechte in seinem Bericht Rassismus in der Strafverfolgung in mehreren Fachbeiträgen Missstände in den gerichtlichen Arbeitsabläufen. Die Expert*innen stellen fest, dass ausländische Kläger*innen aufgrund verschiedener Gründe wie zum Beispiel Sprachbarrieren oder Vorurteilen weniger ernst genommen werden, aber auch explizit rassistisch motivierte Straftaten oft nicht hart genug bestraft werden würden. Dieselben Gefahren werden von der Rechtsprofessorin Giula Gentile skizziert. Sie betrachtet die Voreingenommenheit der Datengrundlage als eine der größten Risiken. Es gäbe keine Garantie dafür, dass KI-gestützte Gerichte mit grundlegenden Werten wie der Unabhängigkeit der Justiz und letztlich der Rechtsstaatlichkeit im Einklang stehen.

Verschiedene Wissenschaftler*innen sind sich zumindest einig, dass schon heute künstliche Intelligenz dazu beiträgt, eine Effizienzsteigerung bei juristischen Arbeitsprozessen zu erzielen. Diese Entwicklung wird sicherlich in den kommenden Jahren zunehmen. Giula Gentile mahnt, dass es in dem Zusammenhang jetzt die Aufgabe von Expert*innen sei, festzustellen, was bei der Algorithmisierung der Justiz verloren geht. Sie betont, dass KI kein Allheilmittel für die Fehlerhaftigkeit von Gerichten sein kann.
Außerdem hält sie fest, dass sich durch den Einfluss von Algorithmen auf die Rechtspraxis das Bild von Richter*innen und deren Autorität verändern wird. Das Bild der Rechtsprechung als moralische Institution wird sich zunehmend wandeln. Schon heute kann künstliche Intelligenz durch Einschätzungen und Prognosen der Justiz dabei helfen, gerechtere Urteile zu fällen. Beispielsweise werden Empfehlungen zur Bewährungsdauer artikuliert, passende Interventionsprogramme vorgeschlagen oder die Höhe von Kautionen empfohlen. Hanna Fry fasst das wie folgt zusammen: Algorithmen seien zwar noch nicht in der Lage, Beweise zu analysieren und Reue zu bewerten und somit über Schuld zu entscheiden – jedoch können Sie die Richter*innen dabei unterstützen möglichst viele Aspekte in ihr Urteil mit einzubeziehen. Die juristische Entscheidung bleibt somit weiterhin (noch) in menschlicher Hand. Ob und wie Künstliche Intelligenz in der Rechtsprechung unterstützt, sollte zumindest in der Begründung von Urteilen transparent gemacht werden müssen. So gibt es zwar Diskussionen darüber, wie eine Transparenz, insbesondere bei komplexen maschinellen Lernsystemen, sichergestellt werden kann, inwiefern diese Bedenken auch im AI Act ausreichend aufgegriffen werden, bleibt abzuwarten.

Foto von Titiwoot Weerawong auf vecteezy

Oft werden deswegen die Algorithmen von sozialen Medien wie Facebook und Instagram kritisiert, weil sie zumindest intransparent sind und vermutet wird, dass sie für eine zunehmende Polarisierung der Gesellschaft mitverantwortlich sind. So wird die Entstehung von sogenannten Filterblasen in sozialen Netzwerken als potenzielle Bedrohung für die Demokratie betrachtet, da Algorithmen dort populistische und ideologisierte Meinungen verstärken können. Nun deuten aktuelle Studien darauf hin, dass die Auswirkungen von Algorithmen möglicherweise weniger gravierend sind, als sie in den vergangenen Jahren dargestellt wurden. Wie valide sind diese Erkenntnisse? In welchem Maße beeinflussen uns Algorithmen tatsächlich? 

In insgesamt 16 Studien wurde untersucht, welchen Einfluss Facebook und Instagram auf die Verbreitung von Falschinformationen, politische Beteiligung und Polarisierung haben. Die ersten Studien wurden jetzt in den wissenschaftlichen Zeitschriften „Science“ und „Nature“ veröffentlicht. Die Forschungsarbeit ist eine Kooperation zwischen externen Wissenschaftler*innen und Wissenschaftler*innen vom Konzern Meta, dem Mutterkonzern von Facebook und Instagram, der auch die Studien finanzierte. Es ist das erste Mal, dass das Unternehmen mit externen Forscher*innen kooperiert und ihnen Zugang zu Daten von ihren sozialen Plattformen zur Verfügung stellt.

An drei der Studien beteiligten sich freiwillig mehrere zehntausend US-amerikanische Facebook- und Instagram- Nutzer*innen. In Umfragen wurden die Studienteilnehmer*innen vor, während und nach den Studien zu ihren politischen Einstellungen befragt. Darüber hinaus wurde das Wissen über politische Standpunkte der Präsidentschaftskandidaten Donald Trump und Joe Biden abgefragt. 

Die erste Studie untersuchte das Verhalten von knapp 23.400 Facebook Nutzer*innen und knapp 21.380 Instagram Nutzer*innen über einen Zeitraum von drei Monaten. Die Teilnehmer*innen wurden in zwei Gruppen aufgeteilt: Eine Hälfte sah die Beiträge auf ihren Startseiten in chronologischer Reihenfolge, während die andere Hälfte Beiträge erhielt, die vom bestehenden Algorithmus der Plattform ausgewählt wurden.  

Die Hypothese war, dass eine Abkehr vom typischen Algorithmus der Plattformen zu einer Abschwächung der Polarisierung führen würde. Diese wurde anhand des Grades der Unterstützung für die Partei, mit der die Teilnehmer*innen sympathisierten, ermittelt. Jedoch konnte diese Hypothese nicht bestätigt werden.

Bei der chronologischen Anzeige des Feeds wurden den Nutzer*innen mehr politische Inhalte angezeigt. Auch der Anteil von politischen Inhalten aus nicht vertrauenswürdigen Quellen stieg im Vergleich zum algorithmischen Feed um mehr als zwei Drittel an. Obwohl das Verhalten der Nutzer*innen durch die chronologische Sortierung beeinflusst wurde – sie interagierten weniger mit den Beiträgen und verbrachten insgesamt weniger Zeit auf den Social-Media-Plattformen – konnte keine Reduzierung der Polarisierung oder ein Einfluss auf politisches Wissen und Überzeugungen festgestellt werden. Die erhebliche Bedeutung des Algorithmus für Meta aus ökonomischer Sicht wird aber deutlich, da dieser dazu beiträgt, Nutzer*innen länger auf der Plattform zu halten. 

Bei einer zweiten Studie wurde die Auswirkung von den sogenannten Filterblasen (oder auch Echokammern genannt) untersucht. Dafür wurde der Algorithmus für eine Gruppe der Teilnehmer*innen so angepasst, dass Inhalte aus gleichgesinnten Quellen im Feed nicht mehr priorisiert worden sind.  Inhalte, die der Meinung des Nutzers/ der Nutzerin entsprechen, wurden damit um rund ein Drittel reduziert. Infolgedessen wurden vermehrt Inhalte aus Quellen außerhalb der politischen Einstellung angezeigt. Auch hier konnte nicht festgestellt werden, dass die Änderung des Algorithmus Auswirkungen auf die politische Extremität, die Polarisierung und die Meinung zu den Präsidentschaftskandidaten hatte. Die Studienteilnehmer*innen interagierten weniger mit den Inhalten, die nicht ihren politischen Überzeugungen entsprachen, einen Einfluss auf ihre politischen Meinungen hatten diese aber nicht.

In einer dritten Studie wurden bei einer Gruppe von Teilnehmer*innen alle Reshares (Beiträge, die im Feed auftauchen, weil sie von anderen Seiten geteilt wurden) aus dem Feed entfernt. Die Entfernung von Reshares führte zu einer Verringerung der Anzahl von Medienbeiträgen zu politischen Themen. Auch der Anteil an Posts aus nicht vertrauenswürdigen Quellen verringerte sich. Mit dem veränderten Algorithmus hatte sich das Nachrichtenwissen der Teilnehmer*innen verschlechtert und sie interagierten weniger mit den angezeigten Beiträgen. Auch in diesem Fall konnte aber kein Einfluss auf die Polarisierung oder politische Einstellungen der Proband*innen festgestellt werden.  

Alle Studien bestätigen, dass die Algorithmen der Plattformen von Meta die Inhalte beeinflussen, die von Nutzer*innen gesehen werden. Sie beeinflussen auch das Verhalten auf den Plattformen, zum Beispiel die Nutzungszeit oder die Interaktion mit Beiträgen. Es gibt aber wenig Beweise dafür, dass Algorithmen die Nutzer*innen auch außerhalb der Plattform beeinflussen. Denn es konnte nicht nachgewiesen werden, dass die Algorithmen von Meta einen Einfluss auf politische Überzeugung der Nutzer*innen haben oder zur Polarisierung beitragen. Die bisherigen Forschungsergebnisse werfen also ein positives Licht auf Meta. 

Kritiker*innen betonen, dass Meta trotz der Ergebnisse nicht aus der Verantwortung gezogen werden darf. Die Studienergebnisse würden lediglich zeigen, dass die Problematik der zunehmenden gesellschaftlichen Polarisierung weitaus komplexer ist und nicht durch einfache Änderungen des Algorithmus lösbar. Auch Andreas Jungherr, Politikwissenschaftler an der Otto-Friedrich-Universität Bamberg zweifelt an der Übertragbarkeit der Studienergebnisse auf die gesamte Gesellschaft: „Die Ergebnisse der Studien sind nicht über den Einzelfall hinaus verallgemeinerbar. Sicherlich kann man mit den Autorinnen und Autoren sagen, dass auf Basis dieser Befunde keine Polarisierung in der Breite der an der Studie Teilnehmenden festzustellen ist. Darüber hinaus wird es dünn.“ 

Weitere Kritiker*innen heben die Limitationen der Studien hervor: Zum einen sei der Zeitpunkt und die Dauer der Studiendurchführung (3 Monate) nicht optimal gewesen. Die Ergebnisse könnten anderes ausgefallen sein, wenn die Studien nicht während eines polarisierten Wahlkampfes und in dem spezifischen politischen Kontext der Vereinigten Staaten durchgeführt worden wären. Insbesondere im US-amerikanischen Zweiparteiensystem sei es schwierig, die politischen Überzeugungen der Wähler*innen zu verändern. 

Nach Andreas Jungherr seien die Studienergebnisse lediglich eine Momentaufnahme, da Newsfeed-Algorithmen sich ständig verändern. Auch Whistleblowerin Frances Haugen, die 2021 Tausende von internen Facebook-Dokumenten an die Börsenaufsichtsbehörde weitergab, betont, dass Meta bereits in den Monaten vor der US-Präsidentschaftswahl den Algorithmus der Plattformen verändert habe, um gegen extreme Beiträge vorzugehen. Eine generelle Aussage über den Einfluss von Instagram und Facebook in Wahlkämpfen könne also nicht getroffen werden. 

Zum anderen wird kritisiert, dass die Teilnahme an den ersten drei Studien auf Freiwilligkeit basierte. So sind die Studienteilnehmer*innen wahrscheinlich überdurchschnittlich aktive Nutzer*innen mit überdurchschnittlichem politischem Interesse. Daher können die Ergebnisse nicht unmittelbar auf die Gesamtbevölkerung übertragen werden. Frühere Studien zeigen bereits, dass bestimmte Gruppen (zum Beispiel ältere, eher rechte Männer) eher polarisierende Nachrichten in sozialen Medien konsumieren als andere. Eine Untersuchung der Auswirkung des Algorithmus auf solche spezifischen Gruppen könnte also lohnenswert sein.  

Die Leiter*innen der externen Forscher*innen der Studien Talia Jomini Stroud und Joshua A. Tucker kommentieren die Ergebnisse wie folgt: „Wir wissen jetzt, wie einflussreich der Algorithmus ist, aber wir wissen auch, dass eine Änderung des Algorithmus, und sei es auch nur für ein paar Monate, die politischen Einstellungen der Menschen wahrscheinlich nicht verändern wird. Was wir nicht wissen, ist, warum. Es könnte daran liegen, dass der Zeitraum, in dem die Algorithmen geändert wurden, nicht lang genug war, oder dass es diese Plattformen schon seit Jahrzehnten gibt, oder dass Facebook und Instagram zwar einflussreiche Informationsquellen sind, aber nicht die einzigen Quellen, die Menschen verwenden.”

Die Forschung zu den Auswirkungen von digitalen Plattformen ist schwierig, da der Zugang zu Daten von Social-Media-Plattformen begrenzt ist. Die Zusammenarbeit zwischen Meta und externen Wissenschaftler*innen verspricht erste Einblicke auf den Einfluss von Algorithmen. Wie bei jeder Industrie-Wissenschaftskooperation muss aber die Unabhängigkeit der Ergebnisse kritisch hinterfragt werden. Die Studien sind von Meta finanziert worden und der Konzern habe Einfluss auf das Forschungsteam und die Forschungsfragen gehabt.

Die Ergebnisse der Studien stellen Meta positiv dar. Zudem haben die Studien nach Jungherr eine „große rhetorische Kraft“, durch ihren renommierten Publikationsort, die große Menge an Daten und die Beteiligung von renommierten Wissenschaftler*innen. Das sei besonders bedenklich, da die Studienergebnisse jetzt mit großer Wahrscheinlichkeit in der Öffentlichkeit und gegenüber der Politik benutzt werden, um Facebook und Instagram als ungefährlich darzustellen. Es sei zu erwarten, dass „die Grenzen der Generalisierbarkeit der Arbeiten dabei keine allzu große Beachtung finden“. 

Er betont die Notwendigkeit zur Entwicklung von Leitlinien für die Zusammenarbeit mit der Tech-Industrie. Nur so können Potenziale genutzt werden, aber gleichzeitig sichergestellt werden, dass Unternehmen keine Forschungsagenda prägen und Forschungsergebnisse nicht für PR-Zwecke manipuliert werden können. 

Foto von Warren auf Unsplash.

Anwendung und Bewusstsein

Generell bemängelt die im Sommer 2018 von der Bundesregierung eingesetzte Kommission die Anwendung des bisher schon geltenden Rechts, vor allem der Datenschutz-Grundverordnung (DSGVO). Diese gibt dem Gesetzgeber zwar rechtliche Instrumente zur ethische Datennutzung an die Hand, die dieser aber nur ungenügend einsetzt. Darüber hinaus wünscht sich die Kommission ein verstärktes Bewusstsein der Akteure in den Behörden ob der bestehenden Möglichkeiten.

Zentrale Forderungen

Kernelement des Berichts ist ein Regulierungsansatz, der algorithmische Systeme in fünf verschiedene Risikostufen einordnet und dementsprechend Handlungsempfehlungen formuliert. Beginnend mit der ersten, risikoarmen Stufe ohne Regulierungsmaßnahmen über sukzessive Erhöhung von Kontrolle und Zulassung in den Stufen zwei, drei und vier, bis zur fünften und restriktivsten Stufe, die auch Vorbote vorsieht. Vor allem „Medienintermediäre“ wie Facebook oder YouTube sollen bei meinungsrelevanten Themen in höhere Risikobereiche eingestuft werden. Das Gleiche gilt für staatliche Akteure, vor allen in den sensiblen Bereichen der Rechtssetzung und Rechtsprechung. Hier hält die DEK eine umfassende Risikoabschätzung für algorithmische Systeme für notwendig.

Diese Einstufungen sollen in einem übergreifenden Modell eingebunden werden, welches weitere, verschiedene Elemente, wie eine Kennzeichungspflicht für algorithmische Systeme, Zugangsbestimmungen zu Informationen für Wissenschaftler*innen und Journalist*innen und eine digitale Erweiterung des Diskriminierungsgesetzes beinhaltet. Darüber hinaus schlägt die DEK Kompetenzerweiterungen im staatlichen und wirtschaftlichen Sektor in Form eines bundesweiten Kompetenzzentrums für algorithmische Systeme und Algorithmusbeauftragte für Unternehmen vor. Schließlich sollen die Maßnahmen auf EU-Ebene beschlossen und nationalstaatlich konkretisiert werden.

Reaktionen

Während Tabea Rößner und Konstantin von Notz von den Grünen wohlwollend kommentieren, dass die Vorschläge die Betreiber in die Pflicht nehmen und Verbote für vollautomatisierte Systeme nicht kategorisch ausschließen, kritisiert der Präsident des IT-Verbands Bitcom, Achim Berg, in einer Stellungnahme für das Handelsblatt den Generalverdacht gegenüber „fast allen Algorithmen“. Auch für Oliver J. Süme vom eco – Verband der Internetwirtschaft e.V. „ist die Kommission deutlich übers Ziel hinausgeschossen.“ Er warnt vor einer „Digitalisierungs-Bremse“.

Lorenz Matzat von der Organisation Algorithm Watch begrüßt die Empfehlungen der DEK, kritisiert diese allerdings als zu schwammig formuliert. Für Carla Hustedt und Falk Steiner von Algorithmenethik, einem Projekt der Bertelsmann-Stiftung, ist der Bericht „der konkreteste Entwurf eines regulatorischen Rahmens mit definierten politischen Gestaltungszielen, über den zu streiten sich lohnt.“

Über die Datenethikkommission

Die Datenethikkommission wurde im Juli 2018 von Bundesregierung ins Leben gerufen, um ethische und rechtliche Fragen im Zusammenhang mit Algorithmen, Künstlicher Intelligenz sowie den Umgang mit Daten zu beantworten. Sie besteht aus 16 Expert*innen aus den Bereichen Technik, Ethik und Recht.

Einsatz von Algorithmen und KI im Gesundheitsbereich: What’s new?

Um einen Einstieg in das komplexe Thema des Abends zu finden, fragte die Moderatorin Dr. Andrea Timmesfeld (Head of Public Affairs & Community Engagement der Generali Deutschland AG) ihre Panelisten, was sich durch den Einsatz von KI im Monitoring von Krankheiten getan habe. Prof. Dr. Bert Arnrich (Professor für Digital Health – Connected Healthcare am Hasso-Plattner-Institut der Universität Potsdam) konstatiert: „Neu ist, dass viele der Technologien und Sensoren jetzt in Alltagsgegenstände eingebaut sind. Sie sind so klein, dass wir sie nicht bemerken.“ EKGs in Apple Watches und Smartphones, die gesundheitsrelevante Daten messen, seien nur zwei Beispiele für diese Entwicklung. Prof. Dr. med. Jörg Debatin (Chairman Health Innovation Hub) findet, diese Features funktionierten „verdammt gut“. Wichtig sei aber, aus den gesammelten Daten das Relevante zu filtern. Ein Vorteil der Nutzung von Sensorik im Alltag sei, dass körperliche Veränderungen früher erkannt würden, so Debatin. Die Features arbeiteten sozusagen präventiv: „Man muss nicht mehr auf die Krise warten, bis der Patient zum Arzt geht.“ Wenn man beispielsweise eine offene Wunde ständig mittels einer App dokumentiert und Bilder an einen Dermatologen übersenden lässt, könne bei Infektionen schneller eingegriffen werden. Zudem bestünde dann kein Laboreffekt, der möglicherweise die Ergebnisse verfälscht.

„Ich werde bei Ihrer Untersuchung Künstliche Intelligenz verwenden“

Ist das ein Satz, den Patienten eigentlich öfter hören müssten? Ist die Ärzteschaft stets in der Verpflichtung ihre Patienten über den Einsatz von Algorithmen und KI-Anwendungen aufzuklären? Dr. Frank Niggemeier (Leiter des Referats Ethik im Gesundheitswesen im Bundesministerium für Gesundheit) findet, nur wenn die KI-Methode Teil des akzeptierten Behandlungsverfahrens ist, müsse keine gesonderte Aufklärung erfolgen. Und was, wenn KI genutzt wird, um Empfehlungen für die weitere Behandlung des Patienten zu geben? Niggemeier ist sich sicher: „Eine optimale Behandlung erfolgt dann, wenn der Patient beide Meinungen hört, die der KI und des Arztes. Wenn es zwischen ihnen Ambivalenzen gibt, muss ein mündiger Patient selbst entscheiden was er möchte“, denn wie Ingeborg Bachmann schon sagte: „Die Wahrheit ist dem Menschen zumutbar.“ Grundsätzlich, so Niggemeier, sollten Patienten solange über die Nutzung von KI im Gesundheitsbereich aufgeklärt werden, bis sie sich vollends etabliert habe. Schließlich würde man heute auch keinem Patienten mehr über die Benutzung eines Stethoskops unterrichten.

„Solange wir die Kernprobleme in der Gesundheit nicht angehen, werden wir die Möglichkeiten der KI nicht ausschöpfen“

Das findet zumindest Prof. Dr. Gerd Gigerenzer (Direktor des Harding Zentrums für Risikokompetenz). Studien hätten gezeigt, dass ¾ der Ärzte in Deutschland Gesundheitsstatistiken und Kernbegriffe nicht verstehen würden. Dies läge vor allem an der schlechten Ausbildung der Medizinstudierenden. Big Data könne nur da Probleme lösen, wo alles stabil sei: „Einen Hautkrebs kann KI erkennen. Wenn es aber volatil wird, da hilft Big Data wenig. Da sind einfache Methoden besser. Digitalisierung hilft eben nicht, wenn sie nicht verstanden wird.“ Debatin bricht an dieser Stelle eine Lanze für die Mediziner. Durch NC-Verfahren selektiert, seien die meisten von ihnen ziemlich kompetent. Wichtiger findet er, dass sie sich der Grenzen der KI bewusst würden.

Digitalisierung und Gesundheit: Verlierer Deutschland

Laut einer Bertelsmann Studie von 2018 hinkt Deutschland im Bereich Digitalisierung und Gesundheit stark hinterher. Anrich sieht das Problem vor allem darin, dass es in Krankenhäusern und Praxen zu viele unterschiedliche digitale Systeme zum Sammeln von Patientendaten gibt, die untereinander nicht kompatibel seien. In Ländern wie China und USA sei dies anders. Niggemeier erwähnt in diesem Kontext die kulturgeschichtlichen Erfahrungen Deutschlands. Der (Daten-)Schutz des Individuums würde in Deutschland nicht umsonst groß geschrieben: „Vor 80 Jahren hätten die Daten, die wir heute haben, das Mordinstrument Staat was es damals gab, noch besser funktionieren lassen“.

Wie sieht also die Zukunft des Gesundheitswesens in Bezug auf KI-Anwendungen aus? Anrich findet, KI-Verfahren sollten genutzt werden, um Ärzten zu assistieren, nicht um sie zu ersetzen. Debatin stimmt zu und glaubt dennoch, dass der Einsatz von KI zu massiven Veränderungen im Gesundheitsbereich führen könne. Und auch Niggemeier denkt, dass es in 20-30 Jahren etwa das Berufsbild des Radiologen so nicht mehr geben wird.

In der Schlussrunde bittet Timmesfeld darum, dass sich ihre Diskutanten, in ein Zukunftsszenario reindenken: „Es ist 2030. KI wird in der Früherkennung von Krankheiten genutzt und kommt in 99 % der Fälle zum richtigen Ergebnis. Würden sie am Verfahren teilnehmen?“ Der Konsens lautet: „Ja.“ Lediglich Ginzerer ist und bleibt skeptisch.

Titebild by: politik-digital

„Computer sind unbrauchbar. Sie können nur Fragen beantworten;“ stellte einmal der Maler Pablo Picasso fest. Am Ende eines jeden Jahres steht die wichtige Frage: „Was für ein Jahr?!“

Fest steht bereits, 2018 wird wohl als das wärmste Jahr seit Beginn der Wetteraufzeichnungen in die Geschichte eingehen. Aber heiß her ging es auch on- wie offline. politik-digital war wieder dabei und blickt zurück. Was für ein Jahr?! Das war das digitale Jahr 2018.

Digitales Durcheinander

Die gute Nachricht gleich vorab: Deutschland ist Spitzenreiter in Sachen Digitalisierung. Ok,diese Meldung wünschen sich wohl viele für die Zukunft. Wir kommunizieren, konsumieren, leben und lernen immer mehr im Netz. Aber sobald es um die öffentliche Verwaltung geht, da klopft noch immer das 20. Jahrhundert an. Sprühten die Parteien im Bundestagswahlkampf noch vor Ideen für den digitalen Wandel, werden die digitalen Aufgaben nicht weniger, sondern mehr. Aber die neue Staatsministerin für Digitales Dorothee Bär zeigt sich durchaus optimistisch: „Ich habe es mir schwieriger und komplizierter vorgestellt!“ Vielleicht neigt das digitale Deutschland auch zu digitalem Durcheinander: „Wir sind sehr perfektionistisch und warten lieber, bis wir 110 Prozent haben, anstatt mit 80 Prozent einfach mal loszulegen!“

Wer nun loslegen möchte, kann sich gleich über Mobile Recruiting via App und Algorithmen um eine Tätigkeit bewerben, ganz flexibel und mobil wie die digitale Generation Z. Es ist zu vermuten, dass sie einige gute Ideen hätten. Sie erkennen immer besser die Chancen und Risiken der sozialen Medien und beginnen, diese Angebote immer bewusster (nicht) zu nutzen.

Smarte Cities und schlaue Dörfer

Deutschland wird digitaler und Deutschland wird urbaner. Immer mehr Menschen ziehen aufgrund der besseren Arbeitsmöglichkeiten und Chancen in die Großstädte. Bis 2050 wird geschätzt, dass etwa 75% der Weltbevölkerung in urbanen Regionen leben werden. Angesichts dieses Zuwachses wird nach nachhaltigen intelligenten Lösungen gesucht, den Smart Cities. Mithilfe modernster Informations- und Kommunikationstechnologie sollen Nachhaltigkeit, Wachstum und ein hoher Lebensstandard in den Städten von morgen umgesetzt werden.

Sommerzeit ist Reisezeit, daher machte sich politik-digital auf, die Smart Cities von morgen schon heute zu erkunden. Mithilfe der Smart Favela App ging es durch die im wahrsten Sinne des Wortes unbekannten Ecken und Kanten von Rio de Janeiro. Mit diesen gesammelten Daten führte die Reise nach Kopenhagen zum „Big Data Marketplace“, auf dem Daten gesammelt, erworben oder selbst hochgeladen werden können. Der Robocop fuhr Streife durch den Wüstensand von Dubai. Für eine spritzige Erfrischung sorgte ein Abstecher nach Wien zum Projekt „Viertel Zwei“. In diesem Neubaugebiet werden die Möglichkeiten von Blockchain genutzt, um aus Konsumenten Produzenten zu machen, die Energieversorgung der Zukunft zu revolutionieren. Das kleine Santander macht eines besonderes deutlich: Eine smarte Stadt braucht vor allem auch smarte Bürgerinnen und Bürger, die diese Stadt annehmen, gestalten und weiterentwickeln wollen.

Bei allen schönen Urlaubserinnerungen dürfen die ländlichen Räume nicht vergessen werden. Hier macht sich der demographische Wandel besonders deutlich. Immer mehr Arztpraxen schließen. Daher sind neue Ansätze der Telemedizin gefragt, die digitalen Möglichkeiten der Diagnose zu nutzen ohne dabei die Sensibilität dieser Daten außer Acht zu lassen. Im besten Fall könnte es sogar gelingen, Menschen wieder auf das Land zu holen, fernab des Großstadtstresses im Coworking Space gemeinsam lokale und globale Ideen zu erarbeiten. Bisher scheitert dies immer noch am Breitbandausbau, so dass viele Gemeinden wie im Projekt MOROdigital selbst die Initiative ergreifen und den Breitbandausbau vorantreiben. Digitalisierung eröffnet neue Chancen, doch müssen dazu noch viele Fragen geklärt werden.

Das Spiel mit den Daten

Das ganze Leben ist ein Quiz, und wir raten, raten, raten! Wir produzieren Daten, Daten, Daten! Es war in einem Sommer, der niemals enden sollte, in einem Wahlkampf, der niemals enden wollte. Im Spiel um die Macht probierten Politik und Gesellschaft wieder einmal andere Wege. In Italien versucht sich beispielsweise die Fünf-Sterne-Bewegung an eine App basierten Demokratie, jedoch mit eher zweifelhaften Erfolg. Stimmungsbarometer versuchten, Wählerschaft und Wahlprogramme in Hessen zu verbinden. Für ein vielleicht passendes Match zu den Landtagswahlen sorgte der Wahlswiper, der Schritt für Schritt zur Wahl wischen sollte.

Demokratie in Echtzeit, dass verspricht die App Democracy mit aktuellen Gesetzesentwürfen. Endlich entdeckte auch die Politik die Gamerszene für sich, eine Anerkennung des E-Sport als offizielle Sportart bleibt jedoch noch abzuwarten. Was Politiker von Gamer allerding alles lernen können, das zeigt ein Blick in die Hochburgen der Gamerszene nach Asien, genauer gesagt China. Das neue Social Scoring System funktioniert wie ein großes Spiel mit über einer Milliarde Mitspieler. Wie im Game werden gute Taten, in diesem Fall parteikonformes Verhalten, belohnt und neue Level bzw. Zugänge zu gesellschaftlichen Positionen eröffnet. Fehlverhalten im Sinne der Spielemacher, hier der Kommunistischen Partei Chinas, werden im Gegenzug geahndet und bestimmte Rechte entzogen. Natürlich mag dies für den westlichen Beobachter befremdlich wirken, einer permanenten Überwachung ausgesetzt zu sein. Allerdings verfolgen Smart Toys mit GPS Funktion nicht eine ähnliche Zielsetzung?

In diesem Jahr trat nun die europäische Datenschutzgrundverordnung in Kraft. Trotz der teils berechtigten Kritik werden hierin grundlegende Rechte für die digitale Demokratie festgelegt. In diesem Jahr wurde erneut deutlich, dass es für den demokratischen Diskurs nicht reicht, online oder offline zu sein. Wichtig ist viel eher, dass die Demokratie durch die Herausforderungen der Digitalisierung nicht erstarrt sondern weiterhin in Bewegung bleibt.

Denken wir mal digital

„Will ich nachvollziehen, wie eine Entscheidung getroffen wird, und akzeptiere dafür häufiger, dass das Ergebnis nicht korrekt ist, oder will ich es häufiger korrekt haben – und verstehe es dafür nicht, habe also die Black Box?“ Angesichts der vielen aktuellen Fragen erscheint so manche politische Entscheidung kaum nachvollziehbar und je nach Betrachtung intelligent. Vielleicht kann hier ja eines der Schlagworte des Jahres, die künstliche Intelligenz helfen.  Zunächst klingt dies auch einfach wie vielversprechend. Unter KI sind vor allem Algorithmen zu verstehen, also ein Lösungsweg für ein Problem. Diese lernen indem sie aus Erfahrungen generalisieren, Muster erkennen, sowie mit Hilfe von Rückkopplungen Wege vorgeben. Ganz bescheiden müssen wir hier zugegeben, dass Algorithmen uns hier um viele Sequenzen voraus sind. Menschliche Intelligenz ist also, theoretisch, durchaus von Algorithmen zu erreichen.

Schon heute bestimmen Algorithmen unseren Musikgeschmack beeinflussen aber auch in riesigen Echokammern die politische Debatte, indem sie bestimmte Tendenzen verstärken. Technologie ist hier nicht neutral, sondern kann diskriminierend wirken, wenn es um bestimmte Eigenschaften wie Herkunft, Geschlecht oder Einkommen geht. Die Anwendung von Algorithmen befreit somit nicht aus der Verantwortung, sondern bedingt diese geradezu.

Bereits der IT-Pionier Alan Turing erkannte, dass Menschen keine Maschinen sein können. Anders als diese besitzen Menschen Intentionen, sind in der Lage sich selbst Ziele zu stecken und diese zu verwirklichen. Digital ist daher nicht immer gut und analog nicht immer besser.

Digital und dann?

Mittlerweile ist Digitalisierung zu einem Buzzword geworden. Alles spricht darüber, doch wer versteht wovon wir sprechen? Das Internet ist im Kern eine große Kommunikationsplattform. Die Gespräche hier haben keinen Anfang und kein Ende, sondern können jederzeit weitergehen.

Was unterscheidet den Menschen von der Maschine? Ein Kind erlernt innerhalb von drei Jahren auf Basis von etwa einem Gigabyte genetischer Information weitgehend autonomes, intelligentes Verhalten, sich in einer komplexen Umwelt zurechtzufinden. Hier versagen die Maschinen trotz viel höherer Rechenleistungen immer noch, da sie zu unstrukturiert starr sind.

Aus diesem Grund endet digitale Bildung nicht mit der Infrastruktur, sondern muss hier beginnen. „Es ist wie mit alten, kaputten Schulbüchern. Wenn die Seiten fehlen oder nicht mehr lesbar sind, kann man nichts lernen. Der Unterschied ist nur, unsere Bücher werden ersetzt, die Computer nicht“, lautetet eine Beobachtung aus dem Schulalltag. „Was wir wissen ist ein Tropfen, was wir nicht Wissen ist ein Ozean“, soll einmal Sir Isaac Newton gesagt haben. Angesichts der Datenmeere vermehrt sich das Weltwissen stetig und immer dynamischer. Daher wird es immer wichtiger zu wissen, wie dieses Wissen erarbeiten und anzuwenden ist.

Einst waren Bibliotheken die Zentren des Wissens. In Zeiten von E-Books könnten sie dies wieder werden. Heute werden Bibliotheken zu Treffpunkten für Do it yourself und vor allem Do it together, gemeinsam zu lernen. Der digitale Wandel erfordert Bildung für jedes Alter. Vielleicht wird der Generationenvertrag durch einen Digitalpakt ergänzt, in welchem technikaffine Menschen die Verantwortung für technikferne übernehmen, ihnen in diese Welt zu erklären.

Die digitale Debatte geht weiter? Ein Ausblick

„Die Demokratie kann die Grundlagen nicht schaffen, auf denen sie steht“ machte der ehemalige Bildungsminister Klaus von Dohnanyi deutlich. Wer sind wir, wenn wir online sind? Welche Regeln sollen für die digitale Gesellschaft online wie offline gelten? Dieser Frage widmeten sich die Dialogperspektiven. Hier wurden die Fragen nach Identität und Integration, die Suche nach Zugehörigkeit betrachtet. Digitale Technologien sind wie ein Fenster in die Welt. Verschiedene Erfahrungen, Prägungen aber auch Meinungen liefern den Rahmen für diese Fenster. Einflussreiche Organisationen haben dies längst für sich entdeckt und liefern mit ihrer Wortwahl das entsprechende Framing. Unterschiedliche Meinungen treffen im digitalen Raum aufeinander, werden zunehmend nicht diskutiert, sondern auch bewusst polarisiert. Initiativen wie DAS NETTZ versuchen diese Meinungen zu vernetzen, die demokratische Debatte zu fördern. Manchmal ist es weniger entscheidend, was gesprochen wird, sondern das überhaupt gesprochen wird. Vielfach wird diese Debatte eher verkürzt, emotionalisiert, um rasch an Aufmerksamkeit zu gewinnen. „In einer immer komplexeren Welt, die wir alle nur noch bruchstückhaft verstehen können, wird Glaubwürdigkeit zur entscheidenden Währung.“ Die Frage nach dem besten Argument kann nicht nur durch Wissen, sondern auch durch Werte und Wertungen beantwortet werden. Es braucht ein Gefühl für die digitalen ethischen Fragen. Entscheidend ist an dieser Stelle: „Digitalisierung darf zu keinem Unwort werden!“

Das Datenvolumen für 2018 ist nun aufgebraucht. Wie geht es 2019 weiter? „Am Schluss werden wir alle erkennen, dass jeder von uns ein ‘Algorithmus’ ist“.  Was für ein Jahr?! Die Antwort kann wohl niemand besser geben, als der berühmte Wissenschaftler Albert Einstein: „Wenn’s alte Jahr erfolgreich war, dann freue dich aufs Neue. Und war es schlecht, ja dann erst recht.“

Die Autorinnen und Autoren von politik-digital wünschen allen Leserinnen und Lesern einen guten Start in das digitale und analoge Jahr 2019.

Um es gleich vorwegzunehmen: Das, was solche Bilder vermitteln, hat wenig bis gar nichts mit der Technologie zu tun, die wir heute haben. Was wir heute haben, ist höchstens eine narrow AI, eine schwache künstliche Intelligenz. Das sind Algorithmen, die jeweils eine Aufgabe sehr gut ausführen; die Input bekommen und einen Output zu einer bestimmten Zielfunktion ausgeben. Auch, wenn es eine Definitionsfrage ist, was wir genau als intelligent bezeichnen – diese Algorithmen werden wohl nicht dazu gehören. Sie können keine Aufgaben kombinieren, weder reflektieren noch erklären, was sie tun. Diese schwache KI, sie hat wenig gemein, mit dem, was in Science-Fiction-Filmen oder der Google Suche vermittelt wird.

Dennoch halten sich anfangs beschriebene Assoziationen hartnäckig. Und damit verbundenes Unbehagen. Das scheint auch nicht völlig unbegründet, denkt man beispielsweise an die im letzten Jahr begonnene Diskussion zwischen Mark Zuckerberg und Elon Musk: Musk nimmt dabei die eher dystopische Seite ein; warnt davor, dass KI gefährlicher sei als nordkoreanische Atomwaffen. Als unverantwortlich betitelte Zuckerberg hingegen solche stark negativen Äußerungen. Hat er damit Recht – ist es unverantwortlich, so eindrücklich eine Warnung auszusprechen?

Die generelle künstliche Intelligenz

Die KI, von der Musk spricht, ist eine generelle KI. Eine, die viel leistungsfähiger ist als die Algorithmen, die wir kennen; die nicht nur eine einzige Aufgabe oder Zielfunktion löst, sondern zu viel mehr in der Lage ist. Was dieses „viel mehr“ genau impliziert, ist abhängig von unserem Verständnis von Intelligenz. Was benötigt ein System, damit es sich künstlich intelligent nennen kann? „Das ist eine Definitionsfrage. Sagen wir mal, sie sollte wirklich sein wie der Mensch –  es gibt dann immer noch die Frage, was den Menschen als intelligentes Wesen ausmacht“, sagt Professor Florian Ellsaesser vom Centre for Human and Machine Intelligence der Frankfurt School of Finance and Management. Aber was bedeutet Intelligenz, intelligent sein?

Dr. Sebastian Thieme, Bioinformatiker und –physiker, spricht von einer KI als ein System, das Intuition und Kreativität besitzt, und damit gemeinsam mit seinen Erfahrungen Entscheidungen treffen kann: „Wie ein Mensch, nur als Computer.“ Wenn wir diese Stufe erreichen, wird es sehr spannend, ist er sich sicher. „Das bedeutet ja, dass wir ein Objekt geschaffen haben, das selbst denkt. Wenn wir es herunterbrechen, wäre der Mensch ja quasi die erste Stufe der künstlichen Intelligenz – bloß nicht künstlich, sondern biologisch. Im Prinzip werden wir durch unser Gehirn komplett gesteuert, alles findet in unserem Kopf statt. Mit der KI bauen wir ja eine Art künstliches Gehirn. Das heißt, wir wären in der Lage, eine Lebensform zu schaffen – und weil wir sie schaffen, ist sie nun mal künstlich. Aber sobald es eine Lebensform ist, ist sie eigentlich auch nicht mehr künstlich.“

„Nur, weil wir Blut, Herz und Puls haben – ist das Leben?“

Wenn wir dort erst einmal angekommen sind, werden wir uns grundlegenden Fragen stellen müssen.  „Wo beginnt Leben? Wie definieren wir das? Nur, weil wir Blut, ein schlagendes Herz und Puls haben, – ist das Leben? Oder heißt Leben, Intuition, Intelligenz und Gefühle zu haben?“ Das sind momentan rein hypothetische Überlegungen, wir haben so etwas derzeit noch nicht. Ob eine KI Gefühle haben oder entwickeln könnte, irgendwann einmal, das weiß er selbst nicht genau. Aber solche Fragen sind nicht nur relevant, wenn wir über KI sprechen, sie offenbaren viel über das Menschen- und Weltbild, das wir haben. Was definiert uns als Menschen, uns als Gesellschaft? Würde ich mich einer Maschine, die ähnlich denkt wie ich, mit der ich Gespräche führen könnte, näher fühlen, als beispielsweise einem Frosch, mit dem ich nichts gemeinsam habe, außer einem Herzschlag? Oder ist es eben im Endeffekt doch dieser Herzschlag, der auf eine Weise verbindet, die schlichtweg nicht imitierbar oder ersetzbar ist?

„Das ist wie ein Geist, den man aus der Flasche lässt – schwierig, den wieder hineinzubekommen“

Noch ist es Zukunftsmusik. Aber wie lange wird das noch der Fall sein? „Ich glaube, dass der Computer irgendwann diese menschliche Intelligenz erreicht“, sagt Ellsaesser. „Aber was es momentan gibt, hat damit nichts zu tun. Diese Algorithmen können sehr gut Zusammenhänge extrahieren – wir geben Ihnen Daten und Zielfunktion, und sie optimieren dahingehend.“ Trotzdem glaubt Thieme, dass es nicht mehr in allzu ferner Zukunft liegt. „Teilweise wird geplant, das innerhalb der nächsten zehn Jahre zu schaffen – das wäre tatsächlich relativ zeitnah“, sagt er. Selbst wenn zehn Jahre noch eine zu optimistische Schätzung seien; seiner Einschätzung nach werden es die Generation der jetzigen Mittzwanziger und –dreißiger mindestens noch erleben. „Ich glaube, dass wir näher dran sind, als wir denken. Wir reden nicht mehr von hunderten von Jahren sondern einigen Jahrzehnten.“

Dass wir noch einige Jahre davon entfernt sind, bedeutet allerdings nicht, dass wir nicht über das sprechen sollten, was sein kann. Auch, wenn man dabei aufpassen muss: „Man muss darüber nachdenken, das ist wichtig, aber man muss differenzieren: Was ist derzeit mit den Algorithmen möglich; was, wenn sie noch besser werden und was ist Fantasie. Das heißt nicht, dass man darüber nicht nachdenken darf – man darf nur eben eines nicht verwechseln: Ist das eine Idee von der Zukunft oder bereits Realität?“, warnt Ellsaesser. Damit hat er selbstverständlich recht: Wenn wir darüber sprechen, wenn wir überlegen, was es bedeuten würde, eine generelle KI zu haben, müssen wir uns immer vor Augen führen, dass wir mit etwas Hypothetischem hantieren. Sonst überschätzen wir das, was wir im Alltag an Technologie finden, oder reden an der Realität vorbei. Es gibt allerdings Fragen, die wir uns heute schon stellen müssen, auf die wir heute schon versuchen müssen, Antworten zu finden. Das Monitoring von Algorithmen, also das Überwachen oder Prüfen von der Technologie, ist eine davon: „Das ist ein wichtiger Schritt, Algorithmenmonitoring, den wir gehen müssen, bevor wir eine generelle KI haben.“ Thieme ist sich sicher, dass wir uns jetzt schon Gedanken darüber machen müssen, welchen Rahmen eine generelle KI bekommen würde, welche Grenzen, die sie wirklich nicht verlassen dürfte. Denn: „Wenn wir es erst danach tun, wird es wahrscheinlich zu spät sein. Das ist wie ein Geist, den man aus der Flasche lässt – schwierig, den wieder hineinzubekommen.

Menschliche Intelligenz ist also, theoretisch, durchaus von Algorithmen zu erreichen – auch wenn es derzeit noch nicht geschehen ist. Trotzdem müssen wir uns fragen, was derartige Technologie darf und was nicht. Und wir werden uns fragen müssen, wie wir Leben und Intelligenz definieren, und wie wir uns als Menschen eigentlich verstehen. Was für ein Weltbild wir vertreten. Es wird spannend.

Titelbild: Photo by Marc Liu on Unsplash, CCO