Könnte Siri ein Bewusstsein entwickeln und wenn ja, müssten wir ihr dann auch Menschenrechte zuerkennen? Wie sollen autonome Fahrzeuge in Dilemmasituationen reagieren und können sie vielleicht sogar selbst Verantwortung übernehmen? Die Digitalisierung stellt die Philosophie vor eine Reihe neuer Probleme, die letztlich alle in einer Frage münden: Was ist der Mensch und wodurch unterscheidet er sich von Maschinen? Die Antwort, welche dieses Buch hierauf bietet, ist ganz einfach – es ist die typisch menschliche Fähigkeit sein Urteilen, Handeln und Fühlen von Gründen leiten zu lassen.

Ist es denkbar, dass künstliche Intelligenzen ein Bewusstsein entwickeln und welche Folgen hätte das für uns und unseren Umgang mit Technik? Wären vielleicht sogar Freundschaften zwischen Mensch und Maschine möglich oder lassen sich soziale Beziehungen nicht digitalisieren? Wie groß ist der Einfluss des Internet auf die heutige Kultur und kann es vielleicht sogar die Demokratie retten? Das erste, was einem beim Lesen dieses Buches ins Auge fällt, ist, wie viele philosophische Aspekte das Gebiet der Digitalisierung umfasst. Viele dieser Fragen kennen wir aus Filmen wie I Robot, Star Trek oder Matrix. Doch in Zeiten, in denen autonome Fahrzeuge und humanoide Roboter längst Realität sind, sind wir nun gezwungen, eine Ethik für das Zeitalter der Künstlichen Intelligenz zu entwickeln.

Eine Ethik für das Zeitalter der künstlichen Intelligenz

Dieser Aufgabe widmet sich nun – wie der Untertitel schon sagt – das Buch Digitaler Humanismus – eine Ethik für das Zeitalter der Künstlichen Intelligenz. Es ordnet sich dabei ein in eine Reihe von Schriften, in denen der Münchner Philosoph Julian Nida-Rümelin sich mit den ethischen Aspekten gesellschaftlich besonders relevanter Themen auseinandersetzt und die eine enorme Breitenwirkung entfalten konnten. Nach Ökonomie, Bildung und Migration ist nun die Digitalisierung an der Reihe. Einen Sonderstatus erhält dieses Buch allerdings dadurch, dass die ethischen Reflexionen eingebettet sind in den Mythos der Digitalisierung, wie wir ihn aus Filmen und Science-Fiction-Romanen kennen. Zu verdanken ist dies der Zusammenarbeit mit Nathalie Weidenfeld. Weidenfeld besuchte die berühmte Lee Strassberg Schauspielschule in New York und ist promovierte Kultur- und Filmwissenschaftlerin. Derzeit arbeitet sie als freie Schriftstellerin und Lektorin in München. Seit 2001 ist sie verheiratet mit Julian Nida-Rümelin. Julian Nida-Rümelin studierte Philosophie und Physik und promovierte bei dem bedeutenden Wissenschaftstheoretiker Wolfgang Stegmüller. Nachdem er von 2001 bis 2002 Kulturstaatsminister war, kehrte er als Professor an die Universität zurück und zählt heute zu den einflussreichsten deutschen Intellektuellen. Darüber hinaus ist Nida-Rümelin Leiter des Bereiches Kultur am Zentrum Digitalisierung Bayern. Das vorliegende Buch verspricht also einen kundigen Einblick in die ethische und philosophische Dimension der Digitalisierung zu geben.

Jeder kennt die dystopische Vorstellung, dass menschliches Leben lediglich als Simulation in einer Matrix existiert. Oder das moralische Dilemma, vor das sich Sonny am Ende des Filmes I Robot gestellt sieht. Einen Großteil unserer Vorstellungen und Urteile bezüglich künstlicher Intelligenz beziehen wir aus Kinofilmen, Serien und Romanen. Und genau hier setzt dieses Buch an. Es handelt quasi im Mythos der Digitalisierung und versucht diesen philosophisch zu dekonstruieren. Anhand verschiedener Filmszenen werden die zu behandelnden Fragestellungen zuerst eröffnet und ausgeleuchtet, worauf dann die wissenschaftliche Analyse folgt. Dadurch greifen die Autoren Fragen auf, die man sich so oder so ähnlich selbst schon einmal gestellt hat. Das verleiht diesem Buch eine gewisse Plastizität und macht es auch Laien einfach greifbar. Doch auch an fachlichem Wissen mangelt es keineswegs. Systematisch folgt die Argumentation stets dem Humanismus Nida-Rümelins, wonach es die typisch menschliche Fähigkeit ist, sein Urteilen, Handeln und Fühlen von Gründen leiten zu lassen, die den Maßstab für unseren Umgang mit Technik abgeben muss.

Der digitale Humanismus wendet sich dabei sowohl gegen den Digitalisierungspessimismus als auch gegen die Silikon-Valley-Ideologie und ihre Idee eines Transhumanismus. Künstliche Intelligenz solle als Gelegenheit gesehen werden, ein menschliches und freies Leben zu befördern. Der Grundtenor ist hierbei stets: Ja, die Entwicklung künstlicher Intelligenz stellt uns vor eine Reihe neuer Probleme, aber wenn wir unser alltägliches Urteilen kohärent auf den Bereich der Digitalisierung übertragen, lassen sie sich gewinnbringend lösen.

Künstliche vs. menschliche Intelligenz

Doch was unterscheidet nun für Weidenfeld und Nida-Rümelin künstliche von menschlicher Intelligenz? Zuerst einmal besitzen Roboter keine Intentionen. Sie wollen nicht. Maschinen sind nicht in der Lage, sich selbst Ziele zu stecken oder Projekte zu verfolgen. Sie folgen lediglich vorher von Menschen festgelegten Operationen – auch selbstlernende Computer. Die Aufgaben verteilt noch immer der Programmierer. Und diese Abhängigkeit von Algorithmen ziehe eine grundsätzliche Trennlinie zwischen menschlichem Denken und digitalem Rechnen. Hierbei greift die Argumentation immer wieder auf ein meta-mathematisches Theorem zurück, wonach ein hinreichend komplexes System – wie eben auch das menschliche Urteilen, Handeln und Empfinden eines ist – nicht vollständig algorithmisch gefasst werden kann. Dieses Defizit schließe Roboter kategorisch von einer Vielzahl typisch menschlicher Eigenschaften aus.

So können Maschinen beispielsweise keine Würde besitzen, da diese aus der Fähigkeit entstehe, ein Leben nach eigenen Vorstellungen zu leben, Autor seines eigenen Lebens zu sein. Ohne Autorschaft keine Menschenwürde. Auch die Möglichkeit eines freien Willens bekommen die Roboter abgesprochen. Sie seien nicht in der Lage, eigene Gedanken und Vorhaben in die Tat umzusetzen. Computer folgen Stromimpulsen und sind damit lediglich Glieder in vorherbestimmten Kausalketten. Und wie steht es um die vielleicht wichtigste Eigenschaft: Die Emotionalität? In vielen Filmen sind Roboter Gefühlen zugänglich, und moderne weit ausgereifte Humanoiden scheinen durchaus menschliche Züge entwickeln zu können. Aber auch hier sind die Autoren äußerst kritisch. Wer glaube, Roboter können Gefühle empfinden, nur weil sie sich so verhalten als ob, sitze einem Irrglauben auf. So wie das Kind, das beim Zahnarzt versucht nicht zu weinen, den Schmerz dennoch fühlt, könne im Umkehrschluss die Turing-Maschine Gefühle zwar simulieren, nicht aber empfinden. Fühlen lasse sich eben nicht auf Verhalten reduzieren.

Liquid Democracy, Digitale Bildung und Bedingungsloses Grundeinkommen

In einigen der zwanzig Kapiteln werden aber nicht nur tiefenphilosophische Grundsatzfragen diskutiert, es wird auch explizit auf aktuelle politische Debatten Bezug genommen. Besonders intensiv wird dabei das Thema autonomes Fahren behandelt.  Zentrales Argument: KIs versagen bei moralischen Dilemmata! In gewissen Gefahrensituationen muss ein selbstfahrendes Auto beispielsweise entscheiden, ob es seinen Insassen in Lebensgefahr bringt oder auf Passanten auf dem Gehweg zusteuert. Während Menschen eine falsche Entscheidung, die im Bruchteil einer Sekunde getroffen wird, nachgesehen werden könne, müssen selbstfahrende Autos im Vornherein und nach reichlicher Überlegung auf ein gewisses Verhalten programmiert werden. Dies wiederum führe zu erheblichen Problemen mit dem ethischen und juristischen Grundsatz der Nicht-Verrechenbarkeit von Menschenleben. Man kommt nicht drum herum, das Töten von Menschen dem Auto einzuprogrammieren.

Eine erstaunlich scharfe Kritik erfährt die Idee eines bedingungslosen Grundeinkommens. Die Behauptung, die Digitalisierung der Industrie mache Erwerbsarbeit überflüssig, sei empirisch falsch und eine Spaltung der Gesellschaft in hochbezahlte Erwerbsarbeiter und großzügig Alimentierte sei gefährlich. Auch der Vision, Politik mittels Internet und Liquid Democracy wieder bürgernah zu machen, erteilt dieses Buch eine Absage. Die große Zahl der Beteiligten mache den Entscheidungsprozess manipulationsanfällig und führe in Konflikte mit Bedingungen kollektiver und demokratischer Rationalität. An dieser Stelle werden neuerdings verschiedene Theoreme aus der Mathematik und der Entscheidungstheorie herangezogen. Eines der umfangreichsten Kapitel beschäftigt sich mit der digitalen Bildung. Anhand des Filmes Der Rasenmähermann aus dem Jahre 1992 werden die Schattenseiten einer ausgearteten Bildung im Sinne bloßer Wissensanhäufung beschrieben. Auch in Zeiten unbegrenzter Speicherung und Verfügbarkeit von Wissen müsse Bildung in erster Linie dazu dienen, die menschliche Urteilsfähigkeit zu schärfen und die zwischenmenschliche Kommunikation zu fördern.

Fazit: Ein Buch für Stunden der Muße – nicht für das philosophische Oberseminar

In Digitaler Humanismus – eine Ethik für das Zeitalter der Künstlichen Intelligenz werden die vielen verschiedenen philosophischen Aspekte der Digitalisierung einfach und eingängig behandelt und die Anbindung an bekannte Filme macht das Buch sehr unterhaltsam und besonders Technik- und SciFi-Begeisterten einfach zugängig. Leider fehlt es an einigen Stellen an philosophischer Tiefe. Zwar werden die wichtigsten Konzepte verständlich dargestellt und sinnvoll auf die digitalen Fragen bezogen, allerdings sind circa zehn Seiten pro Themengebiet einfach zu knapp, um wirklich einen tiefen Einblick in die Materie zu gewähren. Der geringe Umfang von gerade einmal zweihundert Seiten in Kombination mit dem ausufernden Stoffumfang macht eine ausführliche Abwägung der Argumente pro und contra unmöglich. Das wiederum führt dazu, dass verschiedene Abschnitte teils sehr deutlich aus einer bestimmten philosophischen Sichtweise heraus geschrieben sind. Weder die Frage nach der Willensfreiheit, noch die Ablehnung des Konsequentialismus sind in der Philosophie unumstritten. Vertraut man jedoch der Kompetenz der Autoren und verzichtet auf ausschweifende Begründungen, so erhält man ein Buch, das es schafft, Lesbarkeit mit akademischem Anspruch zu verbinden. Besonders sympathisch: Mit Hilfe anschaulicher Beispiele gelingt es den Autoren die Verbindung zur Lebenswelt nicht abreißen zu lassen, wenn die Begründung droht sich in den Wirren der theoretischen Philosophie zu verfangen,

Alles in allem handelt es sich bei Digitaler Humanismus – Eine Ethik für das Zeitalter der Künstlichen Intelligenz um ein Buch, das zwar keine wissenschaftlichen Ansprüche stellt, es allerdings weder an fachlicher Kompetenz noch an intellektuellem Anspruch mangeln lässt. Wer keine ausführliche Diskussion der verschiedenen ethischen Aspekte der Digitalisierung, sondern einen soliden und kurzweiligen Überblick über die einzelnen Themenbereiche erwartet, wird mit diesem Buch bestens bedient sein. Komplexe Zusammenhänge werden verständlich erläutert und die zwar gehobene, doch meist geradlinige Sprache ermöglicht ein flüssiges Lesen und schnelles Erfassen. Die Einbettung in den cineastischen Kontext und die gesellschaftliche Bedeutsamkeit des Themas machen dieses Buch einem breiten Publikum von Philosophie- und Technikinteressierten zugänglich und die Verbindung von Natur-, Kultur- und Geisteswissenschaft zeichnet ein möglichst vollständiges Bild eines digitalen Humanismus.

Titelbild:
Der Denker by Jean-David & Anne-Laure via Wikipedia Commons, CC-BY-SA 2.0

Bild des Buchcovers: © Piper Verlag

Das Ende August 2015 erschienene Buch „Smart Cities im Cyberwar“ beschäftigt sich zentral mit der Frage, wie die Städte der Zukunft funktionieren. Wird es eine Re-Urbanisierung geben? Was sagt der Wohnort über die eigene soziale Stellung aus und hat er Einfluss auf meine Lebenserwartung? Auf welche Konflikte muss sich unsere Gesellschaft in Zukunft einstellen? All diese Fragen möchte Florian Rötzer in seinem Buch beantworten – vor allem unter philosophischen und ethischen Gesichtspunkten. Er will darauf aufbauend verdeutlichen, welche Gefahren hinter der Digitalisierung der Städte und der damit verbundenen künftigen Art der Kriegsführung liegen. Diese Vorgehensweise ist nicht kulturpessimistisch – auch wenn man in kurzen Momenten zu diesem Schluss kommen könnte. Die Digitalisierung ist nicht aufzuhalten, wir müssen uns schlicht darauf einstellen.

Vom erweiterten Körper und anderen philosophischen Gedankenspielen

Florian Rötzer ist seit 1996 Chefredakteur des Online-Magazins Telepolis. Es berichtet und schreibt unter dem Dach des Heise-Vertrags über gesellschaftliche Themen wie Politik, Klima, Wissenschaft oder Medien. Er ist studierter Philosoph und arbeitete nach seinem Studium als freier Autor und Publizist mit dem Schwerpunkt Medientheorie und Medienästethik. Der Tagesspiegel bezeichnete ihn vor Jahren als „Deutschlands bekanntesten Online-Philosophen“.

Und diese Prägung merkt man dem Buch „Smart Cities im Cyberwar“ deutlich an. In vielen Passagen des Buches analysiert Rötzer soziale Prozesse aus einem philosophischen Blickwinkel. Für den entsprechend geneigten Leser mag das durchaus interessant sein – für jemanden, den das Thema Cyberwar interessiert, sind die langatmigen Beschreibungen mehr als nur schleppend. Kapitel 13 und 14 beschreiben beispielsweise, wie man den Körper mithilfe von Technik „erweitert“ – die Lust, die Smart City „als Teil seiner selbst zu erfahren“.

„Fassadenbegrünung durch im Boden wurzelnde Selbstklimmer“

Problematisch werden diese philosophischen Schilderungen, wenn der Autor von den eigentlichen Themen abschweift. Es sind Passagen, die zwar in der Argumentation durchaus Sinn ergeben, aber im Kontext des Buches vollkommen obsolet sind. Beispielsweise beschreibt Rötzer die Entdeckung der Agoraphobie, die Angst vor weiten Plätzen oder Menschengedrängen. Schön zu wissen, wenn man mal bei Günther Jauch auf dem Stuhl sitzt, aber warum muss das im Zusammenhang mit Cyberwar erwähnt werden? Auch die Beschreibung des Vorgangs des Lachens – ebenfalls aus der philosophischen Sichtweise – ist eventuell noch interessant, aber bitte nicht zwischen Digitalisierung und elektromagnetischen Impulsbomben.

Zwischenzeitlich gleitet das Sachbuch dann auch noch in literarische Schreibstile ab. „Die Schreber- und Kleingärten waren die Vorläufer, die nun von Urban Gardening oder Farming erweitert werden, während die Vertical Gardens oder Living Walls die Fassadenbegrünung durch im Boden wurzelnde Selbstklimmer wie Efeu oder andere Kletterpflanzen, die Gerüste wie Wein, Glyzinie oder Rosen benötigen, weiter entwickeln.“

Mark Zuckerman

In weiten Teilen des Buches sind Cyber-Sicherheit und Cyberwar darüber hinaus nicht die zentralen Themen. Oft geht es um die alltägliche Digitalisierung unseres Lebensraums. Seien es Wearables wie Fitness-Armbänder, private Drohnen oder die komplett automatisierte Küche. Manchmal liegt der Gedanke nicht fern, dass der Titel nicht vom Autor eingereicht, sondern Idee des Verlags war. „Cyberwar“ klingt definitiv reißerischer als „Digitalisierung aller Lebensbereiche“.

Abgesehen von diesen Kritikpunkten muss man Florian Rötzer mit seinem Buch ein durchaus gelungenes Einstiegswerk in die digitalen Problematiken unserer Zeit bescheinigen. Vor allem jene Kapitel, die den Cyberwar behandeln, geben interessante Einblicke in Militärstrategie und neue Arten der Kriegsführung. Der rote Faden, die Argumentationslinie, ist fast durchweg nachvollziehbar, sofern man die Kapitel über die Erweiterung des Körpers mal ausblendet. Und die Tatsache, dass der Facebook-Chef laut Rötzer offenbar „Mark Zuckerman“ (S. 116) heißt.

Bild: Brian Hawkins, CC BY-SA 2.0