Könnte Siri ein Bewusstsein entwickeln und wenn ja, müssten wir ihr dann auch Menschenrechte zuerkennen? Wie sollen autonome Fahrzeuge in Dilemmasituationen reagieren und können sie vielleicht sogar selbst Verantwortung übernehmen? Die Digitalisierung stellt die Philosophie vor eine Reihe neuer Probleme, die letztlich alle in einer Frage münden: Was ist der Mensch und wodurch unterscheidet er sich von Maschinen? Die Antwort, welche dieses Buch hierauf bietet, ist ganz einfach – es ist die typisch menschliche Fähigkeit sein Urteilen, Handeln und Fühlen von Gründen leiten zu lassen.

Ist es denkbar, dass künstliche Intelligenzen ein Bewusstsein entwickeln und welche Folgen hätte das für uns und unseren Umgang mit Technik? Wären vielleicht sogar Freundschaften zwischen Mensch und Maschine möglich oder lassen sich soziale Beziehungen nicht digitalisieren? Wie groß ist der Einfluss des Internet auf die heutige Kultur und kann es vielleicht sogar die Demokratie retten? Das erste, was einem beim Lesen dieses Buches ins Auge fällt, ist, wie viele philosophische Aspekte das Gebiet der Digitalisierung umfasst. Viele dieser Fragen kennen wir aus Filmen wie I Robot, Star Trek oder Matrix. Doch in Zeiten, in denen autonome Fahrzeuge und humanoide Roboter längst Realität sind, sind wir nun gezwungen, eine Ethik für das Zeitalter der Künstlichen Intelligenz zu entwickeln.

Eine Ethik für das Zeitalter der künstlichen Intelligenz

Dieser Aufgabe widmet sich nun – wie der Untertitel schon sagt – das Buch Digitaler Humanismus – eine Ethik für das Zeitalter der Künstlichen Intelligenz. Es ordnet sich dabei ein in eine Reihe von Schriften, in denen der Münchner Philosoph Julian Nida-Rümelin sich mit den ethischen Aspekten gesellschaftlich besonders relevanter Themen auseinandersetzt und die eine enorme Breitenwirkung entfalten konnten. Nach Ökonomie, Bildung und Migration ist nun die Digitalisierung an der Reihe. Einen Sonderstatus erhält dieses Buch allerdings dadurch, dass die ethischen Reflexionen eingebettet sind in den Mythos der Digitalisierung, wie wir ihn aus Filmen und Science-Fiction-Romanen kennen. Zu verdanken ist dies der Zusammenarbeit mit Nathalie Weidenfeld. Weidenfeld besuchte die berühmte Lee Strassberg Schauspielschule in New York und ist promovierte Kultur- und Filmwissenschaftlerin. Derzeit arbeitet sie als freie Schriftstellerin und Lektorin in München. Seit 2001 ist sie verheiratet mit Julian Nida-Rümelin. Julian Nida-Rümelin studierte Philosophie und Physik und promovierte bei dem bedeutenden Wissenschaftstheoretiker Wolfgang Stegmüller. Nachdem er von 2001 bis 2002 Kulturstaatsminister war, kehrte er als Professor an die Universität zurück und zählt heute zu den einflussreichsten deutschen Intellektuellen. Darüber hinaus ist Nida-Rümelin Leiter des Bereiches Kultur am Zentrum Digitalisierung Bayern. Das vorliegende Buch verspricht also einen kundigen Einblick in die ethische und philosophische Dimension der Digitalisierung zu geben.

Jeder kennt die dystopische Vorstellung, dass menschliches Leben lediglich als Simulation in einer Matrix existiert. Oder das moralische Dilemma, vor das sich Sonny am Ende des Filmes I Robot gestellt sieht. Einen Großteil unserer Vorstellungen und Urteile bezüglich künstlicher Intelligenz beziehen wir aus Kinofilmen, Serien und Romanen. Und genau hier setzt dieses Buch an. Es handelt quasi im Mythos der Digitalisierung und versucht diesen philosophisch zu dekonstruieren. Anhand verschiedener Filmszenen werden die zu behandelnden Fragestellungen zuerst eröffnet und ausgeleuchtet, worauf dann die wissenschaftliche Analyse folgt. Dadurch greifen die Autoren Fragen auf, die man sich so oder so ähnlich selbst schon einmal gestellt hat. Das verleiht diesem Buch eine gewisse Plastizität und macht es auch Laien einfach greifbar. Doch auch an fachlichem Wissen mangelt es keineswegs. Systematisch folgt die Argumentation stets dem Humanismus Nida-Rümelins, wonach es die typisch menschliche Fähigkeit ist, sein Urteilen, Handeln und Fühlen von Gründen leiten zu lassen, die den Maßstab für unseren Umgang mit Technik abgeben muss.

Der digitale Humanismus wendet sich dabei sowohl gegen den Digitalisierungspessimismus als auch gegen die Silikon-Valley-Ideologie und ihre Idee eines Transhumanismus. Künstliche Intelligenz solle als Gelegenheit gesehen werden, ein menschliches und freies Leben zu befördern. Der Grundtenor ist hierbei stets: Ja, die Entwicklung künstlicher Intelligenz stellt uns vor eine Reihe neuer Probleme, aber wenn wir unser alltägliches Urteilen kohärent auf den Bereich der Digitalisierung übertragen, lassen sie sich gewinnbringend lösen.

Künstliche vs. menschliche Intelligenz

Doch was unterscheidet nun für Weidenfeld und Nida-Rümelin künstliche von menschlicher Intelligenz? Zuerst einmal besitzen Roboter keine Intentionen. Sie wollen nicht. Maschinen sind nicht in der Lage, sich selbst Ziele zu stecken oder Projekte zu verfolgen. Sie folgen lediglich vorher von Menschen festgelegten Operationen – auch selbstlernende Computer. Die Aufgaben verteilt noch immer der Programmierer. Und diese Abhängigkeit von Algorithmen ziehe eine grundsätzliche Trennlinie zwischen menschlichem Denken und digitalem Rechnen. Hierbei greift die Argumentation immer wieder auf ein meta-mathematisches Theorem zurück, wonach ein hinreichend komplexes System – wie eben auch das menschliche Urteilen, Handeln und Empfinden eines ist – nicht vollständig algorithmisch gefasst werden kann. Dieses Defizit schließe Roboter kategorisch von einer Vielzahl typisch menschlicher Eigenschaften aus.

So können Maschinen beispielsweise keine Würde besitzen, da diese aus der Fähigkeit entstehe, ein Leben nach eigenen Vorstellungen zu leben, Autor seines eigenen Lebens zu sein. Ohne Autorschaft keine Menschenwürde. Auch die Möglichkeit eines freien Willens bekommen die Roboter abgesprochen. Sie seien nicht in der Lage, eigene Gedanken und Vorhaben in die Tat umzusetzen. Computer folgen Stromimpulsen und sind damit lediglich Glieder in vorherbestimmten Kausalketten. Und wie steht es um die vielleicht wichtigste Eigenschaft: Die Emotionalität? In vielen Filmen sind Roboter Gefühlen zugänglich, und moderne weit ausgereifte Humanoiden scheinen durchaus menschliche Züge entwickeln zu können. Aber auch hier sind die Autoren äußerst kritisch. Wer glaube, Roboter können Gefühle empfinden, nur weil sie sich so verhalten als ob, sitze einem Irrglauben auf. So wie das Kind, das beim Zahnarzt versucht nicht zu weinen, den Schmerz dennoch fühlt, könne im Umkehrschluss die Turing-Maschine Gefühle zwar simulieren, nicht aber empfinden. Fühlen lasse sich eben nicht auf Verhalten reduzieren.

Liquid Democracy, Digitale Bildung und Bedingungsloses Grundeinkommen

In einigen der zwanzig Kapiteln werden aber nicht nur tiefenphilosophische Grundsatzfragen diskutiert, es wird auch explizit auf aktuelle politische Debatten Bezug genommen. Besonders intensiv wird dabei das Thema autonomes Fahren behandelt.  Zentrales Argument: KIs versagen bei moralischen Dilemmata! In gewissen Gefahrensituationen muss ein selbstfahrendes Auto beispielsweise entscheiden, ob es seinen Insassen in Lebensgefahr bringt oder auf Passanten auf dem Gehweg zusteuert. Während Menschen eine falsche Entscheidung, die im Bruchteil einer Sekunde getroffen wird, nachgesehen werden könne, müssen selbstfahrende Autos im Vornherein und nach reichlicher Überlegung auf ein gewisses Verhalten programmiert werden. Dies wiederum führe zu erheblichen Problemen mit dem ethischen und juristischen Grundsatz der Nicht-Verrechenbarkeit von Menschenleben. Man kommt nicht drum herum, das Töten von Menschen dem Auto einzuprogrammieren.

Eine erstaunlich scharfe Kritik erfährt die Idee eines bedingungslosen Grundeinkommens. Die Behauptung, die Digitalisierung der Industrie mache Erwerbsarbeit überflüssig, sei empirisch falsch und eine Spaltung der Gesellschaft in hochbezahlte Erwerbsarbeiter und großzügig Alimentierte sei gefährlich. Auch der Vision, Politik mittels Internet und Liquid Democracy wieder bürgernah zu machen, erteilt dieses Buch eine Absage. Die große Zahl der Beteiligten mache den Entscheidungsprozess manipulationsanfällig und führe in Konflikte mit Bedingungen kollektiver und demokratischer Rationalität. An dieser Stelle werden neuerdings verschiedene Theoreme aus der Mathematik und der Entscheidungstheorie herangezogen. Eines der umfangreichsten Kapitel beschäftigt sich mit der digitalen Bildung. Anhand des Filmes Der Rasenmähermann aus dem Jahre 1992 werden die Schattenseiten einer ausgearteten Bildung im Sinne bloßer Wissensanhäufung beschrieben. Auch in Zeiten unbegrenzter Speicherung und Verfügbarkeit von Wissen müsse Bildung in erster Linie dazu dienen, die menschliche Urteilsfähigkeit zu schärfen und die zwischenmenschliche Kommunikation zu fördern.

Fazit: Ein Buch für Stunden der Muße – nicht für das philosophische Oberseminar

In Digitaler Humanismus – eine Ethik für das Zeitalter der Künstlichen Intelligenz werden die vielen verschiedenen philosophischen Aspekte der Digitalisierung einfach und eingängig behandelt und die Anbindung an bekannte Filme macht das Buch sehr unterhaltsam und besonders Technik- und SciFi-Begeisterten einfach zugängig. Leider fehlt es an einigen Stellen an philosophischer Tiefe. Zwar werden die wichtigsten Konzepte verständlich dargestellt und sinnvoll auf die digitalen Fragen bezogen, allerdings sind circa zehn Seiten pro Themengebiet einfach zu knapp, um wirklich einen tiefen Einblick in die Materie zu gewähren. Der geringe Umfang von gerade einmal zweihundert Seiten in Kombination mit dem ausufernden Stoffumfang macht eine ausführliche Abwägung der Argumente pro und contra unmöglich. Das wiederum führt dazu, dass verschiedene Abschnitte teils sehr deutlich aus einer bestimmten philosophischen Sichtweise heraus geschrieben sind. Weder die Frage nach der Willensfreiheit, noch die Ablehnung des Konsequentialismus sind in der Philosophie unumstritten. Vertraut man jedoch der Kompetenz der Autoren und verzichtet auf ausschweifende Begründungen, so erhält man ein Buch, das es schafft, Lesbarkeit mit akademischem Anspruch zu verbinden. Besonders sympathisch: Mit Hilfe anschaulicher Beispiele gelingt es den Autoren die Verbindung zur Lebenswelt nicht abreißen zu lassen, wenn die Begründung droht sich in den Wirren der theoretischen Philosophie zu verfangen,

Alles in allem handelt es sich bei Digitaler Humanismus – Eine Ethik für das Zeitalter der Künstlichen Intelligenz um ein Buch, das zwar keine wissenschaftlichen Ansprüche stellt, es allerdings weder an fachlicher Kompetenz noch an intellektuellem Anspruch mangeln lässt. Wer keine ausführliche Diskussion der verschiedenen ethischen Aspekte der Digitalisierung, sondern einen soliden und kurzweiligen Überblick über die einzelnen Themenbereiche erwartet, wird mit diesem Buch bestens bedient sein. Komplexe Zusammenhänge werden verständlich erläutert und die zwar gehobene, doch meist geradlinige Sprache ermöglicht ein flüssiges Lesen und schnelles Erfassen. Die Einbettung in den cineastischen Kontext und die gesellschaftliche Bedeutsamkeit des Themas machen dieses Buch einem breiten Publikum von Philosophie- und Technikinteressierten zugänglich und die Verbindung von Natur-, Kultur- und Geisteswissenschaft zeichnet ein möglichst vollständiges Bild eines digitalen Humanismus.

Titelbild:
Der Denker by Jean-David & Anne-Laure via Wikipedia Commons, CC-BY-SA 2.0

Bild des Buchcovers: © Piper Verlag

In Fachforen, Vorträgen und Workshops widmeten sich über 60 Expertinnen und Experten aus Politik, Wissenschaft, Wirtschaft und Gesellschaft auf Einladung der Wegweiser Media & Conferences GmbH Berlin den Auswirkungen der Digitalisierung.

Mit einem Eingangsstatement gab Dr. Klaus von Dohnanyi, ehemaliger Bundesbildungsminister und Bürgermeister der Stadt Hamburg, Antworten auf die Frage, was die Digitalisierung für den Arbeitsmarkt bedeutet und welche ethischen Fragen hierbei zentral sind. Anschließend diskutierten die Bundesdatenschutzbeauftragte Andrea Voßhoff, Internetbotschafterin Prof. Dr. Gesche Joost, Informatik-Professor Dr. Christoph Meinel, Dr. Michael Müller-Wünsch, CIO der Otto GmbH und Dr. Ralf Schneider, CIO der Allianz Group vorab die Fragen, die später in den Workshops ausführlicher aufgegriffen wurden.

Wandel der Arbeitswelten: Zwischen Homeoffice und neuen Berufen

Zu den dringendsten Fragen gehört, wie wir die Veränderungen der Berufswelt gestalten können: Wie kann der Arbeitsmarkt nachhaltig gestaltet werden, welche Berufe wird es in Zukunft noch geben, welche Rolle werden Homeoffice und mobiles Arbeiten spielen? Einigkeit herrschte darüber, dass wir auf die vielfältigen Herausforderungen differenziert reagieren müssen. Lösungen, die sich bei 20-Jährigen anbieten, passen nicht immer auf 55-Jährige. Lebenslanges Lernen wird unabdingbar sein. Traditionelle Vorstellungen von Arbeit werden sich ändern und neue Arbeitskonzepte die bestehenden ablösen.

Kontrovers blieb, ob die Digitalisierung Arbeitsplätze abschaffen oder nur verändern wird. Und auch das Bedingungslose Grundeinkommen (BGE) als Antwort auf mögliche Arbeitsplatzverluste spaltet die Gemüter: Während einige Teilnehmerinnen und Teilnehmer dafür plädierten, sich die verschiedenen Modelle genauer auf ihre Umsetzbarkeit und Auswirkungen zu überprüfen, wandte eine Zuschauerin ein, dass das BGE Arbeit nur teilweise ersetzen könne, so fehle bei ehrenamtlicher Arbeit die Wertschätzung, die klassische Arbeit erfahre.

Digitale Bildung

Um die für die Digitalisierung notwendigen Kompetenzen zu lernen, ist es notwendig, dass der Staat mehr in Bildung investiert, damit die Schulen die richtige Ausstattung erhalten und das Lehrpersonal entsprechend fort- und weitergebildet werden kann. In den Diskussionen herrschte Konsens, das sowohl die Infrastruktur an Bildungseinrichtungen wie z.B. in Schulen und Hochschulen sowie die Kompetenzvermittlung von Fähigkeiten wie kritisches Denken und Kreativität gefördert werden müssen. Die Unternehmen müssen ebenfalls ihr Personal mit digitalen Grundkompetenzen weiterbilden.

Aber auch ältere Menschen brauchen beim Erwerb digitaler Fähigkeiten Unterstützung, sowohl durch haupt- als auch durch ehrenamtliche Helferinnen und Helfer. Gerad die Über-70-Jährigen sehen sich oft außerstande, allein das Internet für ihre Zwecke zu nutzen – da viele analoge Angebote zu Gunsten von digitalen Konzepten aufgegeben werden (z.B. schließen viele Bankfilialen, während das Online-Banking zunimmt), wird sich dieses Problem verschärfen.

Ethik – Leitbild der digitalen Souveränität

Während die ethischen Grundfragen nur sehr knapp angerissen wurden, gab es zumindest einen Überblick über Datenschutz und die nötigen Bestimmungen. Laut Dr. von Dohnanyi ist Deutschland hierbei klar ein Vorbild für die Welt. Fraglich bleibt allerdings nach wie vor, wem die personalisierten Daten am Ende gehören. Gesche Joost plädiert beim mündigen Umgang mit der digitalen Welt für ein Leitbild der digitalen Souveränität. Die User müssen die Konsequenzen des eigenen Handelns im Netz, aber auch die Weitergabe personenbezogener Daten sollten wahrnehmen und verstehen. Aber nicht nur der User, auch der Staat steht in der Pflicht. Gesellschaftlicher Fortschritt und digitaler Fortschritt gehen für die CDU-Bundestagsabgeordnete Nadine Schön Hand in Hand. Auch ihre  Kollegin von der Linken Anke Domscheit-Berg forderte im Forum „Staat und Rahmenbedingungen“, dass wir die digitale Revolution mit einer sozialen Revolution verbinden müssen.

Neben dem Individuum und dem Staat müssen die Unternehmen Verantwortung übernehmen. Ein wichtiges Stichwort bei dieser Auseinandersetzung ist Corporate Digital Responsibility, also der verantwortungsvolle Umgang mit Daten und digitaler Kommunikation – von Datenschutz bis zur informationellen Selbstbestimmung – durch Unternehmen, die nicht nur ihren Gewinn maximieren wollen, sondern sich im Zuge der voranschreitenden Digitalisierung auch neuen sozialen Herausforderungen stellen.

Das Abschlussplenum eröffnete Justizministerin Dr. Katarina Barley mit den Worten: „Die Digitalisierung der Welt ist ein gesellschaftliches Totalphänomen.“ Sie griff erneut das Thema Datenschutz, Verbraucherschutz und die Rolle der Politik auf. Spannend war hierbei die Aussage von Prof. Dr. Detlev Ganten, der es als unethisch bezeichnete, „dass die ganzen Daten in Krankenhäusern, bei Ärzten und Krankenkassen nicht für Forschung genutzt werden“ und damit sinnbildlich das Fazit des Tages festhielt: Sowohl die Nutzung als auch die Nicht-Nutzung von Daten kann ethisch und unethisch sein. Es geht vielmehr darum, Richtlinien und Regeln für den richtigen Umgang mit Daten festzulegen und zu vermitteln.

Der Digitalisierung wird großes Potenzial zugeschrieben, die kommenden Herausforderungen im Bereich der Pflege zu meistern, indem diese die Versorgung der Pflegebedürftigen gewährleisten soll. Doch welche ethischen Aspekte müssen bei der Digitalisierung der Pflege berücksichtigt werden?

Multiprofessionalität und personalisierte Behandlungskonzepte

In der Anwendung als Assistenten werden Roboter bereits erprobt. Dabei übernehmen sie vor allem maschinelle Tätigkeiten, wie die zum Teil Zeit raubende Dokumentierung von Krankheit und Pflege. Forscher gehen davon aus, dass sie die Pflege durch den Menschen nicht ersetzen, sondern lediglich als Assistenzsysteme die professionelle Pflege unterstützen werden. So können sich Pflegekräfte wieder mehr auf ihre eigentlichen Aufgaben konzentrieren – nämlich die Kommunikation und Arbeit an Beziehungen. Die durch die Digitalisierung ebenfalls vorangetriebene Multiprofessionalität und Interdisziplinarität werde die Versorgung der Patienten erheblich unterstützen. Mittels systematischer Datensammlungen könnten beispielsweise im Rahmen der Versorgungsforschung Lerneffekte generiert werden. So könnten stärker personalisierte Behandlungskonzepte, durch den Einsatz von Big Data, zu einer besseren Gesundheitssteuerung der Patienten beitragen. Das Ergebnis seien Effektivitäts- und Effizienzsteigerungen.

In diesem Kontext bestehen aber auch die ersten Bedenken für den Patienten: Die Vernetzung zwischen Robotern und anderen Geräten sowie dem behandelnden Arzt bieten Möglichkeiten eines umfassenden Kontrollmechanismus. Durch die Menge der erhebbaren Daten entsteht ein zunehmendes Interesse an der kommerziellen Verwendung ihrerseits. Vor diesem Hintergrund werden Stimmen laut, dass das informationelle Selbstbestimmungsrecht in Gewahr sei, weil das herkömmliche Datenschutzrecht für Big Data im Gesundheitswesen nicht ausreiche. Zu dieser Einsicht kommt der Deutsche Ethikrat in einer kürzlich veröffentlichten Stellungnahme. Gesundheitsdaten könnten so als wirtschaftliches Gut betrachtet werden, die von bestimmten Leistungsanbietern bereitgestellt würden. Die Gefahr des Datenmissbrauches wie zum Beispiel die Preisgabe intimer Informationen ist dabei besonders groß.

Zuwendungsroboter bei Demenzkranken

Pflegeroboter übernehmen aber nicht nur maschinelle, sondern auch menschliche Aufgaben. So sind sie auch zu Beziehungen zu Menschen fähig: Die Roboterrobbe „Paro“ kommt gezielt als Zuwendungsroboter bei Demenzkranken zum Einsatz. Inspiriert von der tiergestützten Therapie soll der Roboter auf der emotionalen Ebene das Wohlbefinden der Patienten fördern, indem er Schlüsselreize auslöst. Er wirkt entspannend, lindert Symptome, weckt alte Erinnerungen und dient als Kommunikationsbrücke zwischen Patienten, Angehörigen und Pflegekräften. In Deutschland wird er in mehr als 40 Pflegeeinrichtungen als Therapiemittel eingesetzt.

Kritiker weisen jedoch darauf hin, dass solche Zuwendungsroboter die eigentlichen Ursachen ihres Einsatzes in der Pflege weiter verschärfen könnten – nämlich den Mangel an Zeit und Empathie der Pflege durch Menschenhand. Dieser Umstand ist besonders an den Fällen ersichtlich, in denen Medikamente missbräuchlich eingesetzt werden, um Patienten „ruhig zu stellen“, weil sie ansonsten den Betrieb der Pflegeheime stören würden. Die verstärkte Nutzung Big-Data-gestützter Ansätze sowie die technologische Vermittlung der Versorgung könnten die persönliche Zuwendung zum Patienten sowie das Nachkommen der moralischen Verpflichtungen der medizinischen Versorgung weiter reduzieren und so zu einem fortschreitenden entsolidarisierten Ärzte-Patientenverhältnis beitragen.

Auch liefe man auf die Gefahr hinaus, dass zusätzlich motorische und intellektuelle Fähigkeiten der Patienten degenerieren könnten. Adelheid von Stösser, Mitgründerin des Pflege-Selbsthilfeverbandes (Pflege-SHV), plädiert daher dafür, mehr echte Hunde für diesen Zweck ausbilden zu lassen, anstatt in computeranimierte Tiere zu investieren. “Wer erlebt hat, wie positiv alte Menschen mit Demenz auf eine ihnen angenehme Berührung reagieren, kommt im Traum nicht auf die Idee, für die Körperpflege von Kranken Roboter einsetzen zu wollen“, so Stösser.

Fragen, die bleiben

Zweifelsohne werden Pflegeroboter – wie Paro – die menschliche Pflege nicht ersetzen können. Denn neben körperlicher Zufriedenheit bedeute Pflege vor allem Kommunikation, das Herstellen einer Vertrauensbasis und das Erkennen von Stimmungen und Bedürfnissen, so die Antwort der Rehabilitationspsychologin Johanna Meixner auf die Frage: Können Roboter Menschen pflegen? Der Weg für den Einsatz von Robotern in der Pflege scheint aber bereits geebnet. Und ohnehin bestehen bislang wenige Beispiele dafür, dass eine technologische Entwicklung aufgrund ethischer Bedenken eingestellt worden wäre. Deswegen müssen wir uns nun gezielt überlegen, zu welchen Zwecken Pflegeroboter eingesetzt werden sollen. Schließlich wird von Seiten der Technikentwickler immer wieder betont, dass der Mensch im Mittelpunkt stehe.

Seit einigen Monaten diskutiert die Ethik-AG der Initiative D21  bei regelmäßigen Treffen ethische Fragen der Digitalisierung und hat zum Thema “Roboter als persönliche Assistenten für ältere Menschen” einen ausführlichen, systematischen Denkimpuls veröffentlicht.

Insgesamt jedoch fehlt eine breite, gesellschaftliche Auseinandersetzung darüber, in welchem Ausmaß Roboter in unserem Alltag überhaupt ein wünschenswertes Szenario darstellen. Dabei geht es auch um die Frage, wie wir altern wollen. An dieser Stelle könnte man sich zum Beispiel selbst die Frage stellen: Würde ich meiner demenzkranken Mutter eine elektronische Kuschelrobbe schenken?

Titelbild: Paro – Mental Commit Robot by Amber Case via Flickr, CC BY-NC 2.0, bearbeitet

Es gab Zeiten, da versprach man sich von der Digitalisierung vor allem eine Stärkung der Position des Einzelnen in der Gesellschaft. Die offene Form des World Wide Web gebe jedermann die Möglichkeit, seine Meinung einer breiten Öffentlichkeit zu präsentieren und so der wirklichen Vielfalt des modernen Lebens Ausdruck zu verleihen. Was zunächst Hoffnung auf einen geradezu revolutionären Anstoß hinsichtlich der Verwirklichung aufklärerischer Ideale machte, scheint sich, wenn man der neuen GIM-Studie Glauben schenkt, zumindest in einigen Bereichen ins Gegenteil verkehrt zu haben. Nicht zu Unabhängigkeit und Individualismus habe besonders die Social-Media und Smartphone-Welle geführt, sondern vielmehr zu dem, was die Studienleiter unter der Bezeichnung “Verwertung” als einen der digitalen “Megatrends” aufführen.

Selbstvermarktung und Kontrollverlust

Der Individualismus ist hier zu einer Art gnadenloser Selbstvermarktung geworden. Im virtuellen Hamsterrad gefangen, wird versucht, den neuen digitalen Anforderungen mit stetiger Selbstoptimierung zu begegnen. So dienen körperliche Fitness, gesundes Essen und schöne Kleidung längst nicht mehr nur dem Wohlbefinden. Sie dienen als Mittel zum Zweck, um den eigenen digitalen Wert zu erhöhen. Das Individuum wird selbst zu einer Ressource im freien Markt und konkurriert mit anderen Akteuren um Likes, Follower und neuerdings auch Arbeitsplätze. Je attraktiver das Profil, je besser die Bilanz, desto höher der Profit. Es geht jedoch nicht nur um Geld: Der soziale Status innerhalb der digitalen Gemeinschaft ist, ganz anti-stoisch, zur Droge mit verheerenden Nebenwirkungen verkommen. Obwohl diese Art der Leistungssteigerung von 54 % der befragten Bürger kritisch gesehen wird, glauben gleichzeitig 71 % an eine deutliche Verschärfung der innergesellschaftlichen Logik der Selbstoptimierung bis 2030. Nebenwirkungen: Abhängigkeit in Reinform, absoluter Kontrollverlust über die eigenen Grenzen.

Kontrolle. Auch darum geht es vielen befragten Bürgern in der GIM-Studie, jedoch nicht in dem Gebiet, in dem das angesichts der akuten Bedrohungen von Islamismus und Terroranschlägen in Europa zunächst vermutet werden könnte. Nur 24 % der Befragten befürworten eine zunehmende Einschränkung der digitalen und persönlichen Freiheit durch Maßnahmen wie automatische Gesichtserkennung und mehr Überwachung im Internet zugunsten erhöhter Sicherheit. Generell sehen Sie dort jedoch auch keinen langfristigen Trend. Die Frage der Kontrolle erstreckt sich vielmehr auf andere Bereiche, wie etwa die Produktion und das Konsumverhalten.

Dementsprechend boomt die sogenannte “Re-Lokalisierung”. Bürger und Experten legen der Studie zufolge wieder mehr Wert auf lokal erzeugte Güter; Besonders die häufig zitierten Bio-Produkte vom “Bauernhof nebenan” stehen hoch im Kurs. Ein Grund hierfür ist sicherlich die Gewissheit, dass diese aus einem bekannten Umfeld stammen, dem folglich auch mehr vertraut wird, was Qualität und Herstellungsbedingungen betrifft. Ein anderer könnte die klassische Sehnsucht nach Heimat bzw. einem Heimatgefühl sein, das durch die Dekonstruktion der Ortsgebundenheit im digitalen Zeitalter schlicht verlorengegangen scheint.

Algorithmen machen Angst

Einerseits rückt die Welt, zumindest gefühlt, durch Globalisierung und digitalen Austausch näher zusammen. Gleichzeitig ist sie aber unheimlich komplex und wirkt dadurch häufig nicht nur undurchschaubar, sondern sogar bedrohlich. Besonders die klugen Algorithmen der Cyberwelt 4.0 machen Vielen Angst. Ihre Fähigkeiten sind schon jetzt wahnsinnig ausgeprägt, ihr Potential riesig. Der Gedanke, dass Maschinen dem Menschen einen großen Teil seiner Entscheidungen abnehmen und so zu einer autonomen Steuerungsgröße im Alltag werden könnten, weckt bei den Bürgern große Befürchtungen. So wünschen sich nur 47 % der in der Studie Befragten eine Fortsetzung dieses Trends, während sich 63 % sicher sind, dass die “Algorithmisierung” in den nächsten Jahrzehnten zu einem gesellschaftlich relevanten Thema wird.

Der Verlust von Autonomie, Kontrolle, aber auch sozialer Nähe könnte das entscheidende Thema in der künftigen Digitalisierungsdebatte sein. Trotz aller technischen Errungenschaften: Vor allem Geborgenheit und Sicherheit scheint die digitale Zukunft nicht zu bieten. Interessant hierbei: Während die Erleichterung des Alltagslebens durch digitale Helfer immer noch ein zentrales Pro-Digitalisierungs-Argument darstellt, sind die Befragten durchaus bereit, im Gegenzug zu mehr Autonomie auch mehr Verantwortung zu übernehmen. 72 % der Bürger wünschen sich generell mehr Verantwortung im Internet, sehen darin aber nur einen verhältnismäßig kleinen Trend. Einfachheit, verantwortungsvoller Genuss und mehr Mitbestimmung stehen für sie im Mittelpunkt. Andere wichtige Werte, von denen viele glauben, sie seien langfristig besonders gefährdet, sind Heimat und die klassische Familie.

Digitalisierung muss menschlich sein

Was sagen uns diese Ergebnisse? Sie zeigen, dass die soziale Komponente der Digitalisierung so wichtig ist wie nie zuvor. Online-Kommunikation und Roboter können soziale Gemeinschaft und Nähe nicht ersetzen. Wir müssen aufpassen, dass der technologische Fortschritt keine Distanzen schafft, die schlussendlich zu einer radikalen Gegenbewegung führen. Einer ideologischen Strömung, die den Gedanken einer digitalisierten Welt vollständig ablehnt, weil sie darin eine Entfremdung des Einzelnen und der Gemeinschaft von Menschlichkeit und Selbstbestimmung sieht. Dies ist eine große Herausforderung für uns alle, die wir nur bewältigen können, indem wir den technischen Fortschritt sozial verträglichen gestalten. Indem wir ihm normative Grenzen setzen, die auf der Basis von Respekt, Solidarität und gegenseitiger Anerkennung funktionieren. Damit es uns nicht über den Kopf wächst.

Titelbild: Photo by Tim Graf on Unsplash

Grafik: “Wertelandkarte”, Quelle: GIM

 politik-digital: Wenn wir die Themenkomplexe, Digitalisierung und Ethik, fassbar machen wollen: Was ist der erste Gedanke der Ihnen in den Sinn kommt, wenn Sie zunächst die Begriffe Digitalisierung und Gesellschaft miteinander verknüpfen?

Claus Eurich: Zum einen ist es eine rein technische Frage. Was ist Digitalisierung überhaupt, und wie löst sie die analogen Strukturen, die über Jahrhunderte gewachsen sind, allmählich auf? Dann gilt es, verschiedene Ebenen zu betrachten – für mich sind drei Ebenen wichtig: Digitalisierung hat erstens Auswirkungen auf einer infrastrukturellen Ebene, also im Bereich der Ökonomie, der Industrie, des Dienstleistungsbereichs, im Bereich des Verkehrs usw. Die zweite Ebene umfasst Medien, die Herstellung von Öffentlichkeit und das, was wir mit Vernetzung umschreiben. Das Dritte ist die persönliche Ebene: Da wo es den Menschen betrifft, seinen Umgang mit der digitalen Technik und das, was man vielleicht auch als Mensch-Maschine-Symbiose bezeichnen kann.

Individualisierung und Ent-Persönlichung

politik-digital: Bleiben wir mal auf der dritten, der menschlichen, Ebene: Inwiefern glauben Sie, dass dieser Aspekt der Digitalisierung momentan starke Einflüsse auf die Gesellschaft ausübt?

Claus Eurich: Ich glaube, dass wir es im Moment bei der Digitalisierung mit einem Quantensprung in der menschlichen Entwicklung insgesamt zu tun haben – ohne, dass wir bisher eine angemessene Chance gehabt hätten, uns geistig, seelisch und emotional anzupassen. Dadurch ist ein unglaublicher Sog entstanden, der ambivalente Züge zeigt: Einerseits gibt es eine stärkere Vernetzung der Menschen miteinander, gleichzeitig aber auch eine starke Ent-Persönlichung mit verstärkter Individualisierung. Überall sehe ich, wie Menschen in grotesker Weise mit ihren Geräten verschmolzen sind. Und dann wird deutlich: Das ist mehr als nur der Austausch von Informationen und Bildern. Hier geht es auch um tiefe seelische Bedürfnisse, um Sehnsucht nach etwas, nach Begegnung, nach Vertrautheit. Diese Bedürfnisse werden nun projiziert, und sie können sich ausleben in diesen Geräten. Wohin uns das führt, halte ich im Ergebnis momentan noch für recht offen.

politik-digital: Technische Veränderungen prägen nicht nur gesellschaftliche Prozesse, sondern werfen auch neue ethische Fragestellungen auf. Kann man auf menschlicher Ebene generell von einer Bewusstseinsänderung sprechen?

Claus Eurich: Unbedingt. Es ist ein Herausholen aus raumzeitlicher Enge, auch aus dem unmittelbaren Zusammensein und der direkten Kommunikation. Gleichzeitig ist es aber eben auch eine Entfremdung von der direkten Lebensumwelt, in der ich mich befinde. Ich begegne zum Beispiel kaum noch Menschen auf der Straße oder im öffentlichen Raum, die Augenkontakt suchen und halten, weil sie so sehr mit ihren Geräten beschäftigt sind, gleichsam ganz in sie aufgesogen sind. Auch das hat sehr viel mit Bewusstsein zu tun. Die Ethik dahinter ist nun ein ganz eigenes Thema: Wir brauchen bei dem Umgang mit Informationstechnologien keine eigene Informationsethik. Das wäre ein Verkennen der ethischen Grundanforderung! Denn: Das Ethos ist unabhängig von diesen Entwicklungen und meint, dass es immer, in jeder Situation und jeder historischen Phase bestimmte Grundsätze gibt, die es gilt, in das Leben zu integrieren und situativ anzuwenden.

Kants Kategorischer Imperativ als digitale Handlungsmaxime

politik-digital: Wie können wir uns das jetzt genau vorstellen?

Claus Eurich: Nehmen wir zum Beispiel Immanuel Kant. Man kann seinen kategorischen Imperativ modern interpretieren als das Grundgesetz der Achtsamkeit im Leben. Und wenn ich das dann durchdenke in meinem Verhalten, beispielsweise bezogen auf den Umgang mit Smartphones und wie ich mich über Straßen bewege, und mir vorstelle: Das ist jetzt ein allgemeines Gesetz, dass sich alle Menschen so bewegen und sich so voneinander abwenden, dann wird mir vielleicht schnell einiges klar – vorausgesetzt ich bin bereit zur Selbstreflexion.

politik-digital: Von dieser Verdinglichung, die Sie damit auch ansprechen, erzählen Sie ja auch in Ihrem neusten Buch „Aufstand für das Leben“. Sie appellieren, dass es Zeit wird aufzuwachen. Die Zerstörung und die Besinnungslosigkeit, mit der wir dem Leben, nicht nur dem Menschlichen, begegnen, sollen ein Ende haben. Inwiefern finden wir destruktive Energien auch im Internet?

Claus Eurich: Das Internet enthält einfach alles, Helles und Dunkles. Hier ist keine pauschale Aussage möglich. Ich würde daher auch die vielen Formen der elektronischen Kommunikationsweisen als erstes unter dem Vorzeichen sehen, wie sie uns ablenken und aus der direkten Lebenszuwendung und Wahrnehmung von Problemen herausführen. Gleichzeitig machen sie uns auch auf ganz bestimmte Probleme erst aufmerksam. Ich glaube nicht, dass wir auch nur den Hauch einer Chance haben als Gattung zu überleben, wenn wir die globalen Probleme nicht auch auf einer globalen Weise angehen und dazu gehört sicherlich auch eine globale Form der Vernetzung. Sie sehen also, das Dunkle und das Notwendige hängen immanent zusammen. Es gibt kein Internet nur des Lichts oder nur des Schattens.

Journalismus: Wir brauchen mehr Haltung!

politik-digital: Woran fehlt es uns nun in der Gesellschaft, um mehr Licht zu schaffen?

Claus Eurich: Es fehlt vor allem die Vision. Was halten wir für lebenswert? Diesen Diskurs vermisse ich in unserer Kultur. Dafür setzen wir unsere persönlichen Bedürfnisse einfach zu absolut. Wir haben verlernt über uns selber hinauszudenken. Dieser „Ego-Tunnel“, wie Thomas Metzinger es formuliert, in dem wir alle auf allen Ebenen stecken, scheint mir das Problem. Und genau da haben Informationstechnologien eine außerordentliche Kraft, dies auch noch zu verstärken.

politik-digital: Diese Kraft muss auch einen enormen Einfluss auf den Journalismus selbst haben. Inwiefern glauben Sie, dass das Prinzip des Ego-Tunnels auch im Journalismus heutzutage Dinge und Prozesse aufwühlt?

Claus Eurich: Dem Journalismus kommt in diesen ganzen Prozessen eine Schlüsselverantwortung zu, die meiner Auffassung nach höher anzusiedeln ist als die von Politik und Ökonomie. Es ist der Journalismus, der die Weltbilder in den Menschen stiftet und auch das Nachdenken über Handlungsoptionen. Wir haben in Deutschland, gerade auch im internationalen Maßstab, neben allem Defizitärem einen ganz exzellenten Journalismus – auch auf einem sehr hohen, selbstreflexiven Level. Zweifellos lässt sich aber auch da noch immer eine ganze Menge verbessern. Ich würde da eher weniger an den Strukturen ansetzen, sondern vielmehr bei dem Journalist als Person. Denn Ethik heißt für mich in aller erster Linie „Haltung“: Haltung haben, Haltung bewahren und wirklich innere Werte in sich tragen, die mir heilig sind und hinter die ich nicht zurücktrete. Gleichzeitig müssen wir registrieren, dass der klassische professionelle Journalismus im Internetzeitalter und einer völligen Zugangsfreiheit, was Informationen betrifft, an Bedeutung verliert.

Zeit für Entscheidungen: Der Kairos-Moment

politik-digital: Eine lösungsorientierte Perspektive nimmt auch der sogenannte Kairos-Moment in Ihrem aktuellen Buch ein. Was genau beschreibt der Kairos-Moment und befinden wir uns auch in der digitalen Welt in einem Moment des Entscheidens?

Claus Eurich: Ich würde nicht sagen, dass wir uns in der digitalen Welt in einem besonderen Moment des Entscheidens befinden, denn die digitale Welt ist ein Teil der Welt. Sie ist Teil der Handlungsmaxime und der -optionen, die wir auf allen Ebenen haben. Von daher können wir das nicht trennen. Als Kairos verstehe ich Geschichtsmomente, in denen sich Wege und Richtungen entscheiden. Kairos meint: In jedem Moment gibt es eigentlich immer alles an Optionen, die Möglichkeiten sind da – es entscheidet nur die Art und Weise, wie wir darauf schauen. Und wenn ich mal versuche eine Summe zu bilden aus den globalen Herausforderungen, die wir haben, dann glaube ich, stehen wir im Herzpunkt eines solchen historischen und globalen Kairos-Moments. Die Digitalisierung und die Möglichkeit, dass wir uns in hoher Geschwindigkeit und in hoher Zahl auf diesem Planeten vernetzen, das ist für mich der entscheidende Punkt, der das Digitale betrifft und in alles miteinbezieht. Das Gefühl der Vernetzung und der Solidarität im positiven Sinne sind dabei von größter Bedeutung.

politik-digital: Dass wir und selbst eher als findende, lösungsorientierte Menschen wahrnehmen, spiegelt also eine Notwendigkeit wider, auch um im Digitalen den Kairos-Moment nicht zu verpassen. Bei einem Interview mit Radio evolve bezeichnen Sie sich trotz der intensiven Auseinandersetzung mit destruktiven Energien, Krisen und Unheil dennoch als Optimist. Wie können Sie mir und den LeserInnen helfen, unseren Optimismus nicht zu verlieren oder gar wiederzufinden?

Claus Eurich: Wir haben gar keine andere Chance als optimistisch zu sein, denn sonst wird der Sog des Destruktiven auch in der Wahrnehmung einfach zu stark. Wenn ich das Leiden auf unserem Planeten immer in allen Dimensionen und Facetten an mich heranlassen würde, dann wäre das schlicht und einfach nicht auszuhalten. Optimismus meint, das zu integrieren und trotzdem weiterzugehen und ganz im Sinne der existenzialistischen Ethik, sich immer wieder neu zu entwerfen. Wir brauchen eine Vision vom Leben, die uns durch alle Katastrophen hindurchzieht und weiter aufrecht gehen lässt.

Optimismus als einzige Chance, auch online

politik-digital: Um seinen Optimismus auch in den digitalen Sphären nicht zu verlieren, hat das Institut für Digitale Ethik der Hochschule für Medien in Stuttgart sogenannte 10 Gebote veröffentlicht. Sie sollen uns helfen, uns in der digitalen Welt zurechtzufinden durch Gebote wie „Messe deinen Wert nicht an Likes und Posts“ oder „Glaube nicht alles, was Du online siehst und informiere Dich aus verschiedenen Quellen“. Welche (digitale) Handlungsmaxime geben Sie uns mit auf den Weg?

Claus Eurich: Mir liegt besonders am Herzen, ein eigenständiger Mensch zu sein und nicht zum Anhängsel oder Opfer einer Technik zu werden. Und wenn ich merke, hier läuft etwas ungut im Bereich der digitalen Nutzung, sollte ich mich in der Lage sehen, zu reagieren und auch andere Wege zu gehen. Im eigenständigen Denken und Entwickeln ethischer Maßstäbe beginnt für mich alles. Hier erst entsteht Menschsein. Und dann versuche deine Lebenswelt so zu gestalten, dass du wirklich das Gefühl hast: Es ist gut für mich und es dient dem Leben insgesamt. Einen anderen Ratschlag kann ich nicht geben.

politik-digital: Vielen Dank für das Gespräch, Herr Eurich.

Titelbild: Die Schule von Athen von Raffael, public domain, verändert

Menschliche Entscheidungen sind häufig intuitiv und leicht beeinflussbar. Wir sind schlecht darin, Wahrscheinlichkeiten korrekt zu beurteilen und über- bzw. unterschätzen daher gerne Risiken. Wird zum Beispiel anhaltend über Terror berichtet, neigen wir dazu, unser eigenes Anschlagsrisiko grob zu überschätzen. Auch orientieren wir uns an gewissen Fixpunkten, unabhängig von ihrer tatsächlichen Relevanz. Man denke nur an den Impuls, etwas zu kaufen, weil es stark reduziert ist, ganz abgesehen von der Angemessenheit des Original- bzw. vermeintlichen Schnäppchenpreises. Während man in solchen Fällen vielleicht noch von einer gewissen Korrelation zwischen Preis und Qualität ausgehen kann, lässt sich ein solcher Anker-Effekt auch bei gänzlich unabhängigen Werten feststellen.

So wurden Richter_innen in einem Versuch gebeten zwei, den Probanden unbekannterweise gezinkte, Würfel zu werfen, deren Summe immer nur drei oder neun war. Anschließend präsentierte man ihnen einen fiktiven Fall von Ladendiebstahl mit der Frage, ob sie ein Strafmaß höher oder niedriger als die gerade gewürfelte Summe aussprechen würden. Solche, die eine Summe von neun gewürfelt hatten sprachen sich im Schnitt für eine Strafe von 8 Monaten aus. Die, deren Summe drei gezeigt hatte, im Mittel für 5 Monate. Nun kann man argumentieren, dass diese Tendenz zu Fehleinschätzungen uns vermehrt nur in solchen Momenten beeinflusst, in denen wir nicht ernsthaft nachdenken. Dennoch stellt sich die Frage, ob sich solche Willkür nicht unterbinden lässt.

Scheidung per Algorithmus

Zumindest in vergleichsweise simplen Entscheidungsprozessen könnten Algorithmen hier Abhilfe schaffen. Ein Pilotprojekt bildet das niederländische System Rechtswijzer (übersetzt soviel wie: „Wegweiser zum Recht“), ein komplett automatisierter Streitschlichtungsservice. Derzeit bietet das Portal Lösungen in Scheidungsangelegenheiten und bei Beschwerden zu Online-Käufen an. Module zur Schlichtung von Mietstreitigkeiten sowie zur Konfliktlösung am Arbeitsplatz sollen folgen. Nutzer_innen des Systems füllen umfangreiche Fragebögen zu unter anderem ihrer Vermögenssituation, Bildungsstand und gemeinsamen Kindern aus, auf Basis derer ein Algorithmus dann einen Lösungsvorschlag macht. Angeblich schalten nur fünf Prozent der Nutzer_innen darüber hinaus noch menschliche Richter_innen ein.

Vorteile solcher Schlichtungsalgorithmen sind neben der Reduktion der gerade genannten Willkür auch die Vereinheitlichung von Gebühren – so zahlen Paare 100€ für die Nutzung des Portals und weitere 360€, wenn menschliche Schlichter_innen eingeschaltet werden sollen. In Deutschland sind Rechtsanwaltskosten zwar klaren Regelungen unterworfen, steigen aber proportional mit dem Streitwert der Scheidung, der sich aus Einkommen und Vermögen der Parteien zusammensetzt. Ein Wert von unter 100€ oder auch 460€ ist so kaum erreichbar. Durch eine Vereinheitlichung per Algorithmus würden Scheidungen also jeden das Gleiche kosten – ob Fixkosten allerdings gerechter sind als proportional steigende, sei dahingestellt. Was außer Frage steht ist, dass eine Vereinheitlichung der Entscheidungskriterien, unabhängig von menschlichen Launen, zu bevorzugen ist.

Die Limitationen einer solchen Plattform sind allerdings schnell erreicht. Nur in Streitsituationen zwischen zwei Parteien, in denen es um eindeutig kalkulierbare Variablen geht, kann ein Algorithmus einen Lösungsvorschlag abgeben. Ist ein Prozess zu komplex oder beispielsweise eine richterliche Auslegung einer bestimmten Beweislage gefragt, könnte man aber dennoch von der preisreduzierenden Dimension einer zumindest Teilautomatisierung bestimmter Formalien profitieren.

Zukunft der Justiz?

Andererseits scheint es nur eine Frage der Zeit, bis lernende Algorithmen in der Lage sind, Urteile über weniger eindeutige Verhältnisse zu fällen. Vorstellbar ist, dass mittelfristig eine Umkehr der Verhältnisse stattfindet: anstatt, dass der Algorithmus Jurist_innen unterstützt, unterstützen diese den Algorithmus, füttern ihn mit Meinungen und menschlichen Einschätzungen und lassen ihn ansonsten walten.

Natürlich wäre so ein Algorithmus aber nur so gut wie seine Programmierer_innen und die zugrundeliegenden Daten. Brächte man einem Algorithmus beispielsweise bei, Entscheidungen auf Basis historischer Urteilssprechungen zu fällen, würden systematische Fehler in dieser Datenbank konsequenterweise auch von der Maschine übernommen. Hindernisse dieser Art sind aber keineswegs unüberbrückbar. Auch die gesellschaftliche Akzeptanz vollautomatisierter Gerichtsurteile ist vorstellbar, insbesondere, wenn sie schrittweise eingeführt wird – in diesem Sinne ist Rechtswijzer nicht nur ein Wegweiser zum Recht, sondern auch ein Wegweiser in die Zukunft.

Titelbild: Frau mit Smartphone via unsplash von Benjamin Child,
Smartphone via pixabay von geralt, licenced CC0, [bearbeitet]

Längst sind die Zukunftsphantasien früher Science-Fiction Klassiker technische Realität geworden. Roboter sind fester Bestandteil industrieller Produktionsmechanismen, drehen als automatisierte Staubsauger ihre Bahnen in unseren Wohnzimmern, kümmern sich um den Rasen oder spielen in der FIRA-Roboterfußballweltmeisterschaft um den Sieg. Doch wie geht die Entwicklung weiter und welche Lebensbereiche werden Roboter in Zukunft erobern? Und welche Regeln müssen wir im Umgang mit Robotern etablieren?

1. Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich) Schaden zugefügt wird.
2. Der Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Mit diesen drei Gesetzen der Robotik, die Isaac Asimov bereits 1942 in seiner Kurzgeschichte Runaround aufzeigte, ging er sogar schon einen Schritt weiter. So zielen die „Grundregeln des Roboterdienstes“ darauf ab, das soziale Miteinander von Mensch und Roboter zu regeln. Doch was basteln wir zwischen den vielen Drähten und der Software eigentlich zusammen, was ist ein solcher Roboter überhaupt?

Von Halbautomaten und metallenen Hinterteilen

Der Begriff „Roboter“ leitet sich vom tschechischen Wort „robota“, zu Deutsch, „Frontdienst“ oder „Zwangsarbeit“ ab. Eine passende Bezeichnung will man meinen, schließlich sind die technischen Helferlein dazu auserkoren, dem Menschen Arbeit abzunehmen. Auch die früheren Bezeichnungen als „Automaten“ oder „Halbautomaten“ zielt in diese Richtung und gibt Hinweis auf den Charakter des Roboters. So bestand seine Hauptaufgabe darin, automatisiert mechanische Aufgaben zu übernehmen.

Doch Entwicklung bleibt bekanntermaßen nie stehen. So wurde der Sieg des Computers Deep Blue über den damaligen Schachweltmeister Garri Kasparow im Jahr 1996 zum Wendepunkt der modernen Robotik. Eine künstliche Intelligenz bezwang das menschliche Denkvermögen. Roboter wurden zunehmend weiterentwickelt, lernten selbstständig, agierten und reagierten. Zur reinen Mechanik gesellten sich komplexe Denkprozesse. Nun stehen wir vor einer neuen Entwicklungsphase. Nicht nur Arbeitsbereiche, auch unser soziales Lebensumfeld soll nun von Robotern erobert werden. Wahrnehmungsmechanismen sollen das Agieren in sozialen Kontexten ermöglichen.

Die Experten- und Interventionsplattform Co:llaboratory (CoLab) – Internet & Gesellschaft befasste sich deshalb mit dem Thema sozialer Interaktion und Beziehung von Mensch und Maschine. „Der technische Fortschritt weist den Weg hin zu Robotern mit sozialen Kompetenzen. Wir wollen Roboter, die als Gefährten, Familienmitglieder und Lehrer mit uns interagieren. Dazu müssen wir sie in gesellschaftliche Kontexte und Sozialnormen einbetten“, schaut Hans-Dieter Burkhard, emeritierter Professor für künstliche Intelligenz und intelligente autonome Roboter an der HU Berlin, voraus.

„Von allen Freunden die ich je hatte bist du der Erste“, meint Bender, der metallene Roboter-Kumpel des Pizzaboten Fry in der Serie Futurama. So überspitzt wie dieses Beispiel auch sein mag, gibt es dennoch Hinweis darauf, welcher Folgen wir uns durch die technischen Entwicklungen der Robotik, bewusst werden müssen. „The humanity can bite my shiny metal ass“, ist Benders Markenspruch. Vielleicht bekommen wir diesen Spruch bald auch im echten Leben zu hören; dann nämlich, wenn intelligente Roboter Teil unserer Lebenswelten und eigene Mitglieder der Gesellschaft werden. Ob dann die drei Gesetze der Robotik hier noch genügen, um das Miteinander von Mensch und Roboter zu regeln?

Auch Roboter brauchen Gefühle

Medizinroboter sind bereits heute fester Bestandteil hochkomplexer Medizin. Transportroboter, virtuelle Assistenzärzte und Chirurgie-Roboter sind zu einer nicht wegzudenkenden Unterstützung in modernen OP-Sälen geworden. Wo Krankenhäuser von der modernen Technik profitieren, fallen aber andere Stellen des Gesundheitssystems zurück. So kann die Pflege, die einen steigenden Anteil älterer PatientInnen versorgen muss, bisher nur wenig von den technischen Neuerungen profitieren. Pflegeroboter sollen hier Abhilfe schaffen.

Auch als soziale Agenten sollen sie handeln und mit dem Menschen interagieren, ihm in Notlagen helfen und bei gesundheitlichen Problemen unterstützen. Um diese Aufgabe zu übernehmen, braucht es zweierlei: Handwerkszeug, um eine ausreichende Unterstützung mechanisch zu realisieren, aber auch Sozialkompetenz, um gegebenenfalls für PatientInnen Entscheidungen zu übernehmen. Ähnlich wie im Film „Der 200 Jahre Mann“ müssen Roboter dann lernen, was ein Mensch ist, was ihn ausmacht. In Japan laufen hierzu bereits erste Feldversuche mit einem Hotel, das nur noch von Robotern betrieben wird. Sollten solche Tests langfristig funktionieren, könnte man ein ähnliches Prinzip auf Krankenhäuser übertragen.

Für Karsten Weber, Professor und Technikphilosoph, und Dr. Martin Meister, Techniksoziologe, liegt hier aber die zentrale technische Herausforderung: die Programmierbarkeit von Sozialität. So erscheint es äußerst schwierig, Robotern das beizubringen, was sich Menschen in Jahrzenten des sozialen Lernens aneignen. Sollten dann einmal die falschen Entscheidungen getroffen werden, ist es äußerst schwierig, einen Verantwortlichen für die Fehlentscheidung zu finden, ergänzt Burkhard.

Je mehr Roboter zu Begleitern in unseren Lebenswelten werden, je intelligenter und selbstständiger sie handeln, desto häufiger werden wir auf Konflikte mit unseren normativen Werten von Selbstbestimmung und Selbstbestimmtheit treffen. Wenn die Anknüpfungspunkte zwischen Mensch und Maschine zunehmend diverser und Teil unseres sozialen Umfelds werden, müssen wir letztlich entscheiden, in welcher Beziehung wir zu Robotern stehen. Sollen sie unsere Mittel, unsere Werkzeuge, Partner, Freunde oder sogar mehr sein? Auf dem Weg zu einer Antwort darauf müssen wir darüber diskutieren, wie Roboter aussehen sollen und wie nicht; wir müssen uns darüber klar werden, was Roboter eigentlich sind, und festlegen, welche Rolle sie in unserer Gesellschaft einnehmen sollen.

More human than human?

Betrachtet man das Einsatzgebiet der Pflege, scheint die Frage nach dem Erscheinungsbild sozialer Roboter bereits geklärt. Der Mensch überholt sich selbst. Vielleicht leitet sich der Roboter also doch eher vom englischen Namen „Rob“ ab: denn „der Erhabene“ humanoide Roboter rückt zunehmend ins Zentrum der Entwicklung und eröffnet den Raum für weitere Gedankenspiele.

Längst weisen Roboter typisierte ästhetische Formen auf, längst bauen wir Roboter nach unserem Ebenbild. Denn der Mensch anthropomorphisiert, er neigt zur Vermenschlichung von Robotern. So gehören unförmige Maschinen, die strikt Befehlen befolgen und einzelne Aufgaben erledigen, der Vergangenheit an.

Die Wahl zwischen der „perfekten Maschine“ und dem „besseren Menschen“ scheint also bereits entschieden. Die moderne Robotik baut am „Mensch 2.0“: Intelligent, lernfähig, sozial und allzeit bereit, ein Allroundtalent eben. „More human than human is our motto“, heißt es da vom Hersteller menschlicher Replikaten im Film Blade Runner über die Natur humanoider Roboter.

Zwischen Dienern und Gynoide

In vielerlei Hinsicht haben uns Science-Fiction Klassiker bereits die zentralen Probleme auf dem Weg zum Bau des „besseren Menschen“ gezeigt. So begegnet Batty, einer der humanoiden Replikanten in Blade Runner, dem Protagonisten mit den Worten: „That’s what it is to be a slave.” Aber auch der Gynoid (weiblicher Androide) Cho in Gwyneth Ann Jones Roman „Divine Endurance“ leidet unter ihrer Unterdrückung. Als „perfekte Frau“ ist sie dazu auserkoren, jeden Wunsch des Menschen zu erfüllen, doch ihre Schönheit und stereotypischen Geschlechtsattribute verstärken Unterdrückung und Diskriminierung.

Schon heute bevölkern Chatbots die Singlebörsen des Netzes und täuschen soziale Kontakte vor. Auf diese Weise sind Roboter nicht mehr nur noch Werkzeuge oder Helfer, die für uns Aufgaben erledigen. Sie erfüllen menschliche Wünsche nach Liebe, Anerkennung und Partnerschaft. In Japan beispielsweise wird Singles durch Roboter Aufmerksamkeit geschenkt, indem sie mit ihnen reden, Geborgenheit vortäuschen, ihnen das Gefühl von Liebe und Nähe vermitteln. Dabei fördert diese Verfügbarkeit aber auch eine zunehmende Beliebigkeit, fördern sogar Sexualisierung und Diskriminierung.

Vielleicht brauchen wir gerade deshalb geschlechtsneutrale Roboter, wie es die Ethik der Robotik vorschlägt. Vielleicht sollten wir weniger den „besseren Menschen“ bauen wollen, als uns auf die Entwicklung der „perfekten Maschine“ zurückzubesinnen. Wenn aber Sexualisierung und Unterdrückung von künstlicher Intelligenz und Robotern dazu führen, dass Geschlechtsdiskriminierung und „Master-Slave“ Konstellationen unsere Umgangsweise mit Robotern bestimmt, dann steht es nämlich vielleicht auch schlecht um unsere ethischen Wertevorstellungen.

Mein metallener Freund und Helfer?

In erster Linie bleibt der Roboter eine Maschine: Intelligent, sozial, aber eben ohne Gefühle. Auch die Entwicklung humanoider Roboter steckt noch in den Kinderschuhen. Dennoch dürfen wir die ethischen und gesellschaftlichen Fragen nicht ignorieren, die uns beim Bau von Robotern begegnen. Denn die Schöpfung einer menschenähnlichen Dienerschaft, die uns gehorsam folgt und unsere Arbeit verrichtet, wird nicht ohne Folgen an uns vorbeigehen. Wozu brauchen wir Roboter? Welche Eigenschaften wollen wir ihnen zuschreiben? Sollen sie aussehen wie Bender, geschaffen nach unserem Abbild, als Freund oder lediglich ein Industrieroboter zur reinen Arbeitshilfe sein?

Die Mechanisierung und der technische Fortschritt werden weitergehen. Roboter werden den Alltag immer mehr mitbestimmen und begleiten. Die Frage bleibt, in welche Richtung dies gehen soll. „Da waren lauter Nullen und Einsen und ich dachte, ich hätte sogar eine zwei gesehen“, schildert der Roboter Bender seine Erfahrungen. Es bleibt also noch viel zu entwickeln, zu entdecken und zu hinterfragen auf dem Weg zum Roboter der Zukunft.

Titelbild: Berlin, Roboter mit seinem Erfinder; Bild 102-09312 by Bundesarchiv via wikimedicommons licenced CC-BY-SA 3.0