Katja Weber von Radio 1 moderierte mit Charme und Geschick die offene Veranstaltung. In der Runde begrüßte sie Miriam Jenny, leitende Risikoforscherin am Harding-Zentrum für Risiko-Kompetenz, Wolfgang Schulz, Rechtswissenschaftler und hauseigener Direktor des HIIG und des Hans-Bredow Instituts, sowie den Gründer der Software FUSE-AI, Maximilian Waschka aus Hamburg.

Was ist Deep Learning und welche Vorteile bringen Algorithmen?

Zum Einstieg stellte Maximilian Waschka die Software FUSE-AI vor: eigens entwickelt als Diagnosehilfe zur Erkennung von Prostatakrebs, läuft das Produkt in einer Testphase in einer radiologischen Klinik in Wuppertal. Mit komplexen Analysen im Magnetresonanztomographen (MRT) ortet die Software den Krebs genauer und assistiert dem behandelnden Arzt so bei der Diagnose. Dabei setzt das Programm auf Deep Learning. Bisher noch mit anonymisierten Daten radiologischer Befunde von klinikinternen Patienten. Doch was kommt nach der Testphase? Und ist dies nicht ein Einstieg, dass der Arzt sich zunehmend auf die Diagnose des Algorithmus verlässt? Rechtlich kann er das wohl nicht: „FUSE AI ist ein Medizinprodukt der Klasse 1. – es ist keine Technologie zur Diagnostik, sondern soll lediglich diese unterstützen“, so Waschka.

„Jede Diagnose ist zuallererst eine Annahme, die mit einem Risiko verbunden ist.“

Nach dieser Darstellung eröffnet Moderatorin Katja Weber die Diskussion: Was passiert, wenn Deep Learning zum Standard in der Diagnostik wird – entstehen so neue Risiken, wo doch die digitalisierte Optimierung der Medizintechnologie Risiken einzudämmen scheint? Risikoforscherin Miriam Jenny betont die Vorteile, da das „Entscheidungstrauma“ in dem sich unter anderem viele Ärzte in der Notaufnahme befinden, gemindert werden könnte. Software Agents könnte Problempatienten mit besonders diffusen und undurchsichtigen Symptomen schneller deuten. Die Furcht vor einem möglichen Haftungsrisiko durch diese Kompetenzabgabe müsse man dabei nicht haben – so auch einzelne bestätigende Wortmeldungen von Ärzten im Publikum.

Solidaritätsprinzip und Fallpauschalen

Doch wer sammelt die enorme Menge an Patientendaten? „Es sei illusorisch anzunehmen, dass diese nur für Deep Learning-Prozesse genutzt würden”, argumentiert der Rechtswissenschaftler Schulz. Die neu erhobenen Daten der Software Agents oder medizinischer Software werden jetzt bereits in Big-Data-Analysen von Tochterunternehmen von Google oder den Krankenkassen gesammelt. So kann anhand der Daten ein sogenannter virtueller Zwilling des Patienten erstellt werden: ein Avatar, anhand dessen man aus den Patientendaten ein Gesundheitsszenario für den Betroffenen errechnet. Die Kassen könnten dann ihre tariflichen Bezüge anhand der Wahrscheinlichkeitsrechnung des virtuellen Zwillings sowie des Lebensstils des Patienten individuell vereinbaren. Vereinbar mit dem Solidaritätsprinzip der Kassen ist das nicht. Handelt es sich hierbei um die Gleislegung zur Gesundheitsdiktatur? Wolfgang Schulz verweist auf die Datenschutzgrundverordnung (DSGVO). Die soll ab 2018 einen europaweiten Standard für datenschutzrechtliche Rahmenbedingen der Krankenkassen konzipieren. Ob dies ausreicht, bleibt als Frage jedoch offen im Raum stehen.

Entfremdung der Ärzte

Aber nicht nur die systemische Veränderung ist kritisch zu betrachten, auch die Auswirkungen auf, die Mediziner selbst sei besorgniserregend, gibt ein Urologe zu bedenken. Die Rationalisierung und Digitalisierung der Medizin habe eine „Erosion des Arzt-Patienten-Verhältnis“ zur Folge. Wenn Fallpauschale und Sonderentgelt zum Status quo werden, ist das Zurückgreifen auf Automatisierungsprozesse und eine schnelle Abwicklung der Behandlung zu befürchten.

Gegenmaßnahmen und Sicherungsansätze

Wie können diese Entwicklungen substantiell aufgefangen und auf ihre drohenden Konsequenzen reagiert werden? Man spricht über Trust-Center  aus unterschiedlichen Experten des Ethik-Rats und der Kassen. In der Schweiz können Privatpersonen ihre Daten in einer genossenschaftlich-organisierten Datenkooperative anlegen. In diesem Delta-Trust würden die Daten käuflich nutzbar sein und ihr Erlös in Forschungsinitiativen fließen. Ist die Vorlage gesamtgesellschaftlich realistisch? Und die Ökonomisierung des Arztberufes? Ausbildungssysteme müssen darauf reagieren und auszubildenden Ärzte verdeutlichen, dass Algorithmen nur eine Diagnosehilfe sein sollen. Das Arzt-Patienten-Verhältnis müsse wieder in den Vordergrund geraten, lautet ein Vorschlag aus dem Publikum. Zur Not müsse dies dadurch verstärkt werden, dass die persönliche Zuwendung im Arzt-Patienten-Gespräch zusätzlich vergütet werden.

Dass man die Ökonomisierung der Medizin durch wirtschaftliche Anreize verhindern soll, klingt allerdings auch nicht plausibel. Zementiert die Nutzung von Deep Learning Software wie FUSE-AI also den Wandel hin zu einer ökonomisierten Medizin? Ein Raunen geht durch die Anwesenden – „Radiologen verdienen eh am meisten!“, spöttelt ein Arzt. Ganz ohne Ökonomie geht es in der Medizin wohl dann doch nicht.

Titelbild: Copyright by HIIG