MEINUNG

Was Sie wissen müssen, wenn Dr. Big-Data bald über Leben und Tod entscheidet: „Wir sollten Maschinen nicht blind vertrauen“

Susanne Rytina

Interessenkonflikte

7. März 2018

Prof. Dr. Karsten Borgwardt

Google & Co. investieren in Algorithmen, die die Lebenserwartung von Schwerkranken errechnen, um Kosten zu sparen. Patienten ohne langfristige Perspektive sollen bis zum Tode gepflegt werden, aber keine medizinische Behandlung mehr erhalten. Der Experte für Data Mining, Prof. Dr. Karsten Borgwardt von der Eidgenössischen Technischen Hochschule Zürich (ETHZ), erklärt in einem Gespräch mit Medscape, warum Ärzte Algorithmen kritisch hinterfragen sollten.

Medscape: Der sogenannte „Todes-Algorithmus“ der Firma Aspire Health hat eine große Diskussion in der Gesellschaft ausgelöst, ob Maschinen über einen Behandlungsabbruch entscheiden dürfen. Auch in der Medizin, etwa beim „Cancer Genome Atlas“-Projekt, errechnen Algorithmen, wer länger überlebt und wer kürzer überlebt.

Prof. Dr. Borgwardt: Der Algorithmus und die Ziele von Aspire Health als kommerzielle Gesellschaft sind mir nicht im Detail bekannt. Prinzipiell sollten alle diese Algorithmen zur Mortalitäts-Vorhersage nicht eigenständig wichtige Entscheidungen treffen, sondern nur Daten liefern, die einem Mediziner bei der Behandlungsentscheidung zum Wohle des Patienten helfen. Mortalitäts-Vorhersagen als solche sind nämlich ein wichtiger Aspekt der medizinischen Forschung. Diese Vorhersagen sind dazu da, dass Patienten mit hohem Mortalitätsrisiko engmaschiger untersucht und kontrolliert werden und sie mehr ärztliche Versorgung erhalten.

Es geht also darum, Risikogruppen intensiver zu behandeln, nicht weniger. Wir forschen gerade an Algorithmen für die Intensivstation, die einen septischen Schock voraussagen sollen. Hier ist es für den Arzt extrem wichtig, zu wissen, welcher Patient ein besonders hohes Sterberisiko hat, damit er möglichst zeitnah intervenieren kann.  

Medscape: Könnten aber Algorithmen bei der Krebsbehandlung entscheiden, dass es bei Patienten, die ohnehin nur noch eine kurze Überlebensspanne haben, sinnvoll wäre, die Chemotherapie oder Strahlentherapie abzusetzen, die sie ja auch schwer beeinträchtigt?

Prof. Dr. Borgwardt: Diese Algorithmen-basierten Mortalitäts-Vorhersagen weisen eine deutliche Fehlerrate und Varianz auf, sie sind nicht absolut. Es handelt sich hier häufig um Mittelwerte, die darstellen, wie lange der Krebspatient im Mittel nach der Diagnose oder nach der ersten Chemotherapie überlebt. Es gibt also einen signifikanten Anteil an Patienten, der deutlich länger lebt als der Durchschnitt.

 
Es gibt durchaus auch Studien, die versuchen, Mortalitätsvorhersagen für Individuen zu berechnen. Prof. Dr. Karsten Borgwardt
 

Deswegen sollte man sehr vorsichtig sein, aus solchen sehr unsicheren Vorhersagen absolute Schlussfolgerungen zu ziehen. Wir können zwar meist eine Aussage machen über eine Population von Patienten. Wir können aber bisher keine akkurate Aussage über den einzelnen Patienten treffen. So ist der aktuelle Stand der Wissenschaft. Und dieser darf meines Erachtens nicht die Grundlage sein, um jemandem medizinische Behandlung vorzuenthalten.

Medscape: Sie sagen, im Moment liefern Comupter nur unsichere Prognosen. Werden sie in Zukunft besser werden?

Prof. Dr. Borgwardt: Es gibt durchaus auch Studien, die versuchen, Mortalitätsvorhersagen für Individuen zu berechnen. Ganna et al. haben hierzu 2015 im Lancet eine Studie mit Daten aus einer der größten Patienten-Datenbanken veröffentlicht – der UK-Biobank. Es ging darum, die 5-Jahres-Mortalität anhand von individuellen Patienteneigenschaften zu ermitteln. Aber noch sind diese Vorhersagen nicht so präzise, dass wir daraus Behandlungsstrategien ableiten sollten. Die Fehlerrate ist immer noch zu groß, so dass wir nicht genau wissen, ob jemand in einem bestimmten Zeitraum sterben wird.

Medscape: Das Kerngeschäft der Firma Aspire Health, wo man die Lebenserwartung berechnet und an der auch Google beteiligt ist, scheint der Verkauf von palliativen Leistungen zu sein, also Pflege für austherapierte Patienten. Das hat einen Beigeschmack, weil die Firma genau an solchen Patienten verdient. Dazu kommt, dass dieser Algorithmus nicht offengelegt wird. Wie zuverlässig ist das?

Prof. Dr. Borgwardt: Ich kann nicht im Detail beurteilen, was diese Firma macht, und habe das auch nur in den Medien gelesen. Wenn aber Algorithmen nicht öffentlich verfügbar sind, können wir überhaupt nicht sicher sein, wie sie genau zu ihren Vorhersagen gelangen. Wir sprechen dann von einer Black Box. Es ist meiner Meinung nach extrem heikel, kommerzielle Algorithmen, deren Innenleben für die Öffentlichkeit nicht durchschaubar ist, für Entscheidungen in der Gesundheitsversorgung heranzuziehen.

Wenn wir hingegen an den Hochschulen und Universitäten an neuen Algorithmen forschen, dann ist eine Hauptanforderung, die unsere medizinischen Kollaborationspartner an uns stellen, dass unsere Algorithmen durchschaubar und die Ergebnisse interpretierbar sind.

 
Es wird in Zukunft eine ganz wichtige Fähigkeit von Ärzten sein, diese Algorithmen prinzipiell zu verstehen. Prof. Dr. Karsten Borgwardt
 

Medscape: Wie genau wird bei Ihnen die ärztliche Expertise eingebunden, wenn Sie Algorithmen entwickeln?

Prof. Dr. Borgwardt: Ich arbeite in jedem Stadium der Durchführung solcher Forschungsprojekte eng mit Medizinern zusammen. Es sind die Ärzte, die Datensätze zusammenstellen können, aus denen dann unsere Maschinen lernen können. Die Mediziner erklären uns, worauf unsere Algorithmen bei der Diagnose genau achten sollen und welche Art von Vorhersage für sie den meisten Nutzen im klinischen Alltag hat. Wir als Bioinformatiker haben ja nicht dieses spezielle medizinische Wissen über die Fragestellung, die in der Klinik gelöst werden soll.

Medscape: Inwieweit ist Ihre Arbeit als Bioinformatiker für die Mediziner nachvollziehbar?

Prof. Dr. Borgwardt: Es wird in Zukunft eine ganz wichtige Fähigkeit von Ärzten sein, diese Algorithmen prinzipiell zu verstehen, ihre Ergebnisse beurteilen und hinterfragen zu können. Mediziner müssen die Vor- und Nachteile und Grenzen dieser Technologie kennen, die immer mehr Einsatz finden wird.

Wie die letzte mathematische Berechnung in diesen Algorithmen erfolgt, ist meines Erachtens für die Ärzte wiederum weniger relevant. Diese Anforderung muss auch die Ausbildung von Lebenswissenschaftlern an den Hochschulen heute und in Zukunft berücksichtigen. Ich unterrichte zum Beispiel Biologen im zweiten Jahr an der ETHZ, um ihnen Stärken und Schwächen von „Data Mining“ und maschinellem Lernen näherzubringen. Die Studierenden lernen hier, was genau die Auswirkungen sind, wenn man ein bestimmtes Verfahren verwendet oder wenn man Parameter in einem bestimmten Verfahren verändert.

Medscape: Was kann die Maschine besser, was der Mediziner?

 
Man sollte der Maschine nicht blind vertrauen. Prof. Dr. Karsten Borgwardt
 

Prof. Dr. Borgwardt: Die Maschine kann aus immer größeren Datenmengen lernen und Muster mit einer Schnelligkeit erkennen, zu der der Mensch niemals im Stande wäre. Die Maschine löst aber immer nur die ihr gegebene Aufgabe. Sie kann zum Beispiel trainiert werden, Metastasen und Muster in pathologischen Bildern zu erkennen, die sich dem menschlichen Auge entziehen. Aber nur der Mediziner – und nicht die Maschine – kann diese Ergebnisse interpretieren, sie in einen Kontext setzen und kritisch hinterfragen. Der Arzt kann seinen gesamten Erfahrungsschatz in die Behandlungsentscheidung einfließen lassen. Daher sollte auch der Arzt die letzte Entscheidung treffen und nicht der Computer. Die Maschine kann den Arzt zwar unterstützen, sie kann ihn aber als Entscheidungsträger nicht ersetzen.

Medscape: Manche berachten die Dinge noch sehr viel technikfreundlicher. Es wird argumentiert, dass auch Kliniken mitunter nach kommerziellen Aspekten beziehungsweise nach Vergütungsaspekten entscheiden könnten, ob es sich lohnt, einen Patienten zu operieren oder nicht. Wenn ein Algorithmus nach rein medizinischen Aspekten entscheidet, wäre das objektiver, so das Gegenargument.

Prof. Dr. Borgwardt: Ich kann als Nicht-Mediziner die Objektivität klinischer Entscheidungen nicht wirklich beurteilen. Aber wenn man schon die Maschine bevorzugt, muss man sich eben auch aller Schwächen der Maschine bewusst sein. Eine Maschine untersucht immer nur die Ebenen, die in ihr realisiert wurden. Man kann die beschriebene Meinung vertreten, aber man sollte der Maschine nicht blind vertrauen.

Medscape: Befürchten Sie, dass Ihre Arbeit durch die derzeitige Diskussion diskreditiert wird?

Prof. Dr. Borgwardt: Nein. Nachdem die Algorithmen immer mehr unsere Gesellschaft und viele Aspekte des Lebens durchdringen, müssen wir auch definieren, was diese Algorithmen nicht tun sollen. Und wir müssen darüber sprechen, was sie optimieren sollen. Was sind also akzeptable Ziele, die ein Programm und ein Algorithmus haben sollten, was sind nicht akzeptable oder ethisch fragwürdige Ziele? Ich halte es für eine wichtige Debatte, was wir mit der Technologie erreichen und was wir verhindern wollen. Wenn es wirklich soweit käme, dass jemand durch maschinelles Lernen Ausgaben einsparen möchte, ohne das Patientenwohl im Auge zu haben, dann sollten hier die Gesellschaft und der Gesetzgeber einschreiten.

 

Kommentar

3090D553-9492-4563-8681-AD288FA52ACE
Wir bitten darum, Diskussionen höflich und sachlich zu halten. Beiträge werden vor der Veröffentlichung nicht überprüft, jedoch werden Kommentare, die unsere Community-Regeln verletzen, gelöscht.

wird bearbeitet....