Statement Dr.-Ing. Rainer Lutze im Panel "Health & Care 4.0 - Intelligente Asssistenzsysteme im Zukunftsmarkt Gesundheit", DMEA 2019

Statement Rainer Lutze im Panel "Health & Care 4.0", DMEA 2019

KI, aber wie?

Ein Bericht von der DMEA 2019 in Berlin,
9. – 11.4.2019

Die Frage, wie Künstliche Intelligenz (KI) am effektivsten im Gesundheitsbereich einzusetzen ist, durchzog die DMEA 2019 Messe wie ein roter Faden. Die Voraussetzung dazu, die umfassende Verfügbarkeit digitaler Patientendaten, wird gerade von der Vision zur Alltagsrealität. Eine langfristige Vision, die dabei ist, Gestalt anzunehmen, ist der digitale Zwilling des Patienten. Aktuell noch auf Einzelaspekte oder einzelne Organe wie das Herz beschränkt, wird der digitale Zwilling mittelfristig ein immer umfassenderes Modell des Patienten abbilden. Chancen und Risiken von Therapien: Operationen, Medikationen, … können dann prädikativ an diesem Modell ohne Gefährdung des Patienten evaluiert und individuell optimiert werden.

Neuronales Netzwerk oder regelbasierte System?

Wer Bild- oder Videomaterial zu verarbeiten hat, für den stellt sich die Frage dieses Abschnittes nicht. In dem Sektor der medizinischen Bildverarbeitung hat sich die Spezialform des „CNNs – convolutional neuronal networks“ als überlegene Algorithmik erwiesen. Wie jedes tiefe künstliche neuronale Netzwerk (ANN – artificial neuronal network) sind auch CNNs insbesondere einem maschinellen Lernen zugänglich. Für die bildgestützte Diagnostik in Radiologie, Histopathologie und Dermatologie dürften CNNs kurzfristig Praxisreife erlangen. Sie nehmen es bereits heute mit den besten menschlichen Diagnostikern auf [1], [2].

Anders sieht die Situation aus, wenn sich die Diagnose nicht ausschließlich auf eine Bildverarbeitung stützt. Im Panel „Künstliche Intelligenz für Ärzte und Patienten – Chancen und Herausforderungen für die praktische Anwendung“ debattierten unter Moderation von Prof. Dr. Klaus Juffernbruch Experten über den KI Einsatz. Prof Dr. Thomas Wiegand vom Fraunhofer Heinrich-Hertz-Institut stellte die Gemeinschaftsinitiative, Fokusgruppe „AI for Health“ der ITU und WHO vor. Hier geht es darum, paradigmatische (Trainings)Beispiele und Algorithmen für die frühzeitige Erkennung, Diagnose, Risikoidentifizierung, Therapieempfehlung und das Self-Management von Krankheiten in einem nachvollziehbaren, geregelten Evaluationsverfahren der internationale Gemeinschaft zur Verfügung zu stellen. Die Daten und Verfahren, die im UN-ICC (United Nations – International Computing Centre) vorgehalten werden, werden jeweils mindestens von sieben medizinischen Experten bewertet. Das betrachtete Spektrum reicht von der sehr verbreiteten Risikoprävention für kardiovaskuläre Krankheiten, neuro-kognitive Krankheiten (Demenz, … ) Tuberkulose, der Sturzproblematik für Ältere bis hin zur Erkennung von Schlangen und Schlangenbissen.

Panel KI für Ärzte und Patienten - DMEA 2019: (v.l.n.r.) Prof. Dr. Yvonne Weber, Prof. Dr. Klaus Juffrenbruch, Prof. Dr. Thomas Wiegand, Thanos Ramos,. LL.M.
Panel KI für Ärzte und Patienten – DMEA 2019: (v.l.n.r.) Yvonne Weber, Klaus Juffrenbruch, Thomas Wiegand, Thanos Ramos

Frau Prof. Dr. Yvonne Weber vom Universitätsklinikum Tübingen präsentierte ein KI basiertes ärztliches Entscheidungsunterstützungssystem (CDSS, Clinical Decision Support System) für Diagnose, Therapie und klinische Prozeduren für Epilepsie. die Krankheit betrifft alleine in Deutschland 800.000 Patienten. Das CDSS auf Basis von Arezzo [3] unterstützt zunächst bei der patientenindividuellen Anamnese sowie Diagnosestellung und steuert eine strukturierte Beratung des Patienten. Bei der Differentialdiagnose und den Therapievorschlägen wird von den Ärzten des Klinikums die simultane Darstellung der PROs und CONs für die jeweilige Schlussfolgerung des CDSS geschätzt. Dies gilt insbesondere für die Begründung einer Medikationsempfehlung. Aus Sicht der zehn Assistenzärzte, die das CDSS in Tübingen evaluiert haben,  sind die am meisten geschätzten Eigenschaften des CDSS die schnelle Verfügbarkeit neuer Evidenzen, die patientenindividuelle Umsetzung der fachspezifischen Leitlinien und die Möglichkeit der kritischen Reflexion von Annahmen. Dazu wies Frau Prof. Dr. Weber in ihrem Referat darauf hin, dass es heute im Schnitt 17 Jahre dauert, bis nur 14% der relevanten neuen wissenschaftlichen Erkenntnisse in der täglichen Praxis angewendet werden. In der klinischen Evaluation haben sich insbesondere die korrekte Therapieempfehlung und Aufklärung des Patienten durch den Einsatz des CDSS verbessert. Eine schnellere Diagnose und Therapie vermittels CDSS wurde von den Ärzten nicht als wesentliche Vorteil des Systems angesehen. Mit der regelbasierten Abbildung der neurologisch/epileptologischen Leitlinien ist das CDSS in der Lage, getätigte Schlussfolgerungsketten nachvollziehbar zu begründen. Die notwendige manuelle Pflege des Regelwerks ist jedoch aufwändig. Diese Problematik führte bekanntermaßen Anfang der Neunziger Jahre des letzten Jahrhunderts mit zum berüchtigten ”KI-Winter”. In dessen Kontext wurden die Arbeiten an regelbasierten Expertensysteme infolge mangelnder Wirtschaftlichkeit überwiegend eingestellt.

Der digitale Zwilling –
Der lange Weg von der Vision zur Realität

Die Vision eines digitalen Patientenzwillings, eines individuellen Funktions- und Gestaltmodells eines einzelnen Patienten, durchzieht die Medizin schon seit einiger Zeit [4], [5] . Nicht nur Therapien ließen sich maßgeschneidert und gefahrlos an dem Zwilling erproben. Auch eine prädikative Diagnose erscheint für den Zwilling möglich. Die Realität ist aber eine andere. Der digitale Zwilling des Herzens [6] bildet heute die Speerspitze der Forschung und Entwicklung. Selbst wenn solche Zwillinge auch für alle anderen Organe zur Verfügung stehen werden, ist es von hier bis zur korrekten Modellierung umfassenderer physiologisch/biologischer Subsysteme, wie des Kreislaufs oder Stoffwechsels, noch ein weiter Weg. Der Weg von dort bis zu einem vollständigen Funktionsmodell des Patienten, in dem alle einzelnen Subsysteme wie in der Realität verzahnt zusammenwirken, verbleibt noch in undefinierbarer Ferne. Die NZZ hat ihren digitalen Zwilling [4] etwa im Jahre 2050 zeitlich verortet.

Nichtsdestoweniger ist diese Vision des Patientenzwillings richtig und wichtig. Das Victor Hugo zugeschriebene Credo „Rien n’est plus puissant qu’une idée dont le temps est venu“ hat nichts von seinem Wahrheitsgehalt verloren.

Wir haben auf der DMEA 2019 den Aspekt digitaler Zwillinge präsentiert, der das Informationsmanagement des in KI Systemen enthaltenen, typischerweise personenbezogenen Wissens zum Inhalt hat. Wie ist etwa mit dem Widerruf eines Patienten umzugehen, seine zuvor für ein KI-System, ANN, verwendeten Trainingsdaten aus dem neuronalen Netzwerk wieder „auszulernen“, nicht mehr für die Zukunft zu berücksichtigen? Art. 17 der EU-DSGVO [7] schreibt dieses Grundrecht eines EU-Bürgers in einer praktisch national nicht einschränkbaren Form vor. Die Herausforderung besteht dabei darin, die Funktionsfähigkeit des ANNs ohne die nicht mehr zu verwendenden Trainingsdaten weitestmöglich zu erhalten.

Dr.-Ing. Rainer Lutze mit Gespräch mit Prof. Dr. Uwe Tronnier, Hochschule Kaiserslautern
Rainer Lutze mit Gespräch mit Prof. Dr. Uwe Tronnier, Hochschule Kaiserslautern

Oder wie kann gewährleistet werden, ein ANN nur für solche Patient anzuwenden, für deren Verwendung das ANN auch tatsächlich vorgesehen ist?  Dies ist der Fall, wenn das ANN solche Trainingsdaten einer Benutzerpopulation gelernt hat, der der jeweilige Patient auch angehört. Wie prüft man dies automatisiert?

Auch die algortithmische Selbstlernfähigkeit eines ANN (machine learning) wirft hier deutliche Probleme auf. Sie ist einerseits natürlich hoch erwünscht, insbesondere die Eigenschaft, selbstständig unbekannte neue Strukturen zu erlernen. Im Gegensatz zu regelbasierten Systemen begründet diese Fähigkeit von ANNs einen großen Teil ihrer Attraktivität und wirtschaftlichen Potenz. Im Gesundheitsbereich muss die durch das Lernen bewirkte Funktionsveränderung  des KI-Systems in zweifacher Hinsicht kritisch hinterfragt werden. Zum einen muss geprüft werden, ob etwa für ein reguliertes Software Medizinprodukt durch die Funktionsveränderung nicht die Zulassungsbedingungen für ein Inverkehrbringen des Produktes erloschen sind? Hat das ANN noch immer die bei der klinischen Prüfung zuvor unter Beweis gestellte Wirksamkeit? Oder haben sich durch das Lernen Selektivität oder Spezifität in der Diagnose des KI-Systems möglicherweise verschlechtert? Doch auch der umgekehrte Fall ist zu beachten. Wenn sich die Schlussfolgerungsqualität des KI-Systems durch Lernen wesentlich  verbessert hat, ist es dann nicht ethisch geboten, Patienten, die schon vor längerer Zeit unter Verwendung des Systems behandelt wurden, jetzt erneut zu behandeln. Die Patienten könnten so von dem neu erlernten Wissen des KI-Systems nachträglich profitieren. Unsere auf der DMEA vorstellten drei Ausprägungen digitaler Zwillinge, i) der persönliche digitale Zwilling, ii) der digitale Zwilling für eine Benutzergruppe, und iii) der digitale Zwilling des KI-Systems / ANNs, eröffnen eine Perspektive zum automatisierten Management der entsprechenden Informationen.Diskussion zum digitalen Patientenzwilling, DMEA 2019

Referenzen

[1] „Hautkrebs Erkennung: Algorithmus besser als die meisten Ärzte“, Spiegel Online vom 15.04.2019

[2] „Dermatologist-level classification of skin cancer with deep neural networks“, Nature, volume 542, pp. 115–118 (02 February 2017)

[3] „Arezzo Clinical Decision Support System (CDSS)“, Produktinformation Arezzo – Elsevier GmbH

[4] „Ich und der digitale Avatar“, N.Niederer, NZZ, 28.6.2017

[5] Philips Digital Twin Concept, YouTube 2018

[6] Hintergrundinformation – „Die Möglichkeiten digitaler Zwillinge in der Medizintechnik“, Siemens Healthineers, 21.11.2018

[7] EU Datenschutzgrundverordnung (EU-DSGVO), EU Verordnung 2016/679 vom 27.04.2016 um Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr

Veröffentlicht von

Ein Bild unseres Blog Autors Rainer Lutze

Rainer Lutze

Rainer Lutze ist Gründer und Inhaber der Unternehmensberatung Dr.-Ing. Rainer Lutze Consulting. Das Unternehmen berät seit seiner Gründung im Jahr 2000 Unternehmen und Organisationen im Bereich der digitalen Medien und der digitalen Gesundheit und Pflege (E-Health). Ein aktueller Schwerpunkt ist das intelligente Zuhause, das ein gesundes, sicheres und selbstbestimmtes Leben im vertrauten Zuhause bis ins hohe Alter und auch in Gegenwart alterstypischer Beschwerden und Einschränkungen ermöglicht.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.