Spätestens seit ChatGPT ist künstliche Intelligenz in aller Munde. Umso wichtiger, zu klären, was sich Gesundheitsfachberufe von der Technologie erwarten, die längst dabei ist, in der medizinischen Versorgung Einzug zu halten. Die Plattform Lernende Systeme, genauer deren Arbeitsgruppe Gesundheit, Medizintechnik, Pflege unter Leitung von Prof. Klemens Budde von der Nephrologie der Charité Berlin, hat jetzt bei der DMEA ein Whitepaper vorgestellt, das sich mit den Erwartungen beschäftigt, die Ärzt:innen und Pflegekräfte an den Einsatz von KI-Systemen in der medizinischen Versorgung haben. In einem mehrstufigen Verfahren wurden zunächst grundsätzliche Einstellungen gegenüber und Erfahrungen mit KI-Anwendungen schriftlich abgefragt. Danach fand im März 2022 ein Workshop statt, der Chancen und Herausforderungen von sowie Voraussetzungen für einen KI-Einsatz in der medizinischen Versorgung qualitativ in einer Art Delphi-Verfahren formulierte.
Viele gute Noten für potenzielle KI-Anwendungen
Im Rahmen der schriftlichen Befragung wurden unter anderem eine ganze Reihe konkreter Anwendungen im Hinblick auf ihre Nützlichkeit abgefragt. Sehr positive Einschätzungen gab es dort für eine Reihe von bildgebenden KI-Anwendungen, darunter die Erkennung von Brustanomalien in der Tomosynthese sowie die Auswertung von Ultraschalluntersuchungen in der Strahlentherapie. Auch KI-gestützte Benachrichtigungs-Software für CT-Bilder und andere Bildbefunde wurde sehr positiv gesehen, außerdem die automatisierte Erkennung einer diabetischen Retinopathie in der Augenheilkunde und Software-Lösungen zur Detektion krebsverdächtiger Läsionen.
Im Pflegebereich bekamen die kontaktlose, KI-gestützte Messung von Vitaldaten, eine 3D-Bewegungsanalyse für die Sturzprävention und teilautomatisierte Personentransportlifte die besten Noten. Auch digitale Assistenzsysteme für pflegende Angehörige wurden als sehr hilfreich bewertet, ebenso Lösungen für die Früherkennung und die Versorgung von Demenzpatient:innen. Weniger gut kamen dagegen die viel gehypten KI-gestützte Assistenzroboter für pflegebedürftige Senioren weg.
Große Chance: Bessere Versorgung
Angst vor dem „großen Unbekannten KI“ haben Gesundheitsfachkräfte in jedem Fall nicht. Viel Potenzial wird gesehen, vor allem in einer Verbesserung der medizinischen Versorgung durch KI-Anwendungen. Das hat demnach mehrere Dimensionen. Zum einen könnten KI-Lösungen durch Unterstützung bei insbesondere repetitiven Tätigkeiten sowie Dokumentationstätigkeiten dazu führen, dass mehr Zeit für die eigentliche medizinische Tätigkeit bleibt. Auch eine ihrerseits qualitätsfördernde, emotionale Entlastung wurde gesehen, wenn KI-Lösungen ärztliche oder pflegerische Entscheidung zusätzlich absichern.
Die zweite Dimension besteht in der Verbesserung der Informationsgrundlage für klinische Entscheidungen. So können mehr Daten aus unterschiedlichen Quellen in die klinischen Entscheidungen einbezogen werden. Umgesetzt werden kann das zum Beispiel im Rahmen von Prädiktionsmodellen, die ein erhöhtes Risiko für Komplikationen einer intensivmedizinischen Behandlung oder auch einer Nierentransplantation frühzeitig signalisieren. Solche Frühwarnsysteme würden es demnach erlauben, negative Krankheitsverläufe abzuwenden, was entlastend wirkt, weil versorgungsaufwändige, personalbelastende Situationen zumindest teilweise vermieden werden.
Große Herausforderungen: Usability und KI-Kompetenzen
Eine zentrale Herausforderung im Zusammenhang mit KI-Lösungen sehen die Gesundheitsfachkräfte in der Nutzerfreundlichkeit. „Letztlich sollten KI-Systeme eine ähnliche Nutzerfreundlichkeit aufweisen, wie man sie von anderen technologischen Anwendungen erwartet“, fasst das Whitepaper die Erwartungshaltung in diesem Bereich zusammen. Ebenfalls immer wieder hervorgehoben wurde die Notwendigkeit von KI-Kompetenz. Dabei ging es den Gesundheitsfachkräften weniger darum, die Empfehlungen der Algorithmen bis ins letzte zu verstehen als eher darum, ein Bewusstsein für die Grenzen solcher Anwendungen zu entwickeln und KI-Empfehlungen kritisch validieren zu können.
Hingewiesen wurde hier unter anderem auf das Risiko, dass KI-Empfehlungen von Anwendungen, die zeigen konnten, dass sie den Gesundheitsfachkräften in bestimmten Situationen ebenbürtig sind, zu unkritisch übernommen werden. Das kann in Situationen, für die die KI-Anwendung vielleicht nicht trainiert wurde, die Fehlergefahr erhöhen. Ein anderes Problem wurde darin gesehen, dass entscheidungsunterstützende KI-Systeme bestimmte Diagnosen oder Empfehlungen bei Gesundheitsfachkräften quasi präformieren, was dazu führen könne, dass – zum Beispiel in einem Diagnoseprozess – verstärkt „bestätigende“ Informationen gesucht und weniger als vielleicht nötig, vorurteilsfrei gedacht wird.
Vorsicht vor dem trojanischen IT-Pferd
Immer wieder gewarnt wurde von den Gesundheitsfachkräften davor, dass KI-Anwendungen letztlich zu einer Art trojanischem Pferd verkommen könnten. Es wird demnach die Gefahr gesehen, dass solche Anwendungen mit vielen Heilsversprechungen und erheblichen finanziellen Mitteln in die Versorgung geholt werden und sich dort am Ende dann doch als reine Produktivitäts-Tools erweisen, die darauf abzielen, den ohnehin schon stark verdichteten klinischen Alltag noch weiter im Sinne des Managements zu optimieren.
Ebenfalls nach hinten losgehen kann nach Auffassung der Gesundheitsfachkräfte der Datenhunger von KI-Systemen. Wenn Datenerhebung, Datenübertragung und Dateninterpretation zusätzlichen Zeitaufwand bedeuteten – zum Beispiel durch umfangreichere Dokumentation oder auch Doppeldokumentation –, dann könnte die ohnehin schon hohe Arbeitsbelastung insbesondere in Krankenhäusern noch weiter steigen, statt zu sinken.
Prozesse und Infrastrukturen mitdenken
Um das zu vermeiden, ist es nach Auffassung der Gesundheitsfachkräfte zwingend, dass bei der KI-Einführung Prozesse und Infrastrukturen mitgedacht werden. KI-Systeme sollten zum einen möglichst in etablierte Arbeitsabläufe integriert werden. Zum anderen dürften Weiterentwicklungen von Prozessen kein Tabu sein, wenn sich herausstellen sollte, dass KI-Anwendungen entsprechende Verschlankungen von Abläufen ermöglichen. Zwingend nötig ist demnach auch eine konsequente Modernisierung der IT-Infrastrukturen, um den Anwendungen den unbürokratischen Zugang zu jenen Daten zu ermöglichen, die sie benötigen. Daten in medizinischen Einrichtungen lägen weiterhin oft in minderer Qualität, unverknüpft oder nur schwer zugänglich vor – statt qualitativ hochwertig, standardisiert und vollständig interoperabel.
Fazit: Gesundheitsfachkräfte stehen KI-Anwendungen aufgeschlossen gegenüber und sehen teils große Potenziale sowohl was die Versorgung(squalität) als auch was die Entlastung des Personals angeht. Sie sind sich allerdings – sicher nicht zuletzt durch leidvolle Erfahrungen mit vorgeblich alltagsentlastenden IT-Einführungen in der Vergangenheit – der Herausforderungen sehr bewusst, die mit der Einführung weiterer IT-Systeme einhergehen. Der vielleicht zentrale Satz des Whitepapers der Plattform Lernende Systeme lautet: „Nur wenn sowohl das medizinische und pflegerische Personal wie auch die Patientinnen und Patienten merklich von einem KI-System profitieren, kann dies langfristig und erfolgreich Anwendung finden.“
Weitere Informationen:
Das Whitepaper „KI für Gesundheitsfachkräfte“ der AG Gesundheit, Medizintechnik, Pflege der Plattform Lernende Systeme ist hier zum Download verfügbar:
https://www.plattform-lernende-systeme.de/publikationen.html