„Technologie schafft nicht Distanz, sondern ermöglicht wieder Nähe“, das war das Credo von Prof. Dr. Martin Hirsch, Leiter des Instituts für KI in der Medizin an der Universität Marburg. Der Biologe war einer der ersten, die sich in Deutschland um medizinische KI-Anwendungen im modernen Sinn gekümmert haben, unter anderem als einer der Mitbegründer von Ada Health.
Beim diesjährigen Meeting am Mountain der Digital Avantgarde am Tegernsee gab Hirsch einen Überblick darüber, wo das Feld nach jetzt mehreren Jahren Large Language Models und anderer großer KI-Modelle steht: „LLMs werden die KI im Gesundheitswesen dramatisch verändern, weil sie in der Lage sind, menschliche Sprache zu verarbeiten. Medizin findet weiterhin stark in menschlicher Sprache statt.“ Als wichtigste technische Trends betrachtet Hirsch aktuell die Chain-of-Thought-Technologie, bei der KI-Tools Probleme in mehrere Einzelschritte zerlegen, außerdem die damit verwandten Multi-Agenten-Systeme, bei denen ein Problem von einer KI auf mehrere „Schultern“ verteilt wird.
Einstieg von Content-Providern als wichtiger Trend
Ein weiterer wichtiger Trend ist Hirsch zufolge die wachsende Zahl spezialisierter medizinischer Modelle, die auch lokal lauffähig sind. Den zunehmenden Einstieg von Content-Providern ins medizinische KI-Business hält Hirsch ebenfalls für wegweisend, ob sie nun OpenEvidence, Wolters Kluwer UpToDate oder Elsevier heißen.
Spannend sei in diesem Zusammenhang unter anderem die Enterprise-weite Einführung von OpenEvidence AI im US-amerikanischen Mount Sinai Krankenhaus, so der Marburger KI-Experte. Den kürzlich bekannt gegebenen Rückzug von OpenEvidence aus Europa sieht Hirsch eher nicht als einen Beleg für europäische Überregulation. Zwar sei es richtig, dass der AI Act an manchen Stellen übers Ziel hinausschieße und dass er deutlich besser mit der Medical Device Regulation harmonisiert werden müsse. Das reiche aber nicht, um den Rückzug plausibel zu erklären.
Hirsch wies darauf hin, dass das Unternehmen OpenEvidence bei der jüngsten Finanzierungsrunde im Januar 2026 mit 12 Milliarden US-Dollar bewertet wurde – bei einem Umsatz, der mit Mühe einen dreistelligen Millionenbetrag erreiche: „Was rechtfertigt diese Differenz? Die müssen die erhobenen Daten noch anders verwerten, sonst rechnet sich das nicht. Ich bin froh, dass wir hinter einem Schutzschirm leben, der erstmal ethische Brandmauern einzieht, auch wenn wir sie teils etwas niedriger halten müssen.“
Nicht mehr „ob“, sondern „wie schnell“
Generell hat Hirsch eher wenige ethische Bedenken, was den KI-Einsatz speziell in der Medizin angeht. Zu offensichtlich sei der Nutzen in vielen Bereichen, von klinischer Prädiktion über Klassifizierungsaufgaben und Dokumentationsfunktionen in allen Spielarten bis hin zur Unterstützung bei der Triage oder der Anomalie-Erkennung. „Wir kommen gar nicht drum herum, KI einzuführen. Es geht jetzt nur noch darum, wie schnell wir sie einführen und welche Anwendungen genau wir einführen.“
Wichtig sei es auch, sich über einige Herausforderungen klar zu sein. Die gelte es zu bedenken, wenn KI in medizinische Prozesse integriert wird. Ein grundsätzliches Problem sei, dass die Zusammenarbeit von Mensch und KI oft noch nicht optimal funktioniere. So gebe es mittlerweile einige Studien, die zeigten, dass „Mensch plus KI“ nicht zwangsläufig besser ist als „Mensch alleine“ oder „KI alleine“. Hirsch sieht das als ein Prozessthema, das adressiert werden müsse: „Letztverantwortlich ist am Ende immer Arzt oder Ärztin. Wenn die sich mit der KI nicht optimal verstehen, dann ist das ein Problem.“
Vorsicht Deskilling!
Ebenfalls im Auge zu behalten sei das Phänomen des Deskilling. Es beschreibt, dass KI-Nutzerinnen und -Nutzer die von der KI übernommene bzw. unterstützte Fähigkeit zumindest teilweise zu verlernen drohen. Hirsch berichtete über eine Endoskopie-Studie, in der gezeigt wurde, dass eine Bild-KI die Adenom-Detektions-Rate deutlich steigerte. Das haben mittlerweile zahlreiche Studien gezeigt.
Gleichzeitig erfolgte ein Eye-Tracking, und hier zeigte sich, dass insbesondere Endoskopie-Neulinge im Gefolge der KI-Einführung ihren Blick deutlich weniger durch den Darm schweifen ließen: „Man starrt im Grunde nur noch auf einen Punkt und wartet, bis irgendwo ein gelber Rahmen aufpoppt.“ Das sei angesichts der guten Performance der KI-Detektion nachvollziehbar, es habe aber keinen Lerneffekt. „Dieses Verhindern von Weiterbildung müssen wir im Auge behalten“, so Hirsch. In der Studie wurde die KI dann nach drei Monaten abgeschaltet, und tatsächlich war die ADR-Detektion der Ärztinnen und Ärzte dann messbar schlechter als vor der KI-Einführung. „Wie schnell sich das wieder erholt, hätte mich interessiert, aber das wurde nicht untersucht.“
Generell sei eine zu unkritische Nutzung von KI einer der wichtigsten Fehler im Umgang mit medizinischer KI: „Wir müssen dafür sorgen, dass Ärztinnen und Ärzte den Technologien nicht blind vertrauen.“ Letztlich, so Hirsch, müsse der Umgang mit einer KI so ähnlich sein wie mit einem Kollegen oder einer Kollegin. Man muss die Person bzw. die KI einschätzen können, ihre Stärken und Schwächen kennen. Auch einem menschlichen Kollegen oder einer menschlichen Kollegin vertraue man nicht blind, aber gleichzeitig kontrolliere man auch nicht alles nach, was der oder die andere tue.