Große Sprachmodelle können inzwischen komplexe medizinische Aufgaben bearbeiten. Ihr Einsatz in der klinischen Praxis steht jedoch vor zwei grundlegenden Herausforderungen: Sensible Daten von Patientinnen und Patienten sollen unter Kontrolle der jeweiligen Institution bleiben und nicht an externe Dienste weitergegeben werden; und Ärztinnen und Ärzte müssen beurteilen können, wie verlässlich die Entscheidungen der KI sind. Ein Forschungsteam um Prof. Jakob N. Kather aus Dresden entwickelte ein vollständig lokal betriebenes diagnostisches KI-System und untersuchte es in einer Simulationsumgebung, in der zwei KI-Agenten miteinander interagieren: Einer übernimmt die Rolle des Arztes, der andere die des Patienten. Damit untersuchten die Forschenden, wie zuverlässig medizinische KI-Systeme diagnostische Entscheidungen treffen. Das System basiert auf dem im Juni 2026 vorgestellten KI-Agenten MIRA.
Hohe diagnostische Genauigkeit in standardisierten Tests
Der KI-Agent wurde anhand standardisierter klinischer Fallbeispiele getestet, die verschiedene Erkrankungen beinhalteten, darunter Blinddarmentzündung, Gallenblasenentzündung, Lungenentzündung, Lungenembolie und Harnwegsinfektionen. Als Grundlage dienten anonymisierte elektronische Patientendaten, wie beispielsweise Diagnosen, Laborwerte, Medikamente und Untersuchungsergebnisse. Der ärztliche KI-Agent konnte Rückfragen stellen sowie Befunde und Laborwerte anfordern. Daraus formulierte er eine Diagnose und eine Begründung. Das beste lokal betriebene KI-Modell gelangte in zwei Tests einmal in 84 Prozent und einmal in 90 Prozent der Fälle zu einer korrekten Diagnose. Für 181 zufällig ausgewählte Fälle überprüften Ärztinnen und Ärzte zusätzlich die Diagnosen. Die automatisierte Bewertung und der ärztliche Konsens stimmten dabei in über 90 Prozent der Fälle überein.
Konsistenz als wichtigster Indikator für korrekte Diagnosen
Eine Frage der Studie war, wie sich erkennen lässt, ob einer KI-Entscheidung vertraut werden kann. Dafür untersuchten die Forschenden Hinweise darauf, ob eine Diagnose korrekt ist. Besonders aussagekräftig war, ob die KI bei wiederholter Bearbeitung desselben Falls erneut zu derselben Diagnose kam. Je stabiler die Diagnose über mehrere Durchläufe hinweg war, desto häufiger war sie auch tatsächlich korrekt. Weniger gut ließ sich die Richtigkeit einer Diagnose anhand interner Wahrscheinlichkeitswerte des Modells einschätzen. Das zeigte sich auch in einem Stresstest: Entzogen die Forschenden dem System verlässliche Informationen, sank die diagnostische Genauigkeit deutlich. Obwohl die KI-Diagnosen häufiger falsch waren, spiegelten die Wahrscheinlichkeitswerte des Modells dies nicht wider.
Medizinische KI-Agenten als Unterstützung für den Klinikalltag
Aus ihren Ergebnissen leiten die Forschenden ein mögliches Konzept für die Zusammenarbeit von Medizinerinnen und Medizinern und KI ab: Anstatt einem KI-System entweder vollständig zu vertrauen oder jede Entscheidung kontrollieren zu müssen, könnten Fälle mit besonders zuverlässigen Diagnosen von unsicheren unterschieden werden. Unsichere Fälle würde das System zur Überprüfung an medizinisches Fachpersonal weitergeben. Prof. Jakob N. Kather, Letztautor der Studie und Professor für Klinische Künstliche Intelligenz an der TU Dresden, betont: „Unser Ziel ist ein KI-Agent mit selektiver Autonomie. Diese Systeme sollen Ärzt:innen bei der Entscheidungsfindung unterstützen, diese aber niemals komplett übernehmen. Deshalb ist es wichtig, dass Ergebnisse der KI für Ärzt:innen nachvollziehbar sind und die Systeme transparent machen, wo sie unsicher sind. Die Verantwortung für Diagnose und Therapie wird aber auch in Zukunft immer beim Menschen bleiben“.
Lokaler Betrieb ermöglicht institutionelle Kontrolle
Ein zweiter Schwerpunkt der Arbeit ist die technische Kontrolle über das KI-System. Die KI-Modelle und die Datenverarbeitung liefen vollständig innerhalb einer lokal betriebenen Infrastruktur. Dadurch können medizinische Einrichtungen stärker kontrollieren, wo Daten verarbeitet werden und welche KI-Modelle zum Einsatz kommen. Die lokale Infrastruktur schafft die technische Voraussetzung dafür, Datenschutz, Modellversionen, Zugriffsrechte und Überwachungsprozesse innerhalb der jeweiligen Institution zu steuern. Kather sieht darin zugleich eine Voraussetzung dafür, medizinische KI in Europa verantwortungsvoll weiterzuentwickeln: „Forderungen nach einer Verlangsamung der KI-Entwicklung gehen aus meiner Sicht in die falsche Richtung. In der Medizin stehen wir ganz am Anfang: KI-Systeme, wie unsere Agenten, zeigen gerade erst, was möglich ist, und Patientinnen und Patienten profitieren bislang kaum davon. Wir brauchen mehr Tempo, nicht weniger. Entscheidend ist, dass wir die Systeme so entwickeln, dass sie sicher, nachvollziehbar und datensouverän sind – etwa indem sie vollständig in der Klinik betrieben werden. Dafür muss Europa künftig aber auch bei der Grundlagentechnologie, also bei den Sprachmodellen selbst, eine Rolle spielen, statt nur auf Technologien anderer aufzubauen.“
Nächste Schritte auf dem Weg zum klinischen Einsatz
Die Studie zeigt auch, welche Fragen vor einem möglichen klinischen Einsatz noch geklärt werden müssen. So fanden die Forschenden Hinweise auf Unterschiede in der diagnostischen Genauigkeit zwischen Patientengruppen. Warum insbesondere simulierte Fälle älterer Patientinnen und Patienten schlechtere Ergebnisse zeigten, ist bislang unklar und soll weiter untersucht werden. Zudem beruhen die Ergebnisse auf retrospektiven Simulationen mit vorhandenen klinischen Daten und nicht auf einer Erprobung im laufenden klinischen Betrieb. „Unsere Ergebnisse zeigen, dass wir auf dem Weg zu verlässlichen medizinischen KI-Agenten einen wichtigen Schritt weitergekommen sind. Als Nächstes wollen wir untersuchen, wie sich dieser Ansatz unter realistischen Bedingungen bewährt, mit Ärztinnen und Ärzten im Prozess und mit einem breiteren Spektrum an Erkrankungen und klinischen Daten“, sagt Li Zhang, Erstautorin der Veröffentlichung und Forscherin im Team von Prof. Kather. Ein weiterer Schwerpunkt liegt auf der Effizienz: Da die Einschätzung der Zuverlässigkeit bislang bisher mehrere Durchläufe pro Fall benötigt, arbeitet das Team daran, den Rechenaufwand künftig zu verringern, ohne die Qualität der Ergebnisse zu beeinträchtigen. Neben den Dresdner Forschenden waren auch Wissenschaftler des Nationalen Centrums für Tumorerkrankungen (NCT) Heidelberg am Universitätsklinikum Heidelberg an der Studie beteiligt.
Publikation
Li Zhang, Georg Wölflein, Dyke Ferber, Junhao Liang, Zunamys I. Carrero, Xuewei Wu, Julien Vibert, Jan Clusmann, Lino Möhrmann, Elena E. Möhrmann, Catharina Wichmann, Fabian Wolf, Tim Lenz, Jakob Nikolas Kather: On-Premise Medical AI Agents for Reliable Clinical Decision-Making, Nature Medicine, 2026.
DOI: https://www.nature.com/articles/s41591-026-04609-x
Quelle: Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit