Corti geht der Frage nach: Was unterscheidet sie und für welche Aufgaben im Gesundheitswesen sind sie geeignet?
Beim Einsatz großer Sprachmodelle in klinischen Arbeitsabläufen müssen Entwickler und IT-Verantwortliche die passende Systemarchitektur festlegen. Chatbots und KI-Agenten können nach außen ähnlich wirken, unterscheiden sich jedoch in der Rolle des Modells im jeweiligen Prozess. Eine klare Abgrenzung schafft die Voraussetzung für verlässliche Anwendungen in medizinischen und administrativen Bereichen.
Der entscheidende Unterschied: Antworten vs. Handeln
Ein klassischer Chatbot ruft Informationen ab oder erzeugt Text. Er greift dabei auf das im Training erworbene Wissen zurück. Das Prinzip ist simpel: Eingabe rein, Antwort raus.
Ein KI-Agent arbeitet grundlegend anders. Er ist kein reiner Textgenerator, sondern ein digitaler Problemlöser. Er erhält eine Aufgabe und ermittelt, welche Schritte für deren Bearbeitung erforderlich sind. Dazu bestimmt er den Informationsbedarf, wählt geeignete Tools und bewertet die zurückgegebenen Ergebnisse. Auf dieser Grundlage entscheidet der Agent, wie der Prozess fortgesetzt werden muss. Er kann weitere Daten abrufen, zusätzliche Prüfungen veranlassen oder eine abschließende Antwort formulieren. Vereinfacht gesagt erstellt das System eine eigene Aufgabenliste und arbeitet sie schrittweise ab.
Wie ein KI-Agent arbeitet
Technisch gesehen kombiniert ein Agent ein großes Sprachmodell (LLM) mit dem Zugriff auf externe Tools. Das LLM übernimmt dabei die Planung, während die Tools den Zugang zu externen Systemen herstellen. Das können Datenbanken, APIs, EHR-Systeme, Terminplanungsplattformen und weiteren Dienste sein.
Dadurch ergibt sich eine Schleife: Der Agent erhält eine Aufgabe und eine Liste verfügbarer Tools. Daraus wählt das LLM das passende Tool aus und erstellt einen Aufruf mit dessen Namen und den benötigten Argumenten. Das angebundene System führt den Arbeitsschritt aus, beispielsweise eine Datenbankabfrage, und übermittelt das Ergebnis an das Sprachmodell. Anschließend prüft das LLM, ob die vorliegenden Angaben für den Abschluss ausreichen. Fehlen noch Informationen, wählt es ein weiteres Tool und setzt die Bearbeitung fort.
Diese Schleife endet, sobald die Aufgabe vollständig bearbeitet ist. Das Sprachmodell führt die externen Arbeitsschritte dabei nicht selbst aus. Es ermittelt das erforderliche Vorgehen, überlässt die Umsetzung den Tools und führt deren Ergebnisse zusammen.
Wann ein KI-Agent sinnvoll ist
Nicht jeder mehrstufige Prozess benötigt einen Agenten. Als Faustregel gilt: Lässt sich der Entscheidungsbaum im Voraus vollständig darstellen, ist herkömmlicher Programmcode meist die bessere Wahl. Das betrifft vor allem feste Eingaben, die nach eindeutigen Regeln verarbeitet werden.
Agenten spielen ihre Stärken bei unterschiedlich strukturierten Eingaben und veränderlichen Lösungswegen aus. Sie eignen sich außerdem für Ergebnisse, die mehrere Erkenntnisse zusammenführen und einordnen müssen. Die Verbindung aus quellengestützten Schlussfolgerungen und kontrollierten Aktionen macht Agenten für Produktivumgebungen geeignet, in denen Genauigkeit entscheidend ist.
Besondere Anforderungen im Gesundheitswesen
Im medizinischen Alltag können fehlerhafte Angaben weitreichende Folgen haben. Klinische Antworten dürfen deshalb nicht allein auf dem Trainingswissen eines Sprachmodells beruhen. Die zugrunde liegenden Informationen können veraltet sein oder vom LLM plausibel, aber falsch ergänzt werden. Dieses Risiko besteht grundsätzlich in allen Anwendungsbereichen. Im Gesundheitswesen kommt jedoch hinzu, dass häufig aktuelle und patientenbezogene Angaben verarbeitet werden.
Gut konzipierte KI-Agenten begegnen diesem Risiko mit einem quellengestützten Ansatz. Klinische Aufgaben beziehen häufig mehrere Quellen ein, darunter EHR- und Laborsysteme, medizinische Bildgebung, klinische Leitlinien sowie Vorgaben der Kostenträger. Welche Quelle benötigt wird, hängt von der jeweiligen Anfrage und den vorhandenen Daten ab. Jeden denkbaren Lösungsweg fest zu programmieren, führt unter diesen Bedingungen zu starren Lösungen und hohem Wartungsaufwand.
Gleichzeitig dürfen klinische Antworten nicht allein auf dem Trainingswissen eines Sprachmodells beruhen. Die zugrunde liegenden Angaben können veraltet sein oder vom LLM plausibel, aber falsch ergänzt werden. Dieses Risiko besteht grundsätzlich in allen Anwendungsbereichen. Im Gesundheitswesen kommt jedoch hinzu, dass häufig aktuelle und patientenbezogene Angaben verarbeitet werden.
Ein gut konzipierter Agent greift deshalb zur Laufzeit auf die jeweils maßgebliche Quelle zu. Wird die Medikationshistorie eines Patienten benötigt, fragt das System die elektronische Patientenakte ab. Geltende Kodiervorgaben schlägt es in den dafür vorgesehenen Verzeichnissen nach. Seine Schlussfolgerungen stützen sich damit auf Daten, die zur Laufzeit aus maßgeblichen Quellen abgerufen werden.
„Ein klinischer Agent ist nur so verlässlich wie die Informationen, auf denen seine nächsten Schritte beruhen. Wird ein Medikament, eine Dosierung oder ein Symptom falsch erfasst, kann sich der Fehler durch den gesamten Ablauf fortsetzen“, sagt Andreas Cleve, CEO und Mitgründer des Healthtech-Unternehmens corti.
Über den Informationsabruf hinaus können klinische Prozesse weitere Aktionen erfordern. Agenten können beispielsweise Dokumentationsentwürfe erstellen, ärztliche Anordnungen vorbereiten oder nachgelagerte Abläufe anstoßen. Eine kontrollierte Ausführungsebene legt fest, welche Schritte das System selbstständig veranlassen darf. Bei Bedarf wird der Prozess unterbrochen, damit eine Fachkraft das Ergebnis prüfen kann.
Die Technologie im Praxiseinsatz
Die folgenden Beispiele verdeutlichen, wie unterschiedlich ein Agent klinische Aufgaben bearbeiten kann. Beim Allergiestatus genügt ein einzelner Tool-Aufruf, während die Entlassungsfrage mehrere voneinander abhängige Prüfungen erfordert.
Bei der Frage „Welche Allergien hat dieser Patient?“ ist lediglich ein gezielter Zugriff auf vorhandene Daten erforderlich. Ein klassischer Chatbot ohne Zugriff auf patientenbezogene Systeme kennt den konkreten Patienten nicht. Er könnte ausweichend antworten, die Auskunft verweigern oder eine plausibel klingende Angabe erfinden.
Ein Agent erhält neben der Anfrage eine Liste verfügbarer Tools für die Suche in EHR-Systemen und Gesprächstranskripten. Er wählt die Aktenrecherche aus und übermittelt die Patienten-ID zusammen mit dem Suchbegriff „Allergien“. Das angeschlossene System liefert die dokumentierten Allergien gegen Penicillin und Sulfonamide zurück. Erst auf dieser Grundlage formuliert das LLM die Antwort. Der Agent hat die Information damit nicht geraten, sondern in einer maßgeblichen Quelle nachgeschlagen.
Komplexer ist die Frage, ob ein Patient entlassen werden kann. Ihre Beantwortung erfordert mehrere Prüfungen, deren Ergebnisse den weiteren Verlauf beeinflussen. Der Agent kontrolliert zunächst die Vitalparameter. Sind diese instabil, kann er die Prüfung an diesem Punkt beenden und auf die Abweichung hinweisen. Andernfalls ermittelt er, ob Laborbefunde ausstehen, berücksichtigt den Medikationsabgleich und prüft die vereinbarten Nachsorgetermine. Fehlt bei ansonsten unauffälliger Lage nur ein Nachsorgetermin, weist er gezielt auf diese Lücke hin. Aus den gesammelten Befunden erstellt das System schließlich eine Empfehlung. Die konkrete Abfolge ergibt sich dabei aus den verfügbaren Patientendaten und nicht aus einem vorab festgelegten Entscheidungsbaum.
Handlungsspielraum braucht klare Grenzen
Die Entscheidung für einen KI-Agenten legt zugleich fest, welchen Handlungsspielraum das System erhält. Für den klinischen Einsatz müssen Datenquellen, Tool-Zugriffe und Prüfpunkte deshalb von Beginn an eindeutig definiert sein. Je flexibler ein Agent auf Zwischenergebnisse reagieren kann, desto wichtiger bleibt die Kontrolle seiner möglichen Aktionen. Erst diese Abstimmung macht aus einem leistungsfähigen Sprachmodell einen verlässlichen Bestandteil klinischer Arbeitsabläufe.