Wenn eine prägende Eigenschaft von KI-Systemen ihr potenziell autonomes Handeln sein soll, werden sie zu Assistenten statt Werkzeugen. Welche Fähigkeiten werden für die zukünftige Zusammenarbeit mit KI-Assistenten im Gesundheitswesen benötigt? Dies ist der Versuch einer Annäherung.
Nur der Mensch kann seinen Körper kennen
Wenn etwas Gewohntes nicht mehr rund läuft – also eine Störung auftritt –, möchten wir oft verstehen, was los ist, um unsere Handlungsfähigkeit aufrechtzuerhalten. Unser Körper zeigt Störungen z. B. durch Schmerzen an, denen wir vorbeugen möchten. Spätestens wenn wir handeln möchten oder müssen und das nicht geht, hilft es, zu erspüren, was in und mit unserem Körper gerade los ist. Dann können wir uns auch anderen Menschen, z. B. im Gesundheitswesen, verständlich machen, wenn wir Hilfe benötigen. Bis zur Wiederherstellung unseres körperlichen Normalzustands kommen wir dabei immer wieder ins Gespräch – mit unserem Körper und mit Menschen im Gesundheitswesen. Denn Gesundwerden kann ein langwierigeres Prozedere sein, das nur zusammenhängend verstanden werden kann.
Nur Menschen können Körper befragen und untersuchen
Hausärztinnen und Hausärzte sind Teil des Gesundheitssystems; und wir sind dort eine:r von vielen Patient:innen. Hausärztinnen und Hausärzte beschäftigen sich in der Regel so viel mit uns wie nötig, um durch gezieltes Nachfragen zu verstehen, was als Nächstes getan werden kann, um uns zu helfen. Kann erst mal schnell Linderung verschafft werden? Welche Untersuchung ist angebracht, um weitere Klärung zu verschaffen – um eine Arbeitshypothese zu stärken oder auszuschließen?
Ansonsten herrscht bei vielen Hausärzt:innen Pragmatismus: whatever works. Wenn es jedoch kritisch wird oder eine Behandlung langfristig nicht hilft, muss genauer hingeschaut werden. Dann gilt es, die richtigen Fragen an die fachlich richtigen Personen zu stellen und ihre Antworten zu verstehen. Wer welche spezifischen Fragen stellt und wer die Antworten in das Gesamtbild des individuellen Patienten oder der Patientin zusammenführt, kann dabei entscheidend sein.
Nur Menschen können Zusammenhänge ganzheitlich erkennen
In der Regel folgen Ärztinnen und Ärzte Arbeitshypothesen aus ihrem Spezialgebiet. Nachdem diese falsifiziert wurden, ist ihre Arbeit im Grunde getan. Die dadurch aufklaffende Lücke zwischen fachärztlicher und allgemeinmedizinischer Versorgungsebene soll oft von dem Patienten oder der Patientin überbrückt werden. Diese kennen jedoch nicht die dafür nötigen Zusammenhänge z.B. zwischen Gelenk- (Orthopäde), Verdauungs- (Internistin) und Hautproblemen (Dermatologin). Wir kennen das eher von spannenden Arztserien, wenn ganzheitlich denkende Ärztinnen und Ärzte durch scheinbar unzusammenhängende Details das Krankheits-Puzzle vervollständigen.
Das Zusammensetzen des Gesamtbilds liegt jedoch nicht alleine bei einem „Genie“ wie Dr. House, sondern basiert auf dem eigenständigen Denken und gemeinsamen Hinterfragen „im Team“. Es wird erst durch eine geeignete Arbeitsorganisation und Kommunikation ermöglicht. Durch interdisziplinäre Teams und gemeinsame Fallbesprechungen werden Korridore zwischen dem zuvor fragmentierten Verstehen der Angehörigen der unterschiedlichen Berufsgruppen bzw. medizinischen Disziplinen geschaffen, um ein gemeinsames Ziel zu erreichen: die Gesundung.
Nur Menschen können delegieren und zusammenführen
Wenn nun eine prägende Eigenschaft von KI-Systemen die Einführung von Autonomie in die Automatisierung von Tätigkeiten sein soll, dann kann hinterfragt werden, inwiefern die typischen menschlichen Arbeitsfähigkeiten von Eigenständigkeit und Kreativität neu verhandelt werden müssen. Die Steigerung der Autonomie eines KI-Systems von einem KI-Werkzeug zu einem KI-Assistenten ändert jedoch nichts an der Verantwortung und Führung von Menschen, sondern kann sie vielmehr stärken.
Ähnlich wie bei der Zusammenarbeit von Menschen, würden die KI-Assistenten entsprechend ihrer Fähigkeiten für spezifische Aufgaben eingesetzt. In einer Arbeitsorganisation, in der die Aufgaben von Mensch und KI aufeinander abgestimmt werden, ist z. B. nicht primär der allgemeine KI-Diagnose-Checker gefragt, sondern vielleicht eher ein auf Differenzialdiagnosen und seltene Erkrankungen spezialisierter KI-Assistent. Der Mensch wird dabei umso mehr gefordert, richtige Fragen an richtige Assistenten zu stellen und ihre Ergebnisse zusammenzuführen und zu verantworten.
Die Verantwortung als menschliche Fähigkeit kann dabei aufgeklärt humanistisch verstanden werden, entsprechend der Kant’schen Idee, dass die Freiheit zu selbstständigem Denken den Kern des Menschseins konstituiert. In die Arbeitswelt mit KI-Assistenten übersetzt, gilt es hierbei, individuell richtige Fragen zu stellen und an die richtigen Assistenten oder Verantwortlichen zu delegieren, ihre Antworten einzuordnen, kritisch zu hinterfragen und nachvollziehbar die nächsten Schritte zu entscheiden (unter Berücksichtigung möglicher Risiken). Um handlungsfähig zu bleiben, müssen Entscheidungsalternativen im Hinterkopf behalten werden, damit durch die Beobachtung des Behandlungsverlaufs, wenn nötig, unaufgefordert nachgesteuert und Entscheidungen gegebenenfalls geändert werden können. Eine ganzheitliche Behandlung ist von der menschlichen Fähigkeit abhängig, diese Schritte zusammenhängend zu denken und zu koordinieren.
Nur Menschen können ihre Arbeitsorganisation anpassen
Nicht nur der Mut zur Freiheit zu selbstständigem Denken und damit zur Verantwortung macht uns als Menschen aus, sondern auch, wie wir mit uns und anderen umgehen, um gemeinsame Ziele zu erreichen. Das beginnt beim Wahrnehmen und Kommunizieren körperlicher Störungen durch Patient oder Patientin, geht weiter mit dem zielgerichteten Nach- und Hinterfragen durch Ärztin oder Arzt im Rahmen eines individuellen Gesprächs und endet beim Einbinden und Steuern eines passenden Teams aus Menschen und Maschinen. Die Basis dafür ist das gemeinsame Gespräch mit Menschen, um die verstandenen Informationen in Aufgaben für Maschinen zu übersetzen.
Diese erhöhten Anforderungen an gegenseitigem Verständnis erfordern eine Intensivierung der Zusammenarbeit und somit der Mensch-Maschinen-Interaktion. Auch wenn KI-Systeme noch nicht die Fähigkeiten menschlicher Assistenten zeigen, benötigen sie deutlich interaktivere Fähigkeiten, als sie bisher haben, um ihre vom Menschen eingegrenzten Aufgaben der gezielten Informationsgewinnung und -aufbereitung nachvollziehbar erfüllen zu können. Es gilt, die richtige Information zur richtigen Zeit zu erhalten, statt durch ein Informationschaos zu verwirren.
Durch die Stärkung der menschlichen Verantwortung und Führung in der Mensch-KI-Zusammenarbeit kann die Behandlung einer Patientin oder eines Patienten als zusammenhängender und gesamtheitlicher Prozess des eigenständigen Denkens und gemeinsamen Handelns gefördert werden. Dafür müssen KI-Assistenten punktuell und gezielt in die Arbeitsorganisation integriert werden. Die Durchsetzung von Verantwortung und Führung scheitert dabei nicht an der möglichen Autonomie von KI-Assistenten, sondern an unpassenden Rahmenbedingungen. Bei der fortwährenden Digitalisierung mit steigender Anzahl von Werkzeugen und Assistenten ist das ein generelles Problem der Prozessgestaltung und Arbeitsorganisation, das im Gesamtbild zusammenhängend gelöst werden muss – eine wiederum zutiefst menschliche Fähigkeit.
Autor
Dr. Samer Schaat
ist Medizininformatiker und hat im Rahmen seiner Dissertation und als Post-Doc in den Bereichen künstliche Intelligenz und Standardisierung gearbeitet, u.a. in Zusammenarbeit mit Organisationen wie mio42 und der gematik.
Kontakt: s.schaat(at)mailbox.org