Welche Rolle können KI-Anwendungen wie ChatGPT in der Gesundheitsversorgung spielen? Der Wissenschaftliche Beirat für Digitale Transformation der AOK Nordost hat dazu ein paar Vorschläge, die er in einem neuen Impulspapier niedergelegt hat. Die Empfehlungen richten sich an Krankenkassen, vieles ist aber auch übertragbar auf andere Unternehmen.
„Krankenkassen sollten sich dem Einsatz von generativer KI grundsätzlich öffnen, denn die Chancen sind groß“, sagt Inga Bergen. Sie ist Sprecherin des Expertengremiums und hat bereits zwei eHealth-Unternehmen mitaufgebaut. Wenn Unternehmen bereit seien, in Kooperation mit Expertinnen und Experten unternehmensinterne KI-Modelle zu trainieren, könnten sie damit ihr Wissensmanagement weiter professionalisieren und ihre internen Geschäftsprozesse besser strukturieren. Denkbar seien außerdem KI-basierte Chatbots in der Kommunikation mit Versicherten, etwa im Zusammenhang mit individualisierten Angeboten in der Prävention.
Erster Schritt: interprofessionelle Arbeitsgruppe
Damit eine Krankenkasse oder ein anderes Unternehmen diese Chancen nutzen kann, sei es im ersten Schritt nötig, Kompetenz und Know-how aufzubauen, indem eine unternehmensinterne interprofessionelle Arbeitsgruppe eingesetzt wird. Auf dieser Grundlage könne nach einer internen Debatte zu Chancen und Risiken eine KI-Strategie entwickelt werden.
Bevor konkrete Anwendungsfälle erprobt werden, sei es wichtig, eine rechts- und datenschutzkonforme Umsetzung zu gewährleisten. Hier hatten die italienischen Datenschützer für Aufregung gesorgt, als sie ChatGPT im April 2023 sperrten. Der Vorwurf lautete auf massive Speicherung personenbezogener Daten ohne hinreichende Information der Nutzer:innen. Das Unternehmen OpenAI, das ChatGPT entwickelt hat, hat darauf mittlerweile reagiert: Nutzer:innen können jetzt die Speicherung und Weiterverarbeitung sämtlicher personenbezogener Daten deaktivieren und werden darüber auch informiert. Damit hat sich die italienische Datenschutzbehörde zufriedengegeben und die Nutzung wieder erlaubt.
Ob die deutschen Datenschutzbehörden dies auch so sehen, ist laut AOK-Beirat noch unklar. Dennoch könnten Krankenkassen generative KI nutzen, so der Beirat. Wenn man auf die Eingabe personenbezogener und anderer schützenswerter Daten verzichte und die Speicherung der Eingaben deaktiviere, sei das datenschutzrechtliche Risiko gering. Auf die Einhaltung dieser „Spielregeln“ für den Einsatz von generativer KI sollten Krankenkassen ihre Mitarbeitenden mit entsprechenden Datenschutzhinweisen, Einwilligungsprozessen, Dokumentationen und einer Datenschutzfolgenabschätzung verpflichten.
Generative KI als ein Sparringspartner, um schneller zu arbeiten
Auch auf einen weiteren Kritikpunkt an der Verwendung von ChatGPT geht der Beirat ein: ChatGPT liefert häufig noch fehlerhafte Antworten. Die Texte, die ChatGPT ausgibt, taugten deshalb aktuell nur als Entwürfe für die Weiterverarbeitung – jedenfalls dort, wo es um medizinisch oder rechtlich relevante Fakten gehe. Deshalb sei bei allen Anwendungskontexten eine Qualitätskontrolle nötig.
„ChatGPT ist ein Tool, das man benutzen kann, das aber ohne eine Qualitätskontrolle nicht funktioniert. Krankenkassen müssen also ihre Mitarbeitenden befähigen, Faktenchecks durchzuführen. In Zukunft brauchen wir hier neue spezialisierte Berufe, um diese Aufgabe effizient zu erfüllen. Derzeit sollten Krankenkassen generative KI eher wie eine Art Sparringspartner nutzen, mit dem sie schneller arbeiten können“, erläutert Inga Bergen.
Es gebe aber eine Möglichkeit, die Präzision der Ergebnisse, die generative KI im Krankenkassen-Kontext liefere, signifikant zu erhöhen. Anstatt auf „fremde“ Systeme wie ChatGPT zurückzugreifen, könne ein Unternehmen in Kollaboration mit KI-Experten ein unternehmensinternes generatives KI-Modell trainieren. Wenn dieses System auf eigenen Servern laufe, lasse sich der Datenbestand der Krankenkasse mit der generativen KI verknüpfen. Dies eröffne vielfältige Anwendungsmöglichkeiten.
„Kritische Distanz ist nötig“
Die unabhängigen Beirätinnen und Beiräte geben Krankenkassen zum Schluss ihres Impulspapiers aber auch eine Mahnung mit auf den Weg. Es brauche eine kritische Distanz und Wachsamkeit, um mit generativer KI wohlüberlegt umzugehen. Die Idee datengesteuerter Effizienz könne nicht das entscheidende Kriterium sein, nach dem Entscheidungen bewertet werden. Hier gelte es, gegenzusteuern. Achtsam, reflektiert und verantwortungsbewusst.
Philipp Grätzel von Grätz, mit Material einer Pressemeldung der AOK Nordost
Weitere Informationen
Das Positionspaper „Besser versichert mit ChatGPT & Co?“ des Wissenschaftlichen Beirates der AOK Nordost für Digitale Transformation https://www.aok.de/pk/cl/nordost/inhalt/rechtskonformer-einsatz-von-generativer-ki-in-krankenkassen/
https://www.aok.de/pk/cl/nordost/inhalt/rechtskonformer-einsatz-von-generativer-ki-in-krankenkassen/