Wer sich in diesen Tagen bei Krankenhäusern umhört, die KI-Tools für die unmittelbare klinische Versorgung testen, der hört eine Sache immer wieder: Das mit der Integration in die patientennahen Workflows ist nicht so einfach, wie gedacht. Nicht, dass es keine Tools gäbe. Es gibt sie, teils auch schon mit Medizinproduktezertifizierung. Das Problem ist, dass den Tools oft die Akzeptanz bei den klinisch Tätigen fehlt. Etwas zugespitzt formuliert, lautet der wichtigste Einwand: Sie sind nicht gut genug.
Woran liegt das? An den medizinischen Inhalten liegt es nicht, die sind vorhanden, ob kuratiert oder nicht kuratiert. Das Problem ist die „semantische Integration“ am Point of Care. Es ist eine Sache, das medizinische Wissen umfassend digital zur Verfügung zu stellen. Es ist eine andere, das dann auch medizinisch sinnvoll mit einem konkreten Patienten, einer konkreten Patientin zu verknüpfen.
„Nicht gut genug“ geht auch die Regulierung an
Warum ist das nicht nur ein IT-Thema, sondern auch ein regulatorisches? Es werden manche nicht gern hören, aber bei LLM-basierter Entscheidungsunterstützung sind im Moment große Modelle besser als kleine und offene besser als geschlossene. Nicht, weil diese Systeme mehr wissen, sondern weil sie besser kommunizieren, vor allem besser verstehen: Sie kriegen die semantische Integration besser hin.
Wenn das so ist, dann trifft ein regulatorischer Rahmen, der lokale Installationen und kleine Modelle begünstigt, Entscheidungen, die sich auf den Decision Support am Point of Care mittelbar auswirken. Das heißt nicht, dass man einfach alles erlauben sollte. Aber es heißt schon, dass man nicht Dinge untersagen oder massiv erschweren sollte, nur weil man sich damit als Europäer oder Europäerin wohler fühlt. KI-Reallabore mit großen Freiheitsgraden könnten helfen, unterschiedliche Tools zu evaluieren. Man muss das dann aber auch in großem Stil tun, und natürlich dürfte man dieser Art Reallaboren dann nicht dieselben regulatorischen Fesseln anlegen wie der Realität.
Autor:
Philipp Grätzel von Grätz
Chefredakteur E-HEALTH-COM