Im Zuge der Umsetzung des europäischen AI Acts wird die Medizinproduktezulassung der EU in den nächsten Jahren auf künstliche Intelligenz (KI) getrimmt. Auch selbstlernende, dynamische Systeme sollen in gewissem, sehr begrenztem Umfang eine Zulassung erhalten können. An digitale Medizinprodukte, die mit großen, breit aufsetzenden KI-Modellen, insbesondere großen Sprachmodellen (Large Language Models, LLMs) arbeiten, traut sich Europa bisher aber nicht heran. Und daran wird auch der AI Act aller Voraussicht nach erst einmal nichts ändern.
Europa ist in Sachen medizinische KI extrem restriktiv
In Großbritannien ist das anders. Dort ist die Zulassung digitaler, KI-basierter Medizinprodukte eines der Felder, auf dem sich das Königreich nach dem Brexit beweisen will. Baut die erreichte Unabhängigkeit Bürokratie ab und führt dazu, Prozesse zu beschleunigen? Konkret wollen die Briten als erstes Land überhaupt digitale Medizinprodukte zur Zulassung bringen, die große KI-Modelle, beispielsweise LLMs, nutzen. Das gibt es bisher nicht.
Was es gibt, sind LLM-basierte Anwendungen, die unterschiedlich knapp diesseits der Medizinproduktezulassung surfen. In Europa sind das sehr wenige, denn hier ist qua Medizinproduktverordnung (MDR) alles, was diagnostische oder therapeutische Entscheidungen oder Empfehlungen beinhaltet, ein Medizinprodukt, im Regelfall Klasse IIa oder höher. Das gestattet es, LLM-basierte Anwendungen in den Markt zu bringen, die auf Basis einer elektronischen Patientenakte einen Arztbrief erzeugen oder in gewissem Umfang bei der klinischen Dokumentation unterstützen. Viel mehr aber auch nicht.
In den USA werden digitale Medizinprodukte weniger streng definiert. Computerbasierte Entscheidungsunterstützungssysteme (CDSS), die nur Text verarbeiten und die nur von Ärzt:innen genutzt werden, brauchen dort als „beratende“ Systeme wegen einer entsprechenden Regelung im 21st Century Cures Act keine FDA-Zulassung. Damit wird für Hersteller von LLM-basierten Anwendungen relativ viel diesseits der Zulassungsschwelle möglich. Ein Beispiel von mehreren ist das LLM-basierte System Glass Health, das mit einer nahezu beliebigen, textbasierten Patientendokumentation gefüttert werden kann und dem dann nahezu beliebige Fragen gestellt werden können, inklusive Fragen nach dem besten therapeutischen Vorgehen.
AI Airlock: Ein Reallabor für einen neuen Zulassungsweg
Auf Dauer wird es ohne Medizinproduktezulassung bei vielen Anwendungsszenarien freilich nicht gehen, egal ob in Europa, in den USA oder Großbritannien. Hier setzt das britische AI Airlock Programm an. Der Begriff Airlock kommt aus der Raumfahrt und bezeichnet Luftschleusen, in die Astronauten eintreten, bevor sie auf eine Raumstation können. AI Airlock ist eine Art Reallabor, innerhalb dessen mehrere KI-basierte medizinische Anwendung zur Medizinproduktezulassung gebracht werden sollen.
Gleichzeitig ist das Ganze auch ein Testfeld – englisch Sandbox – für die Regulatoren, um mögliche regulatorische Wege für KI-basierte Medizinprodukte im Rahmen eines „Labors“ auszuprobieren. Laura Squire von der britischen Zulassungsbehörde, der Medicines and Healthcare Products Regulatory Agency (MHRA), formuliert es so: „Indem wir Technologien in einem sicheren Umfeld evaluieren, in Zusammenarbeit mit Technologiespezialisten, Entwicklern und dem NHS, können wir die Regeln für KI-gestützte Medizinprodukte testen und verbessern. So tragen wir dazu bei, dass solche Produkte die Krankenhäuser und die Patienten, die sie benötigen, schneller erreichen.“
Die fünf Tools im AI Airlock Programm
Im Dezember gab die MHRA die fünf Anwendungen bzw. Technologien bekannt, denen in den nächsten Monaten im Rahmen von AI Airlock auf den Zahn gefühlt werden soll:
- KI gegen COPD: Lenus Stratify ist eine Anwendung, die unterschiedliche Arten von KI nutzt, um Gesundheitsdaten von COPD-Patient:innen zu analysieren. Darauf aufsetzende werden Prognosen zu schweren Krankheitsverläufen erstellt, was z.B. eine frühe Intensivierung der Behandlung nach sich ziehen könnte.
- KI für die radiologische Befundung: Philips bringt eine Anwendung ein, die radiologische Befundzusammenfassungen erstellt, basierend sowohl auf Text- als auch auf Bilddaten. Zum Einsatz kommt hier ein LLM.
- Mit einer etwas anderen Art der Anwendung geht das Unternehmen Newton’s Tree ins Rennen: FAMOS steht für Federated AI Monitoring Service und ist Teil einer KI-Plattform, die Krankenhäusern, KI-Entwickler:innen und regulatorischen Behörden dabei helfen soll, in Echtzeit zu erkennen, wenn sich die Performance selbstlernender KI-Algorithmen ändert.
- KI für bessere Krebsversorgung: Die Anwendung OncoFlow nutzt KI um Ärzt:innen Empfehlungen für das personalisierte Management bei Krebs zu geben.
- Universelle klinische Entscheidungsunterstützung auf vertrauenswürdiger Datengrundlage: Das Tool SmartGuidelines nutzt ein speziell trainiertes LLM, das Ärzt:innen auf Basis von NICE-Leitlinien klinische Fragen aller Art beantwortet.
Zulassung ist nicht garantiert
Mit ihrem AI Airlock Programm sind die Briten weltweit Vorreiter. Vergleichbares gibt es sonst nirgendwo. In den USA gibt es zwar ähnliche Überlegungen, inklusive einer von der FDA Anfang 2025 vorgelegten Guidance für Entwickler:innen. Ein tatsächlicher Zulassungsprozess wurde dort aber noch nicht initiiert. Das Airlock-Programm, so der britische Wissenschaftsminister Patrick Vallance, sei ein gutes Beispiel dafür, wie eine Regierung mit Unternehmen zusammenarbeiten könne, zum Nutzen nicht nur der Patient:innen, sondern auch des Landes und der Wirtschaft.
Vallance betont allerdings auch, dass die Teilnahme am Airlock-Programm noch keine reguläre Zulassung bedeute: „Die Ergebnisse des Pilotprojekts, die im Jahr 2025 bekanntgegeben werden, werden die Grundlage weiterer Airlock Programme sein und Einfluss nehmen auf die künftige AI Medical Device Guidance.“ Unter anderem erhoffe man sich Erkenntnisse darüber, wie eine optimale Zusammenarbeit mit den britischen Benannten Stellen bei KI-basierten Medizinprodukten aussehen sollte.