KI-Tools, die medizinisches Wissen leitlinien- und publikationsbasiert aufbereiten, erfreuen sich bei Ärzt:innen großer Beliebtheit. Zunehmend kommen dabei auch KI-Algorithmen und insbesondere große Sprachmodelle zum Einsatz. Auf europäischer Seite sind unter anderem Amboss AI, Open Prometheus und Elna Health zu nennen, auf US-amerikanischer Seite sind es neben vielen anderen Tools vor allem OpenEvidence und ChatGPT Health.
Wenden Sie sich an die zuständige Behörde oder Ihren EU-Parlamentarier
Anders als ChatGPT4Health war OpenEvidence bisher in Europa zugänglich, und es galt und gilt weiterhin vielen Ärzt:innen als das Maß der Dinge bei den Wissens-Tools im Healthcare-Professional-Bereich. Eine (kleine) Umfrage des Autors bei einer (in Richtung Universitätsmedizin verzerrten) Ärztestichprobe ergab, dass es kaum jemanden gibt, der die App nicht auf dem Handy hat.
Einzig das nicht kostenfrei zugängliche Amboss AI ist hierzulande ähnlich bekannt. Dieses in Deutschland entwickelte Tool bekam kürzlich durch die Noharm-Studie der Universität Stanford Rückenwind, wo es in der Version „LiSA 1.0“ besser abschnitt als alle anderen getesteten LLMs. Die Studie hat die medizinische Spezial-KI LiSA 1.0 allerdings in erster Linie mit breit aufgestellten Allgemein-LLMs verglichen. Weder OpenEvidence noch ChatGPT Health waren Teil des Vergleichs, der insofern etwas hinkt.
Ende vergangener Woche hat sich die Situation bei den Wissens-Tols für Health Professionals grundlegend verändert. Denn wie ChatGPT Health ist nun auch OpenEvidence in der EU und in Großbritannien nicht mehr zugänglich. Wer die App öffnet, stößt auf den Hinweis, dass OpenEvidence „in your location“ nicht verfügbar sei. Mit einer VPN-Verbindung lässt sich das umgehen. Online erscheint an derselben Stelle eine Meldung, wonach die regulatorische Unsicherheit in Europa der Grund für den Rückzug sei. Beispielhaft genannt wird der AI Act der Europäischen Union. Initial gab es zudem einen Aufruf, sich an die zuständigen EU-Arbeitsgruppen sowie an Mitglieder des Europaparlaments zu wenden; dieser Aufruf scheint jetzt aber nicht mehr online zu sein.
Warum gerade jetzt?
Wegen der vergleichsweise hohen Popularität, die OpenEvidence in der medizinischen Versorgung in kurzer Zeit erreicht hat, wurde die Sache wenig überraschend in den sozialen Medien rasch aufgegriffen. Viele Versorger:innen waren sprachlos bis entsetzt, wohingegen die Reaktionen von Regulationsexpert: variierten von tendenziell ablehnend bis vehement zustimmend.
Tatsächlich ist, Stand im Moment, ziemlich unklar, was das Unternehmen zu diesem Schritt in diesem konkreten Augenblick veranlasst hat. Jurist:innen aber auch Vertreter:innen von Unternehmen, die ähnliche Produkte entwickeln, wiesen auf LinkedIn und im Gespräch mit E-HEALTH-COM darauf hin, dass der Verweis auf den AI Act nicht wirklich stichhaltig sei. Denn die Hochrisikopflichten des AI Acts greifen eigentlich erst ab August 2026. Es gibt auch noch einige ganze Menge Unklarheit, was genau diese Pflichten eigentlich umfassen.
Tatsächlich steht mit EU Omnibus, der voraussichtlich im Juni verabschiedet werden soll, ein umfangreiches EU Gesetz an, das u.a. an den AI Act noch einmal Hand anlegen wird. Dass die Frist August 2026 bestehen bleibt, glaubt kaum noch jemand. Vor diesem Hintergrund vertreten einige Kommentatoren die These, dass es OpenEvidence gar nicht um den AI Act gehe, sondern dass das Unternehmen eigentlich vor der Medical Device Regulation zurückscheue. Therapieempfehlungen am Point-of-Care fallen unter die MDR Regel 11. Das allerdings gilt nur für patientenspezifische Empfehlungen, nicht für jene Arten von zwar hoch spezifischem, aber nicht direkt personenbezogenem Content, den OpenEvidence und andere derartige Tools in Europa bisher in erster Linie liefern. Mit anderen Worten: Nach konventionellem Verständnis würde ein Tool wie OpenEvidence in derzeitiger Ausprägung nicht unter die MDR fallen – und tatsächlich hatte das Unternehmen ja auch auf den AI Act, und eben nicht auf die MDR, verwiesen.
Drohgebärde?o Oder nervt das Pharmarecht?
Es gibt auch noch weitere Theorien. Eine besagt, dass der plakative Marktrückzug von OpenEvidence zum jetzigen Zeitpunkt eine Art Drohgebärde sein könnte – vielleicht mit Blick auf den EU Omnibus, der noch nicht völlig ausverhandelt ist. Soll hier vielleicht Druck ausgeübt werden? Denkbar.
Eine andere These besagt, dass es OpenEvidence letztlich ums Geld gehe. Das US-Geschäftsmodell, das in Teilen auf Pharma-Werbung bzw. Pharma-Kooperationen basiere, funktioniere so in Europa nicht, heißt es in den entsprechenden Kommentaren. Angeführt werden pharmarechtliche Gründe, konkret europäische Einschränkungen im Bereich Heilmittelwerbung sowie die Notwendigkeit, bei Nutzung von Pharma-Werbung zugriffsberechtigte Heilberufler:innen als solche zu identifizieren.
Dieses Argument kommt typischerweise von Menschen, die mit Subskriptionsmodellen und klinischer KI-Integration Geld verdienen wollen. Es trägt aus Sicht des Autors allerdings nicht wirklich weit. Europa hat eine jahrzehntelange Tradition der werbefinanzierten HCP-Kommunikation. Tatsächlich ist diese Art Finanzierung für HCP-Kommunikation in Europa sogar gängiger als in den USA, sodass sich die Frage stellt, warum sich das schlagartig ändern sollte. Für die erforderliche Identifizierung der Heilberufler:innen gibt es technische Lösungen, auch niedrigschwellige, die seit Jahren existieren und die teils in kürzester Zeit umsetzbar wären.
Quo vadis medizinische Wissens-KI?
Unabhängig davon stellt sich die grundsätzliche Frage, wie genau Ärzt:innen Wissens-Tools künftig bevorzugt nutzen werden. Viele europäische Stimmen neigen zu werbefreien Subskriptionsmodellen, bei denen medizinische Einrichtungen die Kunden sind, die die entsprechenden Tools abonnieren und – im Idealfall – in ihre IT-Systeme einbinden. Ob das als alleiniges Geschäftsmodell wirklich trägt, erscheint allerdings etwas zweifelhaft.
Zum einen ist zumindest Deutschlands Gesundheitswesen mit seiner aktuellen IT-Infrastruktur von einer flächendeckenden Point-of-Care-Integration von Wissens-KI noch viele Jahre entfernt. Zum anderen ist gar nicht so klar, ob in einer sehr autonomen und sehr selbstbewussten Berufsgruppe wie der Ärzteschaft vom Arbeitgeber quasi zwangsverordnete Wissens-Tools wirklich eine hohe Akzeptanz genießen werden. Es könnte durchaus sein, dass es eine relevante Zahl von Ärzt:innen geben wird, die ihr bevorzugtes Wissens-Tool lieber selbst auswählen. Und es dürfte auch viele geben, die wenig Probleme damit hätten, wenn es sich um ein werbefinanziertes Tool handelt, so lange die Qualität so hoch ist, wie sie das bei OpenEvidence bisher war.
Fazit: Es bleibt vieles unklar im Hinblick auf den (vorläufigen?) Rückzug von OpenEvidence aus dem europäischen Markt. Und wo die Evolution KI-basierter medizinischer Wissens-Tools insgesamt hingeht, ist durchaus noch offen. Wir bleiben dran.