Mit der Vorstellung der Nationalen KI-Strategie auf dem Digital-Gipfel in Nürnberg vor einem Jahr hat die Bundesregierung die künstliche Intelligenz zu einer Top-Priorität der deutschen Wirtschafts- und Forschungspolitik gemacht. Die Medizin war dabei immer eines der gern genannten Einsatzfelder. Doch hält die Wirklichkeit, was die Regierung versprach? Bei der Diskussionsveranstaltung „Zukunft.Gesundheit.Digital. Machen uns Daten gesünder?“ der BVITG-Projektgruppe KI in Berlin wurde über die Rahmenbedingungen der KI in Deutschland kontrovers diskutiert.
Nationale KI-Strategie: Medizin noch stiefmütterlich
Thomas Renner, Leiter der Unterabteilung Digitalisierung und Innovation, wies darauf hin, dass medizinische Anwendungen und Szenarien bei der ersten im Rahmen der KI-Strategie ausgeschütteten Fördertranche noch etwas gering vertreten gewesen seien. Er äußerte sich aber optimistisch, dass sich das bei den folgenden Ausschüttungen ändern werde. Neben Geld benötige KI außerdem qualifizierte Fachleute, die sich an der Grenze von Medizin und Informatik sicher bewegen können, betonte der IT-Experte, Buchautor und Technikphilosoph Sharad Gandhi. Hier seien die USA weiterhin im Vorteil, weil sie oft attraktivere Bedingungen für Top-Talente bieten könnten.
Deutlich wurde bei der Veranstaltung allerdings auch, dass Fördergeld und Mitarbeiter von KI-Forschungsgruppen und auch von IT-Unternehmen, die sich bei der KI engagieren wollen, nicht als die Hauptprobleme angesehen werden. Das Megathema sei vielmehr die Verfügbarkeit kuratierter, qualitativ hochwertiger Daten, sagte der Direktor des Zentrums für Digitale Gesundheit am Berlin Institute of Health, Prof. Dr. Roland Eils. Selbst wer als Wissenschaftler direkten Zugang zu einer großen medizinischen Einrichtung habe – in Eils‘ Fall die Charité Berlin –, habe bei bestimmten KI-relevanten Fragestellungen enorme Schwierigkeiten, an geeignete Datensätze zu kommen.
Reicht die Medizininformatikinitiative mit ihren Datenzentren?
Die Gründe dafür sind vielschichtig. In vielen Einrichtungen stehen die nötigen Daten schlicht nicht digital oder jedenfalls nicht digital und standardisiert zur Verfügung. Wo sie zur Verfügung stehen, werden sie oft nicht oder nur sehr selektiv zugänglich gemacht – häufig mit diffusen Verweisen auf Datenschutzbedenken.
Etwas umstritten war bei der Berliner Veranstaltung, inwieweit die Medizininformatikinitiative (MII) mit ihren Datenintegrationszentren die KI-Forschung, -Entwicklung und –Validierung in Deutschland voranbringen werde. Eils, der Koordinator des HiGHmed-Konsortiums der MII ist, betonte, dass die pseudonymisierten, dezentral strukturierten Forschungsdatensätze, die die MII anstrebe, genau darauf abzielten, größere Datenmengen digital und standardisiert zur Verfügung zu stellen. Die Frage ist freilich, inwieweit davon auch die Entwickler von KI-Algorithmen profitieren.
Denn zum einen zielt die MII primär auf Versorgungsforschung, nicht auf Produktentwicklung. Zum anderen ist das in der MII avisierte, aufwändige Datentreuhänder- und Pseudonymisierungsmodell ein eher langfristiges Projekt. Es geht auch am Bedarf vieler KI-Unternehmen schlicht vorbei: Für die Mehrheit der Algorithmen, die derzeit Schlagzeilen machen und aus denen wissenschaftliche Publikationen entstehen, ist die longitudinale Perspektive, die die Pseudonymisierung bietet, gar nicht nötig. Anonymisierte, annotierte Bilddatensätze oder umfangreiche Kompilationen einzelner Dokumenttypen würden vielen Unternehmen genügen. Aber auch an diese aus Datenschutzsicht viel unproblematischeren Daten heranzukommen, sei in Deutschland schwer bis kaum möglich, so mehrere Unternehmensvertreter unisono.
Weg in die Versorgung ist unklar
Jenseits der Datenverfügbarkeitsproblematik sehen sich auch jene Unternehmen mit ungeklärten Fragen konfrontiert, die es schaffen, Daten aufzutreiben, eine KI-Lösung zu entwickeln, zu validieren und sie – zum Beispiel als Medizinprodukt Klasse IIb – zu zertifizieren. So gibt es bei Haftungsfragen zumindest teilweise noch Diskussionsbedarf. Und dann ist die Frage der Finanzierung in der Regelversorgung ungeklärt: Braucht wirklich jeder Medizinprodukte-Klasse IIb-Algorithmus künftig ein separates GBA-Verfahren? Wenn nein, wie ist dann ein sinnvoller Weg in die Erstattung, nachdem das DVG-Verfahren für digitale Gesundheitsanwendungen bei Medizinprodukteklasse IIa aufhört?
Eng zusammen mit dem Thema Markteinführung hängt die Frage der Reproduzierbarkeit und des Algorithmen-Bias. Immer wieder zeigt sich, dass die Performance von Algorithmen stark abfällt, wenn sie in andere Versorgungskontexte - Einrichtungen, Patientenpopulationen, Geräte – transformiert werden . Wie sollte damit umgegangen werden? Ein denkbarer Ansatz wären institutionalisierte Qualitätssicherungsmaßnahmen, ähnlich den Ringversuchen in der Labormedizin. Die werden sich aber nicht von selbst entwickeln.
„Insgesamt sehen wir doch noch deutlichen Regulierungsbedarf beim Thema KI im Gesundheitswesen“, betonte der Sprecher der BVITG-Projektgruppe KI und stellvertretende BVITG-Vorstandsvorsitzende, Andreas Kassner. „Ich habe mich gefreut, zu hören, dass auch die politische Seite Handlungsbedarf erkennt. Wenn Deutschland ein wichtiger Standort für KI in der Medizin bleiben soll, dann sollten wir keine Zeit mehr verlieren.“
Weitere Informationen:
Positionspapier, Fact-Sheet und Trendreport des BVITG zu künstlicher Intelligenz