Wie sie die Idee finde, dass im Arztgespräch eine Spracherkennung lauscht, die die klinische Dokumentation bestückt und am Ende einen Überweisungsbogen generiert – das fragte BVITG-Vorstandsvorsitzender Matthias Meierhofer Deutschlands bekannteste Medizinethikerin, die Ärztin und Vorsitzende des Deutschen Ethikrats, Alena Buyx. Die hatte damit erstmal keine Probleme: Aus ethischer Sicht müsse KI das menschliche Handeln und die menschlichen Entfaltungsmöglichkeiten erweitern und dem Menschen nutzen, ihn aber nicht ersetzen.
KI ersetzt keine Standards
Buyx betonte auch, dass KI zwingend Daten brauche, und zwar eigene Daten, nicht irgendwelche eingekauften aus China oder den USA. Sie ist deswegen ein großer Fan der jüngsten Digitalgesetze des Bundesministeriums für Gesundheit, die den Zugang zu Daten erleichtern sollen: „Die sind nicht perfekt, aber wir sind einen großen Schritt gegangen.“ Natürlich müssten Datenschutz und Datensicherheit gewährleistet sein. Aber: „Ich mache mir in Deutschland nicht so viele Sorgen. Die Gefahr ist eher, dass wir zu zurückhaltend sind und viele Vorteile verpassen.“
Sylvia Thun von der Core Unit eHealth und Interoperabilität der Charité Berlin sieht das genauso: „Die Gesetze sind super, wir müssen jetzt machen.“ Aus Sicht der Standardisierung, für die Thun wie kaum jemand anderes steht, könne KI helfen, Daten zu strukturieren und Programmieraufgaben zu übernehmen: „Sie ersetzt aber nicht internationale Standards.“ Vielmehr seien SNOMED, FHIR, LOINC und Co. zwingende Grundlage für hochwertige KI-Systeme. Prinzipiell könnten FHIR-Ressourcen mit Hilfe von generativer KI entwickelt werden. Die müssten dann aber an Deutschland angepasst werden. Das, so Thun, sei immer noch mehr als genug Arbeit.
Bei einem GDNG bleibt es wohl nicht
In einer weiteren Diskussionsrunde, die vom bvitg und von E-HEALTH-COM gemeinsam ausgerichtet wurde, ging es konkreter um die Implikationen und die Lücken aktueller KI-bezogener Regulatorik, konkret AI Act, GDNG, SCHUFA-Urteil und EHDS. Bernd Schütze von der Deutschen Telekom betonte mit Blick auf den AI Act, dass es jetzt darum gehen müsse, die untergesetzlichen Normen möglichst schnell festzuzurren, damit die Hersteller Planungssicherheit haben.
Gleichzeitig, so Jonas Marcello vom Fraunhofer IESE, dürfe die zwei- bis dreijährige Übergangsphase des AI Acts nicht dazu führen, dass KI-Entwicklungen auf die lange Bank geschoben werden. Notfalls müssten schon vor Finalisierung der Normen bestimmte Rahmenbedingungen konsentiert werden, damit der Abstand zwischen Europa einerseits und China und den USA andererseits nicht noch größer werde. Seitens der Politik kündigte Nilofar Badra-Azar vom Bundesministerium für Gesundheit an, dass die Politik unbedingt erreichen wolle, dass bei KI-nutzenden Medizinprodukten die Zertifizierung gemäß europäischer MPG und jene Maßnahmen, die den Unternehmen qua AI Act aufgebürdet werden, eng verzahnt werden. Ziel sei es, dass es keine zwei getrennten Zertifizierungsprozesse geben wird.
Identifier steht auf der Tagesordnung
Mit Blick auf den EHDS deutete Badra-Azar an, dass sich das Bundesministerium an mehreren Stellen trotz jetzt erfolgreich verabschiedetem GDNG weiter in der Pflicht sieht. Das GDNG sei als Vorbereitung auf den EHDS zu sehen. Ein weiteres Gesetz sei durchaus denkbar, wenn sich der EHDS weiter konkretisiert. Ein Thema, das die Politik im Laufe der nächsten Monate bearbeitet will, ist das Thema Identifier. Der ist nötig, um unterschiedliche Datensätze zusammenzuführen. Die Krankenversichertennummer ist als Ausgangsbasis für ein Pseudonym nur eingeschränkt geeignet, weil es zu viele Datensätze gibt, die gar keine Krankenversichertennummer enthalten.