In einem heute in Nature Medicine veröffentlichten Beitrag zeigen Forschende, wie das Vertrauen von Nutzerinnen und Nutzer sowie die Markteinführung von digitalen Gesundheitsanwendungen verbessert werden könnten. Sie schlagen vor, transparente, verpflichtende Feedback-Mechanismen direkt in die Benutzeroberfläche der Anwendungen zu integrieren. Der Ansatz ist einfach – ähnlich wie bei App-Store-Bewertungen – und das Feedback mit einer nationalen Plattform verknüpft. Dies könnte die Erfahrung von Nutzer:innen erheblich verbessern, die Sicherheit für Patient:innen durch frühzeitiges Erkennen von Problemen erhöhen, Genehmigungsverfahren beschleunigen, den Verwaltungsaufwand in der Überwachung verringern und einen vertrauenswürdigen Wandel hin zu einem digitalen Gesundheitswesen ermöglichen.
KI-gestützte digitale Gesundheitstechnologien (Digital Health Technologies – DHTs) verändern das Gesundheitswesen und unterstützen bei Diagnose, Therapie und Anpassungen des Lebensstils. Fehlendes Echtzeit-Feedback zu Sicherheit und Leistung solcher Anwendungen vermindert jedoch deren Zuverlässigkeit. In der Vergangenheit wurden Vorschriften oft erst nach medizinischem Versagen entwickelt, erklären die Autor:innen vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der TU Dresden zusammen mit weiteren Forschenden.
Beispiele sind die Thalidomid-Tragödie der 1960er Jahre oder fehlerhafte Brustimplantate, wobei letztere zur Einführung der Medizinprodukteverordnung der Europäischen Union (EU-MDR) beitrugen. Das aktuelle Zulassungsverfahren für Medizinprodukte unterscheidet sich erheblich von den sehr strengen Vorschriften für Arzneimittel. Es besteht jedoch ein dringender Bedarf an zuverlässigen Feedback-Systemen für digitale Gesundheitsanwendungen nach deren Markteinführung.
Ziel ist es, reale Erfahrungswerte zu sammeln und Sicherheitsprobleme so früh wie möglich zu erkennen. Obwohl es bereits einige Feedback-Mechanismen gibt, fehlt es an internationaler Standardisierung und integrierten Tools, die eine direkte und offene Rückmeldung der Nutzenden ermöglichen. Im Gegensatz zu herkömmlichen Medizinprodukten wie Implantaten könnten digitale Hilfsmittel Möglichkeiten für direktes Feedback beinhalten. Dies wiederum könnte das Vertrauen in die Nutzung fördern.
„Unsere Arbeit an der Schnittstelle zwischen medizinischen Vorschriften und digitalen Gesundheitsanwendungen konzentriert sich darauf, Innovation und Sicherheit in Einklang zu bringen. Angesichts der zunehmenden Digitalisierung ist es notwendig, zweckmäßige Vorschriften zu entwickeln und gleichzeitig bestehende Rahmenbedingungen zu nutzen, um die effektive und sichere Umsetzung digitaler Technologien zu gewährleisten. Wir sind uns jedoch bewusst, dass Aktualisierungen der Vorschriften Zeit brauchen“, sagt Rebecca Mathias, Hauptautorin des Artikels und Forscherin in der Arbeitsgruppe von Prof. Stephen Gilbert am EKFZ für Digitale Gesundheit.
Seine Forschungsgruppe befasst sich mit der Regulierung von Medizinprodukten und gehört zu den wenigen in Europa, die sich auf die Anpassung innovativer Regulierungspraktiken konzentrieren. In einer Reihe von Veröffentlichungen hat das Team Strategien zur Verbesserung von Transparenz, Feedback, Nachvollziehbarkeit, Leistung und zuverlässiger Überwachung von DHTs nach der Markteinführung vorgeschlagen.
„Unsere Forschung skizziert standardisierte, systemweite Rahmenbedingungen für die Überwachung, um die tatsächliche Leistung von DHTs zu überprüfen, einschließlich KI-gestützter Lösungen mit integrierten Mechanismen zur Förderung von Sicherheit, Vertrauen und adaptiver Steuerung. Zusammen unterstützt diese Forschung einen Prozess der stetigen Verbesserung, der durch die Nachvollziehbarkeit der Interessengruppen, eine stärkere Einhaltung der Vorschriften, nutzerorientierte Innovationen und effizientere Überwachungsansätze angetrieben wird. Diese ermöglichen Vertrauen in schnellere Genehmigungen, fördern eine bessere Akzeptanz in das Gesundheitssystem und damit eine höhere Effizienz in der Versorgung“, erklärt Prof. Stephen Gilbert.
Alle zugehörigen Veröffentlichungen finden sich unter:
https://digitalhealth.tu-dresden.de/dht-feedback-tools/
Publikation
Rebecca Mathias, Baptiste Vasey, Anastasia Chalkidou, Lars Riedemann, Tom Melvin, Stephen Gilbert: Safe AI-enabled digital health technologies need built-in open feedback, Nature Medicine, 2025.
Link: https://www.nature.com/articles/s41591-024-03397-6
DOI: 10.1038/s41591-024-03397-6
Quelle: TU Dresden