E-HEALTH-COM ist das unabhängige Fachmagazin für Gesundheitstelematik, vernetzte Medizintechnik , Telemedizin und Health-IT für Deutschland, Österreich und die Schweiz.
Mehr

Für das ePaper anmelden

Geben Sie Ihren Benutzernamen und Ihr Passwort ein, um sich an der Website anzumelden

Anmelden

Passwort vergessen?

Health-IT |

Zulassungsbehörde sinniert über KI

Die FDA erläutert im medizinischen Fachjournal JAMA, wie sie sich die Regulierung von KI-Anwendungen in der Medizin vorstellt – und wo sie Schwierigkeiten sieht.

Bild: © IB Photography – stock.adobe.com, 927129037, Stand.-Liz.

Die US-amerikanische Food and Drug Administration (FDA) hat eine Positionierung zur Regulierung von künstlicher Intelligenz (KI) im Gesundheitswesen veröffentlicht. Die Behörde betont das transformative Potenzial von KI, weist aber gleichzeitig auf die Herausforderungen bei der Überwachung und Regulierung dieser Technologie hin.

 

Die Stellungnahme hat mehrere Kernpunkte, die jeweils ausführlich diskutiert werden:

  • Internationale Zusammenarbeit: Die FDA unterstreicht die Notwendigkeit einer koordinierten Aufsicht über alle regulierten Branchen, internationale Organisationen und die US-Regierung hinweg. Da viele Produkte global vertrieben werden, müssen US-Regulierungsstandards mit internationalen Standards kompatibel sein

  • Flexible Mechanismen: Um mit dem rasanten Wandel der KI Schritt zu halten, werden flexible Regulierungsmechanismen. Transparenz seitens der Industrie und Kompetenz bei den Regulierungsbehörden bezüglich der Verwendung von KI in Entwicklung und Training seien entscheidende Erfolgsfaktoren.

  • Lebenszyklusmanagement: Die FDA betont die Bedeutung eines konsequenten Lebenszyklusmanagements, das eine Überwachung der Anwendung und ihrer Performance nach der Markteinführung einschließt.

  • Herausforderungen durch Large Language Models (LLMs): Die FDA hebt die besonderen Herausforderungen hervor, die generative KI und insbesondere LLMs mit sich bringen. Bisher habe die FDA zwar rund 1000 KI-basierte Medizinprodukte zugelassen, aber noch kein LLM. Es gebe hier in jedem Fall die Notwendigkeit einer besonderen Aufsicht und Kontrolle, was auch Kontrollpflichten der nutzenden Einrichtungen bzw. Individuen – und nicht nur der Behörde – umfasse.

  • Ausgewogenheit: Die Regulierungsansätze müssen die Bedürfnisse des gesamten Gesundheitsökosystems berücksichtigen, von Großunternehmen bis hin zu Start-ups.

 

Weitere Informationen:

FDA Perspective on the Regulation of Artificial Intelligence in Health Care and Biomedicine https://jamanetwork.com/journals/jama/fullarticle/2825146

FDA Perspective on the Regulation of Artificial Intelligence in Health Care and Biomedicine | Artificial Intelligence | JAMA | JAMA Network