Die US-amerikanische Food and Drug Administration (FDA) hat eine Positionierung zur Regulierung von künstlicher Intelligenz (KI) im Gesundheitswesen veröffentlicht. Die Behörde betont das transformative Potenzial von KI, weist aber gleichzeitig auf die Herausforderungen bei der Überwachung und Regulierung dieser Technologie hin.
Die Stellungnahme hat mehrere Kernpunkte, die jeweils ausführlich diskutiert werden:
- Internationale Zusammenarbeit: Die FDA unterstreicht die Notwendigkeit einer koordinierten Aufsicht über alle regulierten Branchen, internationale Organisationen und die US-Regierung hinweg. Da viele Produkte global vertrieben werden, müssen US-Regulierungsstandards mit internationalen Standards kompatibel sein
- Flexible Mechanismen: Um mit dem rasanten Wandel der KI Schritt zu halten, werden flexible Regulierungsmechanismen. Transparenz seitens der Industrie und Kompetenz bei den Regulierungsbehörden bezüglich der Verwendung von KI in Entwicklung und Training seien entscheidende Erfolgsfaktoren.
- Lebenszyklusmanagement: Die FDA betont die Bedeutung eines konsequenten Lebenszyklusmanagements, das eine Überwachung der Anwendung und ihrer Performance nach der Markteinführung einschließt.
- Herausforderungen durch Large Language Models (LLMs): Die FDA hebt die besonderen Herausforderungen hervor, die generative KI und insbesondere LLMs mit sich bringen. Bisher habe die FDA zwar rund 1000 KI-basierte Medizinprodukte zugelassen, aber noch kein LLM. Es gebe hier in jedem Fall die Notwendigkeit einer besonderen Aufsicht und Kontrolle, was auch Kontrollpflichten der nutzenden Einrichtungen bzw. Individuen – und nicht nur der Behörde – umfasse.
- Ausgewogenheit: Die Regulierungsansätze müssen die Bedürfnisse des gesamten Gesundheitsökosystems berücksichtigen, von Großunternehmen bis hin zu Start-ups.
Weitere Informationen:
FDA Perspective on the Regulation of Artificial Intelligence in Health Care and Biomedicine https://jamanetwork.com/journals/jama/fullarticle/2825146