Ich bezweifle, dass der aktuelle Entwurf einer Gesetzesfolgenabschätzung standhält. Zum einen ist der Bogen zu weit gespannt, in dem sogar softwarebasierte Entscheidungsbäume als KI-System eingestuft werden. Werden sie in einem Medizinprodukt eingesetzt, etwa zur Steuerung eines Motors, gilt dieses schon als Hochrisikoprodukt. Zum anderen leitet die Verordnung dann weiter ab, dass eine kontinuierliche menschliche Überwachung dieses Systems erfolgen soll, was wiederum den Einsatz von KI ausschließt, wenn eine menschliche Reaktion nicht schnell genug erfolgen kann. An einigen Stellen schimmert Realitätsferne durch, z.B.: Schulungs- und Testdatensätze müssen fehlerfrei und vollständig sein und sollen den Marktüberwachungsbehörden uneingeschränkt über Schnittstellen auch im Fernzugriff zugänglich gemacht werden.
Insgesamt wird der Aufwand der Umsetzung, der ja parallel zu dem Aufwand für die Medizinprodukteverordnung zusätzlich entstehen wird, insbesondere für die Hersteller:innen von Software als Medizinprodukt so erheblich sein, dass Vermeidungsstrategien zu Forschungs- und Entwicklungsdefiziten führen werden. Da, wo wir noch glaubten, einen Vorsprung im Markt erzielen zu können, droht uns die Überregulierung nun den Wind aus den Segeln zu nehmen. Ich hoffe sehr, dass im Rahmen des weiteren Verfahrens die Kommission die zu vielen Regelungsinhalten zu Recht geäußerte Kritik aufnimmt und erkennt, dass Überregulierung nicht nur Risiken, sondern auch die Innovation minimieren kann.
Autor:
Prof. Dr. med. Dr. iur. Christian Dierks ist Rechtsanwalt und Facharzt für Allgemeinmedizin in Berlin
Kommentare & Fragen:
christian.dierks(at)dierks.company