Die Diskussion um das richtige Maß bei der KI-Regulierung hält an. Die geopolitische Gesamtsituation trägt dazu bei, dass der Reflex, die dominanten amerikanischen und chinesischen KI-Anbieter gesetzlich an die kurze Leine zu nehmen, bei vielen Sympathie genießt.
Dem einfach nachzugeben, mag verführerisch sein. Europa tut sich, der eigenen IT-Industrie und auch der medizinischen Versorgung mit einer zu straffen Regulierung aber keinen Gefallen. Dass die Bundesregierung versucht, bei der EU darauf hinzuwirken, den AI Act abzuspecken, ist deswegen sinnvoll, genauso wie die im Vorfeld des deutschen Gesetzes für digitale Versorgung und den Gesundheitsdatenraum (GDVG) von der Industrie formulierte Forderung, im medizinischen Bereich AI Act, MDR/IVDR und DSGVO besser zu harmonisieren und nationale Sonderlocken konsequent(er) wegzufrisieren.
Bewusstsein für KI-Bias schärfen
Einer von mehreren Diskussionspunkten bei der KI-Regulierung ist der Umgang mit Bias. Hier sollte in erster Linie auf eine Verbesserung der KI-Literacy gesetzt werden. Wenn reichweitenstarke Accounts in den sozialen Medien beispielhaft zeigen, wie eine Bild-KI systematisch die Darstellung von Frauen sexualisiert, dann bringt diese Öffentlichkeit im Zweifel mehr als Versuche, den Modellen den Bias – welchen? und welchen nicht? – per Regulierung auszutreiben.
Es ist auch längst nicht jeder Bias per se schlecht. Wissenschaftler:innen haben kürzlich die Kompetenz unterschiedlicher LLMs in Sachen traditionelle chinesische Medizin (TCM) verglichen. Es gab einen klaren und wenig überraschenden Sieger: DeepSeek, denn dieses LLM hat aufgrund seines Trainingskontexts einen TCM-Bias. Schlimm? Nein, solange man sich dessen bewusst ist und es ggf. bei der Auswahl seiner KI-Modelle berücksichtigt. Wie wurde ein Modell trainiert? Was ist die Grundgesamtheit? Diese Fragen kann und sollte man stellen. Aber sofort gegenreguliert werden muss deswegen nicht. Ein bisschen mehr Selbstbewusstsein gegenüber LLMs täte uns Menschen ganz gut.
Autor:
Philipp Grätzel von Grätz
Chefredakteur E-HEALTH-COM