Gemäß AI Act der Europäischen Union müssen alle EU-Mitgliedsstaaten bis 2. August 2026 sicherstellen, dass mindestens ein so genanntes KI-Reallabor („regulatory sandbox“) auf nationaler Ebene einsatzbereit ist. Diese KI-Reallabors sollen eine kontrollierte Umgebung zur Förderung von KI-Innovationen sein. Vor Inverkehrbringen eines innovativen KI-Systems sollen dort auf Grundlage eines mit der zuständigen Behörde abzustimmenden Reallabor-Plans Entwicklung, Training, Testen und Validierung quasi durchgespielt werden können. Das Angebot soll sich insbesondere an kleine und mittlere Unternehmen (KMUs) und Start-ups richten, die mit der komplexen Regulatorik von insbesondere Hochrisiko-KI-Systemen möglicherweise überfordert sind.
Zwei Medizinprodukte als Use Cases
Das deutsche KI-Reallabor existiert noch nicht, aber Bundesnetzagentur, Hessisches Ministerium für Digitalisierung und Innovation sowie die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit haben jetzt das zugehörige Forschungsprojekt abgeschlossen. In diesem Forschungsprojekt wurde ein KI-Reallabor im Sinne der AI Acts simuliert. Der Abschlussbericht liegt vor und kann eingesehen werden.
Interessant ist das Pilotprojekt aus Digital Health-Sicht deswegen, weil die beiden Use Cases Medizinprodukte betrafen, konkret Medizinprodukte mit integrierten Hochrisiko-KI-Systemen. Die Hersteller, die teilgenommen haben, werden in dem Abschlussbericht nicht namentlich genannt. Beide Use Cases befanden sich noch in einem Frühstadium der Produktentwicklung, ohne rechtssicher verfügbare Testdaten. Entsprechend wurden die Produkte im Rahmen der KI-Reallabor-Simulation nicht technisch erprobt, sondern es wurden regulatorische Abläufe durchgespielt, insbesondere an der Schnittstelle von AI-Act, Medizinprodukteverordnung (MDR) und Datenschutzgrundverordnung (DSGVO). Es wurde auch die Abschlussdokumentation („Exit Report“) durchgespielt, die die Unternehmen, die das KI-Reallabor nutzen, am Ende erhalten – mit möglichst konkreten Empfehlungen der Behörden für das weitere Vorgehen bei der Produktzulassung.
Ergebnisse sind noch etwas schwammig
Dass die Gefahr besteht, dass so ein Prozess etwas kopflastig werden könnte, ist offensichtlich. Der Abschlussbericht des Pilotprojekts ist an einigen Stellen dann auch betont zurückhaltend: „Das simulierte KI[VO]-Reallabor hat sich als interessant und in allen seinen Dimensionen (rechtliche Umsetzungsfragen, Organisation, Kommunikation, Pragmatik) ergiebig erwiesen. Es hat eine breite Wissensbasis für künftige Use bzw. Business Cases aufgebaut.“ Wer in einem Projektbericht so formuliert, der hat noch offene Fragen.
Im konkreten Ergebnisteil des Abschlussdokuments werden die Anforderungen an die nutzenden Unternehmen ausbuchstabiert, außerdem wird diskutiert, was das KI-Reallabor leisten können muss. Schließlich gibt es Empfehlungen an die Behörden mit dem Ziel, ihnen den Aufbau und den Unterhalt von KI-Reallabors zu erleichtern. Das Ganze bleibt oft vage, was aber auch damit zusammenhängt, dass der AI Act die Anforderungen an die KI-Reallabor nicht im Detail ausformuliert. Eine entsprechende Durchführungsverordnung der EU liegt erst seit Dezember 2025 als Konsultationsfassung vor, da war das Simulationsprojekt schon weit fortgeschritten. Trotz alldem: Die drei beteiligten Behörden werten das Projekt als Erfolg. Vertreter:innen beiden Unternehmen werden in der Pressekommunikation der Bundesbeauftragen für den Datenschutz und die Informationsfreiheit nicht zitiert.
Weitere Informationen
Abschlussbericht „Begleitforschung zum Pilotprojekt KI-Reallabor“; Abschlussbericht_Reallabor.pdf
Informationsseite zu KI-Reallaboren der Bundesnetzagentur; Bundesnetzagentur - KI-Reallabore