Die KI-basierte Pflegedokumentations-App “voize” verarbeitet sensible Patienteninformationen datenschutzkonform und lokal. Bei der App wurden während der Entwicklung Datenschutz und –sicherheit mitgedacht und umgesetzt. Diesen Prozess, den man auch “Privacy-by-design" oder “Privacy-by-default" nennt, begleitet Althammer & Kill bei voize eng, teilte das auf Beratung im Bereich Datenschutz, Informationssicherheit, Cloud- & Cyber-Security und Compliance spezialisierte Unternehmen mit.
Pflegekräfte, die die App nutzen, diktieren ihren Eintrag per Spracheingabe. Diese wird dann lokal auf dem Endgerät in Text umgewandelt und anschließend über das Pflegedokumentationssystem verarbeitet. Die Daten fließen dabei nicht über eine Internetverbindung ab. “Das ist ein Novum bei KI-Anwendungen, deren Datenverarbeitung und –speicherung primär auf externen Servern, oft in Drittländern, funktioniert”, sagt Thomas Althammer, Geschäftsführer der Althammer & Kill GmbH & Co.KG. Das für die Weiterentwicklung von KI essenzielle “Maschine-Learning” wird dadurch gewährleistet, dass personenbezogene Informationen entfernt werden, bevor die KI die anonymisierten Daten weiterverarbeitet und sich so permanent verbessert.
Spannungsfeld Datenverarbeitung und Datenschutz
Die Herausforderung bei der KI-Entwicklung liegt in der Datenverarbeitung einerseits und dem Schutz vertraulicher oder persönlicher Informationen andererseits. Dabei muss jeweils sowohl das Risiko definiert als auch eine Rechtsgrundlage dargelegt werden. Abzugrenzen ist hier die Verantwortlichkeit durch die Appentwickler als Auftragsverarbeitende und der jeweils verantwortlichen Pflegeeinrichtung beim Einsatz der Software. Einwilligungen müssen entsprechend den Vorgaben aus dem geltenden Datenschutzgesetz eingeholt, hinterlegt und auch bei Widerruf der Einwilligung beachtet und umgesetzt werden.
Wie kann KI funktionieren, wenn keine Daten an Server außerhalb einer Pflegeorganisation übermittelt werden dürfen?
Die Lösung besteht darin, dass die KI per App lokal auf dem Endgerät der Pflegefachkräfte installiert wird. Hinter der KI liegen zum einen die Sprach-zu-Text-Erkennung als auch die entsprechenden Formulare, die in der Pflege wichtig sind. Gibt eine Fachkraft nun den Text per Sprache ein, wird das entsprechende Formular aus dem Pflegesystem ausgewählt und die Informationen eingefügt. Die Daten werden in das jeweilige Dokumentationssystem hochgeladen. Es besteht keine Datenverbindung zum Internet. Um die Weiterentwicklung der KI datenschutzkonform zu gestalten, wird das Gesprochene lokal auf dem Endgerät anonymisiert. Aus dem Text “Herr Max Mustermann hat einen Blutdruck von 80/120” werden die personenbezogenen Teile Herr, Max und Mustermann herausgetrennt und nur die anonymisierten Daten trainieren und verbessern die KI. „Die Entwicklung von voize hat gezeigt, dass KI datenschutzkonform und sicher konzipiert werden und trotzdem datenbasiert lernen kann. Besonders dann, wenn sie in Europa für Europa entwickelt wird”, so Althammer weiter.
Weitere Informationen unter https://www.voize.de/ und https://www.althammer-kill.de/