Im Rahmen der von fortiss unterstützten FED4SAE-Innovationsmaßnahme ist Ubotica Technologies als Gewinner aus einem Open Call hervorgegangen und hat eine auf Deep Learning basierende Lösung entwickelt, um das Vorhandensein von DR-Indikatoren in Netzhautbildern zu erkennen. Diese DR-Indikatoren auf der Netzhaut können mithilfe spezieller Retinakameras (Netzhautkameras, Funduskameras) erkennbar gemacht werden.
Durch den Einsatz der von fortiss entwickelten Software NNDK (Neural Network Dependability Kit) konnte das Deep-Learning-Modell so verbessert werden, dass es direkt in einer Funduskamera eingesetzt werden kann. Die Lösung wurde entwickelt, um Augenärzte bei der genauen und konsistenten Bewertung und Diagnose von DR zu unterstützen. Zu diesem Zweck liefert sie mithilfe von NNDK auch Informationen über die Grundlage, auf der die Bewertung vorgenommen wurde.
Motivation
Ziel der Entwicklung war es, einen funktionierenden Prototyp zu erstellen, der die Klassifizierung von Netzhautfundusbildern auf das Vorhandensein von Indikatoren für DR demonstriert. Die inhärenten Unsicherheiten von Algorithmen des Maschinellen Lernens schränken jedoch aufgrund ihres datengesteuerten Ansatzes die Integration in ein solches Klassifikationssystem ein, insbesondere in einem so sicherheits-kritischen Bereich.
Wesentliche Herausforderungen beim Einsatz auf Künstlicher Intelligenz (KI) basierenden Lösungen sind zum einen, Aussagen über die Zuverlässigkeit der Entscheidungen der künstlichen neuronalen Netze (Artificial Neural Networks = ANN) hinsichtlich Robustheit, Interpretierbarkeit und Korrektheit treffen zu können, und zum anderen in der stetigen Überwachung der Entscheidungen des neuronalen Netzes zu gewährleisten.
Lösungsansatz
Neuronale Netze sind künstliche Netzwerke aus vielen kleinen Einheiten (Neuronen), welche hochgradig verknüpft sind. Die einzelnen Neuronen sind adaptiv und das Netz damit lernfähig. In den letzten Jahren wurden neuronale Netze in großem Umfang in verschiedensten Anwendungen, wie z. B. dem Autonomen Fahren oder der Produktion zur Bilderkennung, Objektdetektion, Wahrnehmung und auch zur Entscheidungsfindung, eingesetzt. Diese lernfähigen Komponenten sind jedoch mit herkömmlichen Methoden nur schwer zu überprüfen. Insbesondere für die ANN-gestützte Klassifizierung medizinischer Bilder ist es wichtig, Eigenschaften der Robustheit von ANNs gegenüber verrauschten oder sogar böswillig manipulierten sensorischen Eingaben zu ermitteln. Da es keine bewährten Verfahren für die Entwicklung sicherer neuronaler Netze gibt, besteht außerdem ein erheblicher Bedarf an diversen geeigneten Metriken zur Messung wichtiger Zuverlässigkeitsmerkmale.
Ubotica hat, basierend auf 35.000 frei verfügbaren, vorklassifizierten Netzhautbildern, ein neuronales Netz, basierend auf Deep Learning, zur Indikation von DR trainiert. Die technische Lösung nutzt die Intel Movidius Myriad X Vision Processing Unit (VPU), eine elektronische Prozessoreinheit, die direkt in die Funduskamera integriert werden kann. Zunächst verarbeitet die VPU die Netzhautbilder mit ihren integrierten Bildfilterfunktionen vor. Daraufhin wird das trainierte neuronale Netz angewendet, um das Netzhautbild auf DR-Indikatoren zu untersuchen. NNDK kommt in der Entwicklung des neuronalen Netzes zum Einsatz, um mit verschiedenen Metriken dessen Leistung zu bewerten und damit das Modell weiter zu verbessern.
Das NNDK ist eine von fortiss entwickelte Open-Source-Toolbox zur Unterstützung des Safety-Engineering und zum besseren Verständnis von neuronalen Netzen. Es unterstützt die Verifikation, die Testfallgenerierung und die Berechnung von Metriken für neuronale Netze. Es basiert auf formalen Methoden, die zur Modellierung und rigorosen Überprüfung von Computersystemen dienen, um in sicherheitskritischen Systemen Fehlerfreiheit zu beweisen und um die Qualität von neuronalen Netzen zu argumentieren. Somit können neuronale Netze entwickelt werden, die robuster, zuverlässiger, interpretierbarer und vertrauenswürdiger sind.
Zu den wichtigsten Funktionen des NNDK gehören:
- eine formale Argumentationsmaschine zur Sicherstellung, dass die Generalisierung nicht zu unerwünschtem Verhalten führt,
- neuartige Zuverlässigkeitsmetriken zur Anzeige einer ausreichenden Beseitigung von Unsicherheiten im Produktlebenszyklus und
- eine Laufzeitüberwachung zur Argumentation, ob eine Entscheidung eines neuronalen Netzes im Betrieb durch vorherige Ähnlichkeiten in den Trainingsdaten unterstützt wird.
In der Entwicklung der DR-Detektion kamen insbesondere die Zuverlässigkeitsmetriken von NNDK sowie dessen Unterstützung zur Laufzeitüberwachung zum Einsatz: mithilfe einer speziellen Metrik zu Berechnung der Neuronenabdeckung konnte etwa die Größe des neuronalen Netzes um 74% reduziert werden, ohne signifikanten Einfluss auf dessen Genauigkeit bei der Klassifikation der Netzhautbilder. Dadurch wurde die Berechnung der Klassifikationsergebnisse erheblich beschleunigt. Ferner wurde die Laufzeitüberwachungsfunktion von NNDK eingesetzt, um dem Benutzer der Kamera diejenigen Trainingsbilder anzuzeigen, die dem analysierten Bild am ehesten entsprechen. Dadurch kann der Untersuchende die Entscheidung des KI-Systems nochmals unabhängig überprüfen und somit wird die In-Line-Erkennung von diabetischer Retinopathie um ein verifizierbares KI-Element erweitert.
Nutzenversprechen
Die entwickelte Lösung zielt nicht darauf ab, das Screening der Netzhautfundusbilder durch medizinische Experten zu ersetzen. Vielmehr wird die Rolle der Untersuchenden durch die Erstellung einer ersten Klassifizierung unterstützt. Entscheidend ist zudem, dass fortiss eine Erklärungskomponente für Mediziner*innen hinzugefügt hat, wodurch das Vertrauen in die Entscheidung der KI gestärkt wird. Somit unterstützt die Software Augenärzte bei der genauen und konsistenten Bewertung und Diagnose von DR.
Ubotica arbeitet mit Herstellern von Retinakameras und dem irischen Gesundheitsdienst zusammen, um die Lösung im Markt weiter zu etablieren. Die Überwachungsfunktion des NNDK für die von den ANNs getroffenen Entscheidungen bietet einen erheblichen Vorteil für Lösungsintegratoren. Der Einsatz von Uboticas Technologie in Kameras wird sowohl die Effizienz der Kameras als auch die Arbeitsweise der Augenärzte deutlich verbessern.
Partner
Ubotica Technologies ist ein mittelständisches irisches Unternehmen, das sich auf KI-Lösungen für edge-based Computer-Vision-Anwendungen spezialisiert hat. Die Firma hat Entwicklungszentren an mehreren Standorten Europas, die durch die Zusammenarbeit mit Forschungszentren Innovationen für die Zielmärkte vorantreiben. Die primären Zielmärkte sind Raumfahrtanwendungen, High Speed Motion Tracking und medizinische Bildanalysen.
Ubotica ist als Open-Call-Gewinner im Rahmen der FED4SAE-Initiative (Federated cyber-physical digital Innovation Hubs for the Smart Anything Everywhere Initiative) hervorgegangen. Sie bietet europäischen Start-ups sowie kleinen und mittleren Unternehmen Zugang zu führenden Technologiequellen, Kompetenzen und industriellen Plattformen sowie zu gut vernetzten Geschäftsinfrastrukturen und regionalen Innovationszentren.
Quelle: fortiss - Landesforschungsinstitut des Freistaats Bayern für softwareintensive Systeme