Das Verbot der automatisierten Einzelfallentscheidung schützt den Betroffenen davor, dass ein Algorithmus unter Berücksichtigung persönlicher Merkmale anstatt eines Menschen Entscheidungen trifft, etwa über Baugenehmigungen. Ein Algorithmus, der Alarm schlägt, wenn ein Smart-Home-Bewohner bewegungslos ist, ist nur eine Wenn-Dann-, und keine automatisierte Einzelfallentscheidung.
Anders liegt es allerdings, wenn durch die Analyse von Bewegungsmustern ein System etwas über den Bewohner lernt und typische Verhaltensweisen antizipiert, etwa in Abhängigkeit von der Frequenz der Benutzung des Badezimmers Getränkebestellungen auslöst. Dies sind automatisierte Einzelfallentscheidungen.
Für die Anwendbarkeit des Verbots kommt es aber darauf an, ob jemand einer Entscheidung unterworfen ist, sie also nicht beeinflussen oder ändern kann. Dies kann bei der Unterstützung ärztlicher Entscheidungen durch KI der Fall sein. In der GKV konkretisiert der Arzt den Leistungsanspruch, den der Patient gegenüber seiner Krankenkasse hat, etwa durch ein bestimmtes Therapieangebot. Setzt er dabei KI ein, ohne diese zu reflektieren, ist der Patient tatsächlich einer automatisierten Einzelfallentscheidung unterworfen.
Dies kann vermieden werden, wenn der Arzt als Letztverantwortlicher die Entscheidung trifft und nicht nur die der KI umsetzt. Doch welchen Sinn macht das, wenn die KI eines Tages die besseren Entscheidungen trifft?
Autor:
Prof. Dr. med. Dr. iur. Christian Dierks ist Rechtsanwalt und Facharzt für Allgemeinmedizin in Berlin
Kommentare & Fragen:
christian.dierks(at)dierks.company