E-HEALTH-COM ist das unabhängige Fachmagazin für Gesundheitstelematik, vernetzte Medizintechnik , Telemedizin und Health-IT für Deutschland, Österreich und die Schweiz.
Mehr

Für das ePaper anmelden

Geben Sie Ihren Benutzernamen und Ihr Passwort ein, um sich an der Website anzumelden

Anmelden

Passwort vergessen?

Blog

KI statt KO!

Der Mensch im Zeitalter seiner algorithmischen Reproduzierbarkeit

von Prof. Dr. Stefan Heinmann

Wir stehen an der Schwelle zu einer neuen Epoche. Es geht nicht mehr um „digitale“, sondern um „gesellschaftliche Transformation“. Es geht nicht mehr um „Automatisierung“, sondern um „Autonomisierung“. Es geht nicht mehr um „Daten“, sondern um „Denken“. Es geht nicht mehr um „kalkulieren“, sondern um „erschaffen“. Es geht nicht mehr um „Aufmerksamkeitsquantität“,
sondern um „Intimitätsqualität“. Es geht nicht mehr um „Beratung“, sondern um „Entscheidung“. Niemals
war ein Instrument weniger Instrument und so machtvoll, weniger aus technischen, als aus sozialen Gründen.


Denn noch verleihen wir ihm diese Macht. Masayoshi Son, CEO von SoftBank, ist zuversichtlich, dass „starke KI“ (Artificial General Intelligence, GenAI) die menschliche Intelligenz im kommenden Jahrzehnt um das Zehnfache übertreffen wird. Gleichzeitig unterschreiben Abertausende Akteure ein wirkungsfreies
Memorandum, um die KI-Entwicklung zu entschleunigen. KIs unterminieren „Wahrheit“ und „Bedeutung“, ermöglichen „deep fakes“, sind demokratie- und diktaturgefährdend, wie man etwas spitz formulieren
könnte, und sind gleichzeitig kaum ersetzbare Lösungen für die selbstgeschaffenen Probleme des 21. Jahrhunderts.


Also: Houston, wir alle haben ein Problem. Die Finalchance, die anthropologische Ambivalenz der Technik solide zu balancieren und jene sinnvoll einzusetzen, und das kann nur heißen: ethisch ausgewiesen, gesellschaftlich akzeptabel und nachhaltig, steht im Feuer, wenn die Extreme – sei es pro oder contra KI – substanziell die Oberhand gewinnen. Sonst erlöst uns Technik wieder bloß in Teilen von unseren natürlichen Beschränkungen, bindet uns gleichzeitig aber wieder unheilvoll an jene zurück, macht uns ab-, nicht un-abhängig. Besser wäre es, eine andere, bewegende Erkenntnis Kants wieder zu erinnern: „Zwei Dinge erfüllen das Gemüt mit immer neuer und zunehmender Bewunderung und Ehrfurcht, je öfter und anhaltender sich das Nachdenken damit beschäftigt: der bestirnte Himmel über mir und das moralische Gesetz in mir.“ Keine GenAI und kein Ersetzen von kernmenschlichen Wesensmerkmalen: Denken und Fühlen.


Um diese Grundsätze zu bewahren, braucht es in der Tat die breit diskutierten Werte wie Transparenz, Accountability, ethics-by-design etc. Noch zentraler allerdings dürfte sein, einen möglichst weltweit umfassenden Schulterschluss zu erreichen, um erstens den Einsatz von KI in Waffen zu bannen. Zweitens, grundsätzlich KI-Tätigkeiten axiologisch geringer einzustufen als menschliches Entscheiden und Handeln. Drittens, eine zu deutliche Anthropomorphisierung von KI (inklusive einer eskalierenden Roboterisierung) ebenso zu bannen wie eine entsprechende Algorithmisierung von Menschen. Viertens, die moralische Pflicht zur verantwortlichen KI-Entwicklung und -Nutzung breit zu diskutieren und letztlich – das mag überraschen – zu bejahen; denn der unnötige Generalverzicht auf verantwortlichen Technologieeinsatz ist selber wieder unmoralisch, neben eine Technikfolgeabschätzung sollte eine Ethikfolgeabschätzung gestellt werden. Schließlich, fünftens, die AI-Literacy maximal zu stärken, um unter dem Tarnmantel „Inspiration“, „Recherche“ etc. nicht subkutan eine Kompetenzerosion zu legitimieren – AI-friendly in der Bildung ist genau dann wünschenswert, wenn eben aus KI auch hier nicht KO wird.


Bestimmt wäre eine gut trainierte – von mir trainierte – GenAI noch zu weiteren Punkten im Rahmen der vorgegebenen Wörterzahl gekommen, sicher auch etwas leserlicher und weniger verstelzt. Aber, so denke und schreibe ich eben, es ist auch schon besser geworden, es gibt immer wieder Menschen, die meine Texte verstehen.


Für die Medizin und Gesundheitswirtschaft hat dies alles weitreichende Implikationen – ob Ärzt:innen demnächst Lizenzen ihrer GenAI-driven-Avatare vergeben, KI-Systeme – auch rechtlich und managementseitig gut abgesichert – faktisch Menschen in Medizin, Pflege etc. ersetzen, sich die erstrangige, ethische Beziehung Menschenautonomie-Menschenautonomie zu einer ménage à trois
entwickelt mit der Algorithmenautonomie, furchtbare Menschheitsgeißeln endlich behandelt werden können, Medizin präzise, präventiv, verfügbar und bezahlbar wird, insgesamt die „tiefe Heilung“ als Verstärkung des Heilungsprinzips über die Behandlung hinaus durch ethische KI verfügbar werden wird – dies alles sind nur kleine Visionen.


Immer mehr werden es große Fakten. Setzten wir die KI an ihren Platz, und vieles wird gut.

 

Dieser Beitrag ist vollständig von mir, einem Menschen, erdacht und verfasst worden. „KI“ kam nicht zum Einsatz.

 

Autor:

Prof. Dr. Stefan Heinmann

Philosoph und Theologe, Professor für Wirtschaftsethik an der FOM Hochschule und gewähltes Mitglied der Ethik-Kommission der Medizinischen Fakultät der Universität Duisburg-Essen, außerdem wissenschaftlicher Leiter des Hauptstadtkongress Lab und Mitglied der „Arbeitsgruppe KI in der Inneren Medizin“ im Rahmen der Kommission „Digitale Transformation der Inneren Medizin“ sowie Mitglied des Wissenschaftlichen Beirats „Digitale Transformation“ der AOK Nordost und Mitinitiator von www.dataprotectionlandscape.com, einer Plattform für die Mehrdimensionalität des Datenschutzes.


E-Mail: s.heinemann(at)stefan-heinemann.com