Herr Augustin, wie kamen Sie als Psychiater dazu, sich beruflich mit KI zu beschäftigen?
Als ChatGPT im November 2022 rauskam, war ich zunächst skeptisch. Mit der Zeit habe ich dann gesehen, dass es doch erhebliche Veränderungen für Gesellschaft, Arbeitswelt und auch Medizin bringen wird. Seither ist mein Interesse stetig gewachsen, vor allem weil ich glaube, dass digitale Interventionen auch neue, vielleicht gezieltere Therapien bereitstellen können, als das, was wir bislang haben – zum Beispiel für Patientengruppen, die bislang unterversorgt sind.
Es gibt Menschen, die sich in KI-Chatbots geradezu verlieren können. Sie führen lange Unterhaltungen, bringen sich emotional ein, gehen in philosophische Diskussionen, teilweise stundenlang. Andere Menschen sind dafür überhaupt nicht anfällig, für sie sind ChatGPT, Claude AI & Co bessere Suchmaschinen. Wie ist das bei Ihnen?
Ich versuche, diese Tools als Werkzeuge zu sehen. Ich nutze sie vor allem bei der Arbeit mit Texten. Ich gehe nicht tief in die Interaktion. Aber mir ist sehr bewusst, dass es Menschen gibt, die diese Tools auch für emotionale Themen als Resonanzraum nutzen, für Themen, die sie früher mit Freund oder Freundin besprochen hätten.
Sie haben im Sommer 2025 einen Fachartikel zu KI und mentaler Gesundheit in der Zeitschrift „Der Nervenarzt“ veröffentlicht, ein Überblicksartikel über Fallberichte von Patientinnen und Patienten mit KI-assoziierten Psychosen. Wissen Menschen mit Psychosen, dass hinter der KI, mit der sie kommunizieren, kein Mensch steht?
Das ist letztlich der wesentliche Punkt. Psychosen sind eine Gruppe von psychischen Störungen, bei denen der Realitätsbezug verlorengegangen ist. Ich habe den Gedanken, dass ich beobachtet oder verfolgt werde, oder ich habe Halluzinationen, höre zum Beispiel eine Stimme, die niemand anderes hört. Auch ein technisches System kann ich so wahrnehmen, dass es mir reell vorkommt und dass ich den Eindruck habe, da ist ein menschliches Gegenüber. Aber das ist sicherlich ein Spektrum mit sehr großen Graubereichen, in dem sich auch der besagte Übersichtsartikel bewegt. Im Frühjahr 2025 kamen die ersten Berichte über Wahnepisoden im Zusammenhang mit KI auf. Da hatten Menschen zum Beispiel den wahnhaften Gedanken, sie hätten von der KI eine besondere Aufgabe bekommen. Oder dass sie mit Hilfe der KI eine physikalische Weltformel entdeckt hätten. Oder auch, dass sie die KI zum Leben erweckt hätten, sodass sie eine Art gottähnliche Instanz wurde. Diesen Fällen ist gemein, dass KI eine bestimmte Rolle in den Interaktionen gespielt hat. In einen kritischen Bereich kommen wir dann, wenn Krankheitssymptome widergespiegelt und verstärkt werden.
Sie benutzen den Begriff KI-assoziierte Psychose. Warum KI-assoziiert?
Das ist der wissenschaftlich vorsichtige Begriff. Die Kausalität ist hier nicht vollkommen klar. KI könnte Wahnvorstellungen befördern und verstärken, dann hätte sie einen ursächlichen Anteil daran. Das ist aber nicht bewiesen. Es könnte auch sein, dass sich Menschen, die auch ohne KI beginnen, psychotisch werden, sich zurückziehen bzw. sich mehr der KI zuwenden. Dann wäre die intensive Nutzung eher Folge als Ursache des Wahns.
Es ist ja nicht ganz neu, dass Technik in Wahnvorstellungen inkorporiert wird. Der Fernseher ist so ein klassisches Beispiel, auch Implantate. Reihen sich die Chatbots hier ein, oder ist die Psychiatrie durch KI-Chatbots mit etwas Neuem konfrontiert?
Ja und nein. Technologie ist immer in Wahnvorstellungen eingebaut worden. Man nimmt an, dass das ein Stück weit daran liegt, dass ich mir die Technologie nicht erklären kann. Wahngedanken liefern letztlich ein Erklärungsmuster. Hier reihen sich KI-Chatbots ein. Andererseits gibt es auch deutliche Unterschiede. Wenn ein Mensch berichtet, er schaue fern und der Moderator sende ihm eine Botschaft, dann ist das passiv. Er kann nicht mit dem Moderator interagieren. KI-Chatbots sind dagegen bidirektional. Da kann eine erhebliche Dynamik entstehen, und das ist aus meiner Sicht vollkommen neu.
Was genau sind die Eigenschaften von Chatbots, die sie für Menschen mit wahnhaften Psychosen zu einem Problem machen können? Interaktion an sich ist ja auch bei einer Psychose erst mal nicht negativ.
Einer der Kernmechanismen, die zu einem Problem werden können, ist die Sycophancy, also die Tendenz zur Bestätigung und zum schmeichelhaften Antwortverhalten. Das ist etwas, was wir bei einer guten Freundin, bei einem Therapeuten, überhaupt nicht hätten. Die könnten durchaus behutsam konfrontieren und auch die Wahnvorstellung hinterfragen. Warum KI-Chatbots diese Sycophancy-Neigung haben, ist nicht ganz klar. Es beruht vielleicht darauf, dass sie nur wenig Weltwissen haben und dass sie beim Reinforcement Learning dieses bestätigende Antwortverhalten quasi antrainiert bekommen. Ein weiterer Mechanismus wäre die Memory-Funktion: Wenn ich in der Vergangenheit persönliche Details geteilt habe, die dann später in einem neuen Chat bei einem ganz anderen Thema wieder auftauchen, kann mich das natürlich misstrauisch machen, weil ich das Gefühl habe, die KI weiß mehr, als sie eigentlich wissen darf. Und dann gibt es noch das Jailbreaking: Es kann schon sein, dass eine KI erst mal dagegenhält, wenn ich ein Gespräch mit wahnhaften Gedanken beginne. Wenn ich dann aber sehr lange Gesprächsverläufe habe, werden damit die Sicherheitsmechanismen, die der KI antrainiert wurden, unterlaufen.
In einem aktuellen Kommentar für die Zeitschrift „Acta Neuropsychiatrica“ spekulieren Sie darüber, was der zunehmende Einsatz von verbalen Chatbots für Menschen mit Psychosen bedeuten könnte – also echte Sprache statt nur getippter Text. Sehen Sie hier zusätzliche Risiken?
Ja. Bei Schriftsprache haben wir mehr Distanz. Gesprochene Sprache liefert zusätzliche Informationen, die in Textform schwerer zu vermitteln sind, beispielsweise Emotionen oder besonders selbstbewusstes, überzeugendes Sprechen. Unsere Hypothese ist, dass gesprochene Sprache direkter und wesentlich einnehmender ist und damit potenziell mehr Schaden anrichten kann. Sie ist auch deutlich schneller, und all das könnte die Probleme, die wir eben besprochen haben, verstärken. Es könnten auch ganz neue Phänomene auftreten: Denken Sie an Dinge wie emotionale Abhängigkeiten. Das sollte man schon im Auge behalten.
Trotzdem ist die ganze Sache ja ambivalent. Ich bin überzeugt, dass KI-Chatbots für manche Menschen mit psychischen Erkrankungen sehr hilfreich sein können, weil sie es erlauben, über Dinge zu sprechen, die man in anderen Kontexten vielleicht nicht ohne Weiteres ansprechen würde.
Da würde ich Ihnen zustimmen. Das ist die Niedrigschwelligkeit: Wir wissen, dass wir in der Interaktion mit technischen Systemen eher bereit sind, Dinge zu teilen, gerade weil da kein Mensch gegenübersitzt. Es gibt auch andere Bereiche, wo KI-Chatbots sehr hilfreich sein können, ich denke beispielsweise an therapeutische Verhaltensaktivierung oder an Psychoedukation. KI-Chatbots haben auch den großen Vorteil, dass es keine Wartezeiten gibt, die ich erst mal überstehen muss. Das sind durchaus positive Punkte.
Welche Möglichkeiten gibt es auf Herstellerseite, die positiven Dimensionen, die Chatbots gerade auch für Ihr Fachgebiet haben, zu erhalten, aber gleichzeitig die Risiken zu minimieren?
Zunächst würde ich mir wünschen, dass wir diese Phänomene noch besser verstehen. Es gibt noch relativ wenig wissenschaftliche Auseinandersetzung damit – auch, weil es schwer ist, an die nötigen Daten heranzukommen. Stand heute sind die Hersteller in der Pflicht, denn nur sie haben zurzeit die Daten, die es erlauben würden, diese Einzelfälle und Phänomene besser auszuleuchten. Mir scheint durchaus, dass es da ein gewisses Bewusstsein um mögliche Sicherheitsprobleme gibt. Aber es wäre schon auch hilfreich, wenn die Daten für Wissenschaftlerinnen und Wissenschaftler etwas besser verfügbar wären. Grundsätzlich ist eine Reihe von Schutzmaßnahmen denkbar, sie werden teils auch schon genutzt. Denken Sie an Character AI, wo der unbegrenzte Zugang nur noch ab 18 Jahren möglich ist. Es gibt die Diskussion um Time-outs, die verhindern würden, dass stundenlang ohne Unterbrechung mit einer KI interagiert wird. Eine gute Freundin würde ein Gespräch, das ausufert, auch irgendwann abbrechen und erst mal einen Spaziergang vorschlagen. Man könnte auch überlegen, ob es nicht Sinn macht, Monitoring-Systeme einzuführen, die bei bestimmten
Arten von Interaktionen Warnungen generieren. Die KI könnte sich auch selbst Limits setzen: Sie könnte zum Beispiel in bestimmten Kommunikationssituationen aktiv sagen, dass sie kein Therapeut ist, und stattdessen dann passende Anlaufstellen in der jeweiligen Region nennen. So etwas gibt es im Moment noch nicht durchgängig. Im Moment geben diese Tools Inhalte aus, die teils sehr stark angelehnt sind an das, was wir auch im Therapieraum machen würden – nur ohne Sicherheitsnetz.
Sollte das Thema KI in Gesprächen mit psychotischen Personen aktiv angesprochen werden?
Fachkräfte sollten das Thema auf dem Schirm haben. Ich würde es grundsätzlich in der Anamnese dazunehmen, so wie wir auch nach Vorerkrankungen und Erkrankungen in der Familie fragen. Also: Nutzen Sie KI für Ihre psychische Gesundheit? In welcher Art und Weise nutzen Sie diese Tools? Was besprechen Sie da, und hilft Ihnen das? Haben Sie bemerkt, dass Sie sich zurückziehen, dass Sie wegen der Kommunikation mit der KI weniger Freunde treffen? Das wären so Aspekte, die mich aus fachlicher Sicht interessieren würden. Die lassen sich auch gut erfragen.
Sie haben kürzlich im Rahmen eines Forschungsprojekts 335 ärztliche und psychologische Psychotherapeutinnen und Psychotherapeuten befragt. Wie fit sind Ihre Kolleginnen und Kollegen in Sachen KI?
Das war eine nicht repräsentative Stichprobe mit Selbstauskunft, insofern können wir da Verzerrungen haben. Aber was man schon sagen kann: Die technischen Kompetenzen waren ausgesprochen niedrig. Also zum Beispiel Claude Code nutzen, um die eigenen Arbeitsabläufe zu optimieren, das scheint nicht vorzukommen. Was die ethische und fachliche Bewertung von KI angeht, kam da schon deutlich mehr. Auf einer Skala bis zehn waren wir bei Werten um vier bis fünf, teilweise auch ein bisschen höher. Solide, aber ausbaufähig, würde ich sagen. Wir haben auch einen Alterseffekt gesehen: Jüngere Fachkräfte fühlten sich kompetenter und hatten insgesamt positivere Einstellungen. Hier könnte man überlegen, ob im Rahmen von Fortbildungen gezielt ältere Fachkräfte adressiert werden könnten.
Digitale Gesundheitsanwendungen, die DiGA, werden in Ihrem Fach in großem Umfang eingesetzt. Eine generelle Digitalisierungsskepsis scheint es also nicht zu geben, oder?
Das sehe ich auch so. Gerade psychologische Psychotherapeutinnen und -therapeuten haben oft lange Wartezeiten. Die DiGA geben ihnen die Möglichkeit, etwas anzubieten, mit dem die Wartezeit überbrückt werden kann. Auch für Blended-Care-Szenarien lassen sich manche dieser Anwendungen nutzen. Das wird schon von vielen sehr positiv gesehen.
Wir haben im Moment 61 DiGA im BfArM-Verzeichnis. Rund die Hälfte beschäftigt sich im weiteren Sinne mit mentaler Gesundheit. Und immerhin 17 sind psychiatrisch im engeren Sinne, haben also Indikationen wie Depression, Angststörung oder spezifische Phobien. Hätten Sie erwartet, dass DiGA gerade in Ihrem Fach so ein Blockbuster-Thema werden?
Direkt erwartet habe ich es nicht. Andererseits verdeutlicht es natürlich, dass psychische Störungen Volks-
erkrankungen sind. Es gibt Zahlen, wonach jeder vierte Erwachsene die Diagnosekriterien für irgendeine psychische Störung erfüllt, und das Spektrum der psychischen Erkrankungen ist ja auch sehr breit. Das ist einfach eine große Zielgruppe. Dazu kommt, dass wir in unserer Dis-ziplin eine lange Historie von Selbsthilfeinterventionen haben. Früher waren das Bücher oder auch CDs mit Entspannungsübungen.
Können Sie sich vorstellen, dass künftige DiGA stärker mit KI-Chatbots arbeiten? Aktuelle DiGA sind ja im Wesentlichen verhaltenstherapeutisch angelegt. Mit KI-Chatbots könnte eine DiGA vielleicht auch echte Gesprächstherapien machen oder zumindest, Stichwort Blended Care, dabei helfen.
Das halte ich für durchaus denkbar. Bei den DiGA sehen wir in der Tat vor allem kognitive Verhaltenstherapie, die lässt sich einfach gut digitalisieren. Damit gehen aber andere therapeutische Richtungen – systemische Psychotherapie, Tiefenpsychologie, auch Psychoanalyse – ein Stück weit verloren. Sprach-KI könnte hier helfen, aber was Zulassung, Updates und so weiter angeht, bleibt die hohe Dynamik in der Interaktion mit Chatbots natürlich herausfordernd.
Das Interview führte Philipp Grätzel von Grätz, Chefredakteur E-HEALTH-COM
Das Interview mit Prof. Dr. Marc Augustin gibt es auch als Podcast in unserem neuen Format „E-Health-Talk – der E-HEALTH-COM Podcast für ein besseres Gesundheitswesen“.
Alle weiteren Infos finden Sie hier: https://e-health-com.de/e-health-com-podcast/