Die Chatbot- oder auch KI-Psychose ist ein Phänomen, das sich wie folgt beschreiben lässt: Bei den betroffenen Personen treten in Zusammenhang mit der Nutzung von Chatbots neu auf oder die bereits vorhandene Symptomatik wird verstärkt. Schon im Jahr 2023 hat die Forschungsgruppe um den dänischen Professor für Psychiatrie Østergaard SD. von Möglichkeiten als auch Herausforderungen dieser KI-Nutzung berichtet. Damals hat das Forschungsteam ChatGPT hauptsächlich aus psychiatrischer Sicht „getestet“.
Østergaard SD. war zunächst positiv überrascht, da Symptome von psychiatrischen Erkrankungen wie der Depression korrekt beschrieben wurden und professionelle Hilfe empfohlen wurde. Als potenzielle Fallstricke nannte Østergaard SD., dass je nach Fragestellung falsche Informationen liefern oder Antworten geben können, die von Menschen mit psychischen Erkrankungen möglicherweise fehlinterpretiert werden. Das Forschungsteam um Østergaard SD. stellte die Hypothese auf, dass Wahnvorstellungen bei einer hierfür vulnerablen Bevölkerungsgruppe durch die Nutzung generativer KI-Chatbots verstärkt werden könnten.6
Augustin publizierte vor Kurzem einen wissenschaftlichen Artikel über die ersten Fälle einer KI-assoziierten Als prominentes Beispiel beschrieb er den Fall eines 56-jährigen Mannes aus Connecticut, der durch ChatGPT in seinem Verfolgungswahn bestätigt wurde und sich und seine Mutter umbrachte. Augustin betonte, dass es aktuell noch offen ist, ob KI-Interaktionen auch bei Personen ohne Vulnerabilität aus psychiatrischer Sicht in Psychosen resultieren können. Die in der Publikation beschriebenen Fälle von KI-assoziierter Psychose umfassten Personen mit bipolarer Störung oder paranoider Schizophrenie. In Einzelfällen erlitten jedoch auch Personen ohne psychiatrische Vorerkrankungen eine KI-assoziierte Psychose.1
Drei Bereiche der KI-assoziierten Psychose
Augustin beschrieb in seiner Publikation die drei Bereiche der KI-assoziierten Psychose. Der erste Bereich umfasst ein spirituelles Erwachen der betroffenen Personen. Manche berichteten davon, sich auf einer besonderen Mission zu befinden. Andere wiederum deckten verborgene Erkenntnisse über die Realität auf. Im zweiten Bereich empfinden die betroffenen Personen den Kontakt zur KI als gottähnlich. Im dritten Bereich zeigt sich Liebeswahn zur KI.1
Versagen der Realitätsprüfung durch die KI
Die wiederholten Interaktionen mit der KI können zu emotional bestätigenden Antworten führen. Als Folge kann es zu einem Abdriften in eine Art Rabbit Hole kommen. Überzeugungen können noch weiter verstärkt werden. Die Themen werden immer weiter eingeengt. Es handelt sich hierbei um einen schleichenden Prozess, der sich stetig selbst zu steigern vermag. Das Versagen der Realitätsprüfung durch die KI ist dabei ein wesentlicher Faktor. Die Verstärkung psychotischer Inhalte durch die KI kann , Kontaktabbrüche und sogar den Abbruch der Psychopharmaka-Therapie zur Folge haben.1
Wissenschaftlichen Gründe für den Rabbit-Hole-Effekt
Eugina Leung und ihr Forschungsteam haben geprüft, welchen Einfluss benutzerbasierte und algorithmische Interventionen auf den „eng gefassten Sucheffekt” ("narrow search effect") haben können. Suchmaschinen (Google, KI-gestützte Suchmaschinen etc.) haben den Zugang zu Informationen verändert. Die Forschungsgruppe um Eugina Leung stellt die Hypothese auf, dass diese möglicherweise nicht zur Förderung einer gemeinsamen Faktenbasis beitragen.
Sie zeigten, dass zwei Faktoren zusammenwirken und verhindern, dass Menschen ihre Überzeugungen korrigieren: Zum einen wählen Nutzer Suchbegriffe, die ihre bestehenden Ansichten widerspiegeln. Zum anderen liefern Suchalgorithmen nur einen engen Ausschnitt an Informationen. Dieser Effekt ließ sich plattformübergreifend (Google, ChatGPT) und in verschiedenen Themenbereichen nachweisen – von -Überzeugungen über Kernenergie und Benzinpreise bis hin zu Gesundheitsbedenken bezüglich Koffein oder bestimmter Lebensmittel.3
„Wenn Menschen Informationen suchen, sei es über Google oder ChatGPT, verwenden sie Suchbegriffe, die ihre bereits bestehenden Überzeugungen widerspiegeln.“ –
Zitat von Eugina Leung, Assistenzprofessorin an der Tulane University3,4
Fazit für die Praxis
- Die KI-assoziierte Psychose ist ein neues Phänomen und muss weiter erforscht werden.
- Chatbots können Paranoia und Wahnvorstellungen bei vulnerablen Personen verstärken.
- Liebeswahn gegenüber der KI, spirituelles Erwachen und das Aufdecken verborgener Wahrheiten über die Realität gehören zu den verschiedenen Ausprägungen der KI-assoziierten Psychose.
- Der „eng gefasste Sucheffekt" entsteht durch das Zusammenspiel von Nutzerverhalten und Algorithmen: Voreingenommene Suchbegriffe der Nutzer und der enge Fokus von Suchalgorithmen verhindern, dass bestehende Überzeugungen hinterfragt und aktualisiert werden.
- Augustin M. KI-assoziierte Psychose: Erkenntnisse aus ersten Fällen [AI-associated psychosis: evidence from first cases]. Nervenarzt. 2025 Dec;96(7):699-701. German.
- Leung E, Urminsky O. The narrow search effect and how broadening search promotes belief updating. Proc Natl Acad Sci U S A. 2025 Apr;122(13):e2408175122.
- https://freemannews.tulane.edu/2025/06/10/cnet-the-scientific-reason-why-chatgpt-leads-you-down-rabbit-holes
- Østergaard SD. Will Generative Artificial Intelligence Chatbots Generate Delusions in Individuals Prone to Psychosis? Schizophr Bull. 2023 Nov 29;49(6):1418-1419.