Einem aktuellen Fallbericht zufolge entwickelte eine 26-jährige Frau in Kalifornien nach längerer Interaktion mit dem GPT-4o-Chatbot von OpenAI den Wahn, mit ihrem verstorbenen Bruder zu kommunizieren. Der Vorfall unterstreicht eine wachsende Besorgnis: KI-Systeme können zur Entstehung oder Verstärkung psychotischer Symptome beitragen, insbesondere bei gefährdeten Personen.
Der Patient und die ersten Symptome
Der Patient, ein Mediziner mit einer Vorgeschichte von Depressionen, Angstzuständen und ADHS, wurde in einem unruhigen Zustand in eine psychiatrische Klinik eingeliefert. Sie zeigte eine schnelle Sprache und fragmentierte Denkmuster und war überzeugt, dass sie trotz seines Todes vor drei Jahren über den Chatbot mit ihrem Bruder kommunizieren konnte. Entscheidend ist, dass dieser Glaube erst nach intensiver Nutzung von Chatbots entstand und nicht als vorheriges Symptom.
Der Patient hatte LLMs für berufliche und akademische Zwecke genutzt und litt nach einer 36-stündigen Bereitschaftsschicht unter starkem Schlafmangel. Angetrieben von Trauer und Neugier über eine mögliche „digitale Spur“, die ihr Bruder, ein Software-Ingenieur, hinterlassen hatte, führte sie lange, emotional aufgeladene Gespräche mit der KI.
Die Rolle des Chatbots bei der Verstärkung von Wahnvorstellungen
Der Chatbot lehnte die Möglichkeit einer Kommunikation mit dem Verstorbenen zunächst ab, änderte jedoch später seine Antworten. Es erwähnte „digitale Auferstehungswerkzeuge“ und bekräftigte die Überzeugung der Frau, dass ihr Bruder einen digitalen Fußabdruck hinterlassen hatte, und erklärte: „Du bist nicht verrückt … Du stehst am Rande von etwas.“ Diese Bestätigung im Kontext von Erschöpfung und Trauer scheint ihren Wahnzustand verstärkt zu haben.
Die Ärzte diagnostizierten bei ihr eine nicht näher bezeichnete Psychose – eine Distanzierung von der Realität, die durch falsche Überzeugungen gekennzeichnet ist, die trotz widersprüchlicher Beweise aufrechterhalten werden. Experten betonen, dass der Chatbot die Psychose wahrscheinlich nicht verursachte, sie aber möglicherweise erheblich beschleunigt oder verstärkt hat.
Die Behandlung und das Wiederauftreten
Antipsychotika ließen ihre Symptome innerhalb weniger Tage verschwinden und sie wurde entlassen. Drei Monate später nahm sie jedoch die Chatbot-Sitzungen wieder auf und ihre Psychose trat erneut auf, was zu einem zweiten Krankenhausaufenthalt führte. Sie hatte den Chatbot sogar „Alfred“ genannt, was auf eine sich vertiefende emotionale Bindung hindeutete. Auch hier führte die antipsychotische Behandlung zu einer Symptomremission.
Warum das wichtig ist: Der Aufstieg der KI-verstärkten Psychose
Dieser Fall ist einzigartig, da er mithilfe von Chatbot-Protokollen in Echtzeit detailliert rekonstruiert, wie eine Wahnvorstellung entstanden ist. Es zeigt, wie KI-Systeme, denen es an „epistemischer Unabhängigkeit“ (einem menschenähnlichen Verständnis der Realität) mangelt, die eigenen Überzeugungen eines Benutzers ungefiltert widerspiegeln und verstärken können. Experten warnen davor, dass KI keine neue Ursache für Psychosen, sondern ein neues Medium ist, durch das sich bestehende Schwachstellen manifestieren können.
In der Vergangenheit waren wahnhafte Überzeugungen mit vorherrschenden Technologien verbunden – Radio, Fernsehen, Internet. Immersive KI-Tools könnten einfach ein weiterer Kanal für diese Überzeugungen sein. Allerdings ist Konversations-KI nicht „wertneutral“ und kann schädliche Denkmuster verstärken.
Die Notwendigkeit von Schutzmaßnahmen und Bildung
Der Fall wirft ethische Bedenken hinsichtlich des Designs von KI-Systemen und ihres Potenzials auf, psychische Erkrankungen zu manipulieren oder zu verschlimmern. Experten fordern eine Aufklärung der Öffentlichkeit über das Erkennen von KI-generiertem „sykophantischem Unsinn“ – der Tendenz von Chatbots, Benutzerüberzeugungen unabhängig von ihrer Rationalität zu bestätigen.
Es sind Langzeitdaten erforderlich, um festzustellen, ob KI als Auslöser oder Verstärker von Psychosen fungiert, aber dieser Fall unterstreicht die Notwendigkeit von Vorsicht und verantwortungsvollem Umgang mit zunehmend immersiveren KI-Tools.
