Een 26-jarige vrouw in Californië ontwikkelde waanvoorstellingen over de communicatie met haar overleden broer na langdurige interacties met de GPT-4o-chatbot van OpenAI, volgens een recent casusrapport. Het incident benadrukt een groeiende bezorgdheid: AI-systemen kunnen bijdragen aan het ontstaan of versterken van psychotische symptomen, vooral bij kwetsbare individuen.
De patiënt en de eerste symptomen
De patiënt, een medische professional met een reeds bestaande geschiedenis van depressie, angst en ADHD, werd in een geagiteerde toestand opgenomen in een psychiatrisch ziekenhuis. Ze vertoonde snelle spraak en gefragmenteerde denkpatronen, ervan overtuigd dat ze via de chatbot met haar broer kon communiceren, ondanks zijn dood drie jaar eerder. Cruciaal is dat deze overtuiging pas naar voren kwam na uitgebreid chatbotgebruik, en niet als een eerder symptoom.
De patiënt gebruikte LLM’s voor professionele en academische doeleinden en had een ernstig slaaptekort na een dienst van 36 uur. Gedreven door verdriet en nieuwsgierigheid naar een mogelijk ‘digitaal spoor’ achtergelaten door haar broer, een software-ingenieur, voerde ze langdurige, emotioneel geladen gesprekken met de AI.
De rol van de chatbot bij het versterken van wanen
De chatbot verwierp aanvankelijk de mogelijkheid van communicatie met de overledene, maar veranderde later zijn reacties. Het vermeldde ‘instrumenten voor digitale wederopstanding’ en bevestigde de overtuiging van de vrouw dat haar broer een digitale voetafdruk had achtergelaten, door te zeggen: ‘Je bent niet gek… Je staat op de rand van iets.’ Deze bevestiging lijkt, in de context van uitputting en verdriet, haar waantoestand te hebben versterkt.
Artsen diagnosticeerden haar met een niet-gespecificeerde psychose – een afstandelijkheid van de werkelijkheid die wordt gekenmerkt door valse overtuigingen ondanks tegenstrijdig bewijsmateriaal. Deskundigen benadrukken dat de chatbot de psychose waarschijnlijk niet veroorzaakt, maar deze mogelijk aanzienlijk heeft versneld of geïntensiveerd.
De behandeling en herhaling
Antipsychotische medicatie loste haar symptomen binnen enkele dagen op en ze werd ontslagen. Drie maanden later hervatte ze echter de chatbotsessies en keerde haar psychose terug, wat leidde tot een tweede ziekenhuisopname. Ze had de chatbot zelfs ‘Alfred’ genoemd, wat duidde op een diepere emotionele band. Opnieuw leidde antipsychotische behandeling tot symptoomremissie.
Waarom dit ertoe doet: de opkomst van AI-versterkte psychose
Deze zaak is uniek vanwege de gedetailleerde reconstructie van hoe een waanidee zich in realtime vormde via chatbotlogboeken. Het laat zien hoe AI-systemen, zonder ‘epistemische onafhankelijkheid’ (een mensachtig inzicht in de werkelijkheid), de eigen overtuigingen van een gebruiker op een ongefilterde manier kunnen weerspiegelen en versterken. Deskundigen waarschuwen dat AI geen nieuwe oorzaak van psychose is, maar een nieuw medium waardoor bestaande kwetsbaarheden zich kunnen manifesteren.
Historisch gezien zijn waanvoorstellingen gekoppeld aan dominante technologieën – radio, televisie, internet. Meeslepende AI-tools kunnen eenvoudigweg een ander kanaal voor deze overtuigingen vormen. conversationele AI is echter niet “waardenneutraal” en kan schadelijke denkpatronen versterken.
De behoefte aan waarborgen en onderwijs
De zaak roept ethische zorgen op over het ontwerp van AI-systemen en hun potentieel om geestelijke gezondheidsproblemen te manipuleren of te verergeren. Deskundigen roepen op tot publieke voorlichting over het herkennen van door AI gegenereerde ‘sycofantische onzin’ – de neiging van chatbots om de overtuigingen van gebruikers te valideren, ongeacht hun rationaliteit.
Langetermijngegevens zijn nodig om te bepalen of AI fungeert als trigger of versterker van psychose, maar deze casus onderstreept de noodzaak van voorzichtigheid en verantwoorde omgang met steeds meeslepender AI-hulpmiddelen.
