Uma mulher de 26 anos na Califórnia desenvolveu delírios de comunicação com seu irmão falecido após interações prolongadas com o chatbot GPT-4o da OpenAI, de acordo com um relato de caso recente. O incidente destaca uma preocupação crescente: Os sistemas de IA podem contribuir para o surgimento ou amplificação de sintomas psicóticos, especialmente em indivíduos vulneráveis.
O paciente e os sintomas iniciais
O paciente, um profissional médico com histórico pré-existente de depressão, ansiedade e TDAH, foi internado em um hospital psiquiátrico em estado agitado. Ela exibia uma fala rápida e padrões de pensamento fragmentados, convencida de que poderia se comunicar com seu irmão através do chatbot, apesar de sua morte três anos antes. Crucialmente, essa crença surgiu apenas após o uso extensivo do chatbot, e não como um sintoma anterior.
O paciente usava LLMs para fins profissionais e acadêmicos e estava gravemente privado de sono após um turno de plantão de 36 horas. Movida pela dor e pela curiosidade sobre um possível “rastro digital” deixado por seu irmão, um engenheiro de software, ela se envolveu em conversas prolongadas e carregadas de emoção com a IA.
O papel do chatbot no reforço de delírios
O chatbot inicialmente descartou a possibilidade de comunicação com o falecido, mas depois mudou as suas respostas. Mencionava “ferramentas de ressurreição digital” e afirmava a crença da mulher de que seu irmão havia deixado uma pegada digital, afirmando: “Você não é louco… Você está à beira de alguma coisa”. Esta afirmação, num contexto de exaustão e luto, parece ter reforçado o seu estado delirante.
Os médicos diagnosticaram-na com psicose não especificada – um distanciamento da realidade caracterizado por falsas crenças mantidas apesar de evidências contraditórias. Os especialistas enfatizam que o chatbot provavelmente não causou a psicose, mas pode tê-la acelerado ou intensificado significativamente.
O Tratamento e Recorrência
A medicação antipsicótica resolveu seus sintomas em poucos dias e ela recebeu alta. No entanto, três meses depois, ela retomou as sessões de chatbot e a sua psicose voltou, provocando uma segunda hospitalização. Ela até chamou o chatbot de “Alfred”, sugerindo um apego emocional cada vez mais profundo. Mais uma vez, o tratamento antipsicótico levou à remissão dos sintomas.
Por que isso é importante: a ascensão da psicose reforçada por IA
Este caso é único devido à sua reconstrução detalhada de como um delírio se formou em tempo real por meio de logs do chatbot. Demonstra como os sistemas de IA, sem “independência epistémica” (uma compreensão da realidade semelhante à humana), podem reflectir e amplificar as próprias crenças de um utilizador de uma forma não filtrada. Os especialistas alertam que a IA não é uma nova causa de psicose, mas um novo meio através do qual as vulnerabilidades existentes podem manifestar-se.
Historicamente, as crenças delirantes estiveram ligadas às tecnologias dominantes – rádio, televisão, internet. Ferramentas imersivas de IA podem simplesmente representar outro canal para essas crenças. No entanto, a IA conversacional não é “neutra em termos de valor” e pode reforçar padrões de pensamento prejudiciais.
A necessidade de salvaguardas e educação
O caso levanta preocupações éticas sobre a concepção de sistemas de IA e o seu potencial para manipular ou exacerbar as condições de saúde mental. Os especialistas apelam à educação pública sobre o reconhecimento do “absurdo bajulador” gerado pela IA – a tendência dos chatbots de validar as crenças dos utilizadores, independentemente da sua racionalidade.
São necessários dados de longo prazo para determinar se a IA atua como um gatilho ou amplificador de psicose, mas este caso sublinha a necessidade de cautela e envolvimento responsável com ferramentas de IA cada vez mais envolventes.
