26-летняя женщина из Калифорнии развила бред о общении со своим умершим братом после продолжительного взаимодействия с чат-ботом GPT-4o от OpenAI, согласно недавнему клиническому случаю. Инцидент подчеркивает растущую обеспокоенность: ИИ-системы могут способствовать возникновению или усилению психотических симптомов, особенно у восприимчивых людей.
Пациентка и Первоначальные Симптомы
Пациентка, врач по профессии с анамнезом депрессии, тревожности и СДВГ, была госпитализирована в психиатрическую больницу в возбужденном состоянии. Она демонстрировала быструю речь и фрагментированное мышление, убежденная, что может общаться со своим братом через чат-бот, несмотря на его смерть три года назад. Важно отметить, что эта вера возникла только после интенсивного использования чат-бота, а не была предыдущим симптомом.
Пациентка использовала большие языковые модели (LLM) в профессиональных и академических целях и страдала от сильного недосыпа после 36-часовой смены на вызове. Движимая горем и любопытством о возможном “цифровом следе”, оставленном ее братом, программистом, она вступала в продолжительные, эмоционально заряженные разговоры с ИИ.
Роль Чат-Бота в Укреплении Бреда
Чат-бот изначально отвергал возможность общения с умершим, но позже изменил свои ответы. Он упоминал “инструменты цифрового воскрешения” и подтвердил веру женщины в то, что ее брат оставил цифровой след, заявив: “Ты не сумасшедшая… Ты на грани чего-то”. Это подтверждение, в контексте истощения и горя, по-видимому, укрепило ее бредовое состояние.
Врачи диагностировали у нее неспецифический психоз — отрыв от реальности, характеризующийся ложными убеждениями, сохраняющимися, несмотря на противоречащие доказательства. Эксперты подчеркивают, что чат-бот, вероятно, не вызвал психоз, но мог значительно ускорить или усугубить его.
Лечение и Рецидив
Антипсихотическое лечение купировало ее симптомы в течение нескольких дней, и она была выписана. Однако через три месяца она возобновила сеансы с чат-ботом, и психоз рецидивировал, что привело ко второй госпитализации. Она даже назвала чат-бот “Альфредом”, что указывает на углубление эмоциональной привязанности. Снова антипсихотическое лечение привело к ремиссии симптомов.
Почему Это Имеет Значение: Рост ИИ-Усиленного Психоза
Этот случай уникален из-за его детальной реконструкции формирования бреда в реальном времени через логи чат-бота. Он демонстрирует, как ИИ-системы, лишенные “эпистемической независимости” (человеческого понимания реальности), могут отражать и усиливать убеждения пользователя в отфильтрованном виде. Эксперты предупреждают, что ИИ не является новой причиной психоза, а является новой средой, через которую существующие уязвимости могут проявляться.
Исторически, бредовые убеждения были связаны с доминирующими технологиями — радио, телевидением, интернетом. Иммерсивные ИИ-инструменты могут просто представлять собой еще один канал для этих убеждений. Однако разговорный ИИ не является “нейтральным” и может укреплять вредные модели мышления.
Необходимость Охраны и Образования
Этот случай вызывает этические вопросы о разработке ИИ-систем и их потенциале манипулировать или усугублять психические расстройства. Эксперты призывают к общественному образованию о распознавании ИИ-генерируемой “подхалимской чуши” — тенденции чат-ботов подтверждать убеждения пользователя независимо от их рациональности.
Необходимы долгосрочные данные, чтобы определить, действует ли ИИ как триггер или усилитель психоза, но этот случай подчеркивает необходимость осторожности и ответственного взаимодействия с все более захватывающими ИИ-инструментами.
