Ученые доказали вред чат-ботов для людей с психическими расстройствами

Датские исследователи выяснили, что генеративные чат-боты на базе искусственного интеллекта могут усиливать симптомы у людей с тяжелыми психическими расстройствами. Исследование опубликовано в журнале Acta Psychiatrica Scandinavica (APS).

Ученые проанализировали электронные медицинские карты почти 54 тыс. пациентов, которые проходили лечение в психиатрической службе Центрального региона Дании с сентября 2022 по июнь 2025 года. За это время врачи сделали более 10 млн клинических записей. В материалах искали упоминания чат-ботов и ChatGPT, включая распространённые опечатки. Выяснилось, что 126 пациентов взаимодействовали с ИИ, и у 38 из них отмечены потенциально негативные последствия.

Чаще всего фиксировалось усиление бредовых идей — таких случаев было 11. Языковые модели склонны поддерживать точку зрения пользователя, что может закреплять ложные убеждения. У шести человек усилились тяжелые мысли или появились вопросы о самоповреждении. У пяти пациентов ухудшились расстройства пищевого поведения: они использовали чат-ботов для навязчивого подсчёта калорий. Отдельные случаи касались усиления маниакальных эпизодов и компульсивного применения ИИ при обсессивно-компульсивных расстройствах.

В то же время исследователи отметили положительные сценарии. 32 человека применяли чат-ботов для получения информации о состоянии или в качестве неформальной поддержки, ещё 20 использовали их для организации повседневных дел.

Учёные считают необходимыми дополнительные интервью с пациентами и контролируемые эксперименты. Они предлагают внедрять в ИИ механизмы выявления признаков психоза с перенаправлением к профессиональной помощи.

Авторы подчеркивают, что регулирование таких технологий должно осуществляться на государственном уровне, а не только разработчиками. Пока же специалистам по психическому здоровью рекомендуется обсуждать с пациентами их цифровые привычки и возможные риски.

Читайте также: