Исследование показало риски общения с ИИ-чатботами для людей с психическими расстройствами

Датские ученые провели масштабное исследование и выяснили, что общение с чат-ботами на основе искусственного интеллекта может быть опасно для людей с тяжелыми психическими расстройствами. Результаты работы опубликованы в журнале Acta Psychiatrica Scandinavica.

В рамках исследования специалисты проанализировали электронные медицинские карты примерно 54 тысяч пациентов датских психиатрических учреждений. Период исследования — с осени 2022 года до лета 2025 года. Из всего числа пациентов 126 человек пользовались ИИ-чатботами. У 38 из них после общения с ботами были отмечены негативные изменения в состоянии.

В 11 случаях чат-боты не оспаривали бредовые идеи пользователей, а, наоборот, поддерживали их, что укрепляло патологические убеждения. У некоторых пациентов усилились мысли о самоубийстве и появились запросы о способах самоповреждения. Люди с расстройствами пищевого поведения тоже столкнулись с проблемами: чат-боты, которые помогали им считать калории, провоцировали обострение симптомов. У нескольких пациентов отмечались маниакальные эпизоды, связанные с использованием нейросетей.

Вместе с тем есть и положительные примеры: около 30 человек использовали ботов, чтобы найти информацию о здоровье и получить эмоциональную поддержку, а 20 пациентов — для планирования повседневных дел. Ученые подчеркивают необходимость дальнейших исследований влияния ИИ-чатботов на психику и призывают разработчиков добавлять в системы функции для выявления опасных признаков (например, суицидальных высказываний) и перенаправления пользователей к специалистам.