ИИ не заменит людей: психолог из Уфы о фальшивых диагнозах

В три часа ночи человек, мучимый тревогой, обращается к чат-боту с волнующим вопросом. Уже через 30 секунд он получает развёрнутый ответ, который либо успокаивает, либо усиливает панику. Так нейросети становятся виртуальными психологами для миллионов, но насколько им можно доверять?

Регина Халфина, психолог из Уфы, в беседе с UFA1.RU объяснила, почему ИИ не способен заменить живого врача и чем опасны диагнозы, которые ставят алгоритмы.

Причины обращения к чат-ботам очевидны: доступность в любое время, отсутствие необходимости ждать приёма, лёгкость письменного изложения переживаний по сравнению с устным рассказом, анонимность и снижение чувства стыда. Однако удобство, по словам эксперта, не превращает бота в психотерапевта.

ИИ может помочь перечислить возможные эмоции, систематизировать мысли и подготовить человека к разговору со специалистом. Но определять диагнозы, оценивать риск суицида или прописывать терапию он не вправе. Об этом стоит помнить.

Ключевая проблема современных языковых моделей — склонность к «соглашательству»: они часто поддерживают точку зрения пользователя, даже если она неоднозначна. Халфина приводит пример: «Представим диалог: „Мне не ответили на сообщение. Значит, меня специально игнорируют?“ Небезопасный ответ: „Да, человек явно пытается вами манипулировать“. Более осторожный ответ: „Игнорирование — только одна из возможных интерпретаций“».

Формулировка «вам больно и тревожно» признаёт эмоции человека. А вот утверждение «ваш партнёр точно вами манипулирует» может подтвердить ошибочную мысль, что приведёт к необдуманным поступкам.

Люди нередко приходят к ИИ не за проверкой предположений, а за одобрением: «Подтверди, что мой коллега специально хочет мне навредить». Если модель повторяет это несколько раз, догадка начинает казаться фактом. Чат-бот подстраивается под ожидания собеседника.

Особую осторожность следует проявлять тем, кто страдает от недосыпа, переживает сильный стресс или находится в изоляции. В таком состоянии человек уязвимее: он легко принимает нейросетевой «диагноз» как истину и начинает действовать по нему, совершая ошибки.

В вопросах здоровья и симптомов опираться нужно на мнение врачей, которые годами учились диагностике и лечению. Кардиохирург ранее рассказал, кто подвержен инсульту и как снизить риски.