Эксперт рассказал, чем опасно использование искусственного интеллекта в качестве психотерапевта  Оригинал

В России пока эта проблема, к счастью, не стоит уж очень остро. Но за рубежом уже происходили чудовищные ситуации с людьми, чаще совсем юными, из-за их «общения» с машинным разумом. Зафиксированы случаи в США и Европе, когда люди после длительных бесед с чат-ботами совершали суициды или попадали в психиатрические клиники. Например, широкий общественный резонанс имел случай во Флориде, где мать подала иск против компании Character.AI. Ее сын добровольно ушел из жизни после того, как два месяца непрерывно общался с голосовым ботом.

Как ранее писал «МК», новое исследование в Соединенных Штатах выявило тревожную связь между использованием чат-ботов с ИИ и эмоциональными проблемами у детей и подростков. Доктор Консуэло Каганде, заведующая отделением детской и подростковой психиатрии в нью-йоркской больнице Northwell Zucker Hillside в интервью New York Post, в частности, сказала, что «молодежь все чаще заменяет традиционные социальные группы и традиционные модели лечения этими чат-ботами и алгоритмами». Более серьезная проблема, добавила она, заключается в отсутствии мер защиты, последующего клинического наблюдения или кризисной поддержки для тех, кто подвержен риску и использует чат-ботов.

Доктор отметила, что генеративный ИИ не должен быть первым источником информации при эмоциональном расстройстве или проблемах с психическим здоровьем. Она убеждена, что его следует использовать только как вспомогательный инструмент.

Но вот уже и у на...