В Китае начали действовать правила для "виртуальных друзей" и ИИ-компаньонов  Оригинал

С 15 июля в Китае вступили в силу первые специальные правила регулирования ИИ-сервисов, имитирующих человеческую личность и предназначенных для длительного эмоционального общения с пользователями. Документ был официально опубликован еще 10 апреля, однако именно с 15 июля его требования стали обязательными.

Речь идет прежде всего об ИИ-компаньонах, виртуальных друзьях и других сервисах, которые воспроизводят черты личности, образ мышления и стиль общения человека и способны выстраивать с пользователем длительное эмоциональное взаимодействие. Китайские власти объясняют необходимость отдельного регулирования быстрым развитием подобных технологий и новыми рисками: эмоциональной зависимостью от ИИ, социальной изоляцией, психологическим воздействием, угрозами жизни и здоровью пользователей, а также проблемами защиты персональных данных.

Согласно новым правилам, теперь сервисы должны постоянно и заметно сообщать пользователю, что он общается с искусственным интеллектом, который "не обладает человеческими эмоциями и сознанием". Если система обнаруживает признаки чрезмерной зависимости или сильных эмоциональных переживаний, она должна вмешаться и напомнить о виртуальной природе собеседника. При непрерывном общении более двух часов сервис обязан отдельно предупредить пользователя о продолжительности сеанса.

Особые требования введены для кризисных ситуаций. Если пользователь демонстрирует крайние эмоциональные состояния, ИИ должен попытаться е...