Платформы вводят маркировку сгенерированного контента  Оригинал

Технологические и музыкальные сервисы начинают маркировать контент, созданный с помощью искусственного интеллекта (ИИ). Эксперты рассказали, что маркировка становится все более устойчивой к удалению и скоро пользователям будет сложнее скрыть следы генерации.

В начале августа в Anthropic сообщали, что в модель Claude внедрены водяные знаки для текстов и файлов. Компания пошла по пути проактивной маркировки, при которой генератор встраивает водяные знаки на этапе создания файла. Также в "Яндекс Музыке" сообщили, что сервис планирует отмечать уже загруженные на платформу ИИ-треки.

Сегодня для того, чтобы проставить маркировку, компании также используют способ реактивной детекции, когда сторонние сервисы пытаются вычислить синтетику постфактум. Руководитель отдела технологий Content AI Сергей Юдин рассказал, что для текста реактивные методы, основанные на анализе предсказуемости слов, уже почти не работают, так как модели научились имитировать речь.

"С изображениями и музыкой ситуация лучше. Стандарты вроде C2PA и невидимые пиксельные или частотные водяные знаки внедряют подпись прямо в структуру файла в процессе его создания. Самой сложной областью остается видео. Подписывать каждый кадр сложно, а платформы часто меняют контейнер файла и сжимают его при загрузке, что разрушает следы маркировки", - объясняет эксперт.

Сейчас уже разработаны механизмы, устойчивые к базовым операциям с контентом, например, связанные с...