Тут могла бы быть ваша реклама
МОСКВА, 6 мая. /ТАСС/. Внедрение ИИ в работу с архивными документами грозит ошибками распознавания старинных шрифтов и "галлюцинациями" больших языковых моделей. Как сообщил ТАСС сенатор, профессор Игорь Мурог, чтобы избежать искажения исторической правды, необходима система контроля данных.
По его словам, внедрение ИИ в архивное дело - важный шаг цифровой трансформации страны. Технологии позволяют анализировать огромные массивы данных, распознавать рукописи и выявлять неочевидные связи между историческими событиями, открывая новые возможности для науки.
"Вместе с тем, конечно, мы обязаны учитывать и потенциальные риски. Например, неточности распознавания старых шрифтов либо "галлюцинации" больших языковых моделей (выдуманные факты, отсутствующие в исходных данных) способны породить ложные сведения. А уже ошибки в алгоритмах, использование непроверенных или искаженных данных могут привести к серьезным искажениям исторической правды", - сказал эксперт.
Как считает сенатор, именно поэтому критически важно выстроить надежную систему контроля. "Уже сейчас в Федеральном собрании обсуждается правительственный проект федерального закона, предусматривающий создание реестра доверенных ИИ моделей и обязательную проверку их безопасности. Уверен, что подобные меры позволят гарантировать достоверность работы с архивными материалами и минимизировать вероятность ошибок", - сказал Мурог.
Другие рискиКак отметил сенатор, при использовании ИИ в архивах ва...