Более 150 ведущих математиков мира призвали не верить в "научные прорывы" ИИ  Оригинал

Более 150 ведущих математиков из разных стран опубликовали "Лейденскую декларацию", в которой призвали научное сообщество и власти не принимать громкие заявления разработчиков искусственного интеллекта за реальные математические прорывы.

Поводом для такого, по сути, манифеста стала волна сообщений, что большие языковые модели якобы решают сложные задачи, над которыми ученые работали десятилетиями. Например, недавно мировой сенсацией стало сообщение 23-летнего энтузиаста математики без профильного образования, который заявил, что с помощью ChatGPT нашел решение одной из известных задач Пала Эрдеша. Позже OpenAI сообщила, что их система опровергла старую гипотезу о единичных расстояниях, и назвала результат важным событием для математики и индустрии ИИ.

Авторы Лейденской декларации считают, что подобные заявления требуют куда более осторожной оценки. Дело в том, что современные системы ИИ способны создавать правдоподобные рассуждения, но при внимательной проверке оказываются ошибочными. Проблема усугубляется тем, что неправильное доказательство бывает трудно отличить от корректного, особенно до полноценной проверки экспертами.

Для математики опасность особенно серьезна. Новые работы часто опираются на предыдущие результаты, поэтому ошибка в основе может испортить целую цепочку дальнейших исследований. Если научные статьи начнут строиться на неподтвержденных выводах ИИ, привычная система проверки доказательств столкнется с перегрузкой, а...