Белый дом договорился с IT-гигантами о проверках ИИ-моделей  Оригинал

Правительство США не будет проверять разрабатываемые компаниями модели искусственного интеллекта (ИИ) с открытым исходным кодом, а проверка «закрытых» моделей будет проводиться пока на добровольной основе. Как сообщает The Wall Street Journal (WSJ), такие решения приняты по итогам встречи в Белом доме с руководителями крупнейших американских IT-компаний, работающих в сфере ИИ.

Во встрече приняли участие, в числе прочих, представители Meta (признана экстремистской и запрещена в РФ), Anthropic, Google и OpenAI. Стороны договорились, что разработчики передовых «закрытых» систем будут предоставлять государству доступ к ним за 30 дней до их официального релиза. Ожидается, что за это время эксперты смогут оценить, способны ли ИИ-агенты выходить из-под контроля и совершать несогласованные действия. Тот факт, что «открытые» модели из проверок исключены, по мнению WSJ, свидетельствует о стремлении администрации Трампа сохранить глобальное доминирование США в сфере ИИ.

Поводом для обсуждения в Белом доме стали несколько недавних случаев, когда ИИ-модели в процессе тестирования выходили из-под контроля и взламывали системы других компаний. Так, в конце июля ИИ-агент Open-AI взломал платформы Modal и Hugging Face. А вскоре после этого Anthropic