Московский Комсомолец,
03:00, 18.10.2026
Тут могла бы быть ваша реклама
Студентка Astana IT University Айганым Тулебаева разработала ExoAI — систему, которая не даёт конфиденциальным сведениям компаний утекать во внешние ИИ-сервисы. Проект она показала на выставке AI-Sana, сообщает пресс-служба Министерства науки и высшего образования РК.
Нейросети сегодня используют и небольшие фирмы, и крупный бизнес, в том числе банки и другие финансовые организации: с их помощью сотрудники избавляются от рутины и работают продуктивнее. Однако у такой практики есть обратная сторона — общаясь с публичными языковыми моделями, работники могут по неосторожности передать им персональные данные клиентов, банковские реквизиты и прочую закрытую информацию.
ExoAI решает эту проблему как посредник между внутренними системами компании и внешними большими языковыми моделями (LLM). Это прокси-сервер, построенный по принципу Zero Trust («нулевого доверия»). Он проверяет отправляемые данные, находит среди них чувствительные сведения и подменяет их защищёнными токенами или зашифрованными значениями. В итоге публичная нейросеть не получает исходную информацию в открытом виде.
Также в систему встроены оповещения: они сигнализируют о подозрительной активности и попытках обойти защиту, включая jailbreak-атаки. Так компания может вовремя заметить угрозу и ужесточить контроль за работой с ИИ.
Отдельный акцент разработчица делает на казахстанской специфике: защита настраивается под...