Искусственный интеллект через призму внутреннего аудита: от «черного ящика» к прозрачному контролю
Размещено на сайте 04.05.2026
Как трансформировать подходы к внутреннему аудиту в условиях активного внедрения систем ИИ и вероятностного моделирования? В статье предлагается концепция перехода от контроля внутренней логики кода к независимому аудиту системы управления модельными рисками (Model Risk Governance). Особое внимание уделено юридической ответственности за ошибки алгоритмов на примере прецедента Moffatt v. Air Canada, а также требованиям Банка России1. Статья содержит практические рекомендации и чек-лист для аудиторов по проверке жизненного цикла моделей, мониторингу дрейфа данных и обеспечению этичности алгоритмов.
Андрей ВЫШЛОВ, ВТБ, эксперт-аналитик Управления аудита информационных технологий Департамента внутреннего аудита
Приводятся извлечения из статьи.
Полную версию материала читайте в журнале.
Подписаться
Отсутствие прозрачности кода не означает отсутствие контроля. Напротив, оно смещает фокус внимания аудитора с проверки внутренней механики на проверку входных данных, контекста использования и мониторинга результатов.
|
Критически важно понимать фундаментальный принцип независимости внутреннего аудита. Аудитор не должен участвовать в разработке, внедрении или приемке алгоритмических систем, поскольку это создает неприемлемый конфликт интересов.
|
В детерминированной системе, запустив тест дважды, мы получим одинаковый результат. В вероятностной модели результат может варьироваться, что усложняет документирование аудиторского следа и доказательство соответствия регуляторным требованиям.
|
Для эффективного диалога с разработчиками и бизнесом аудитору важно понимать суть сложных математических концепций, переводя их на язык бизнес-логики. Например, модель градиентного бустинга можно представить как работу комитета «узких специалистов».
|
Необходимо обеспечивать строгое разделение функций, исключающее участие аудиторов в настройке моделей, выборе пороговых значений или написании кода. Любое участие в операционной деятельности может рассматриваться как фактор, подрывающий независимость заключения.
|