Исследования компании Gravitee свидетельствуют о том, что более половины из 3 млн ИИ-агентов, используемых в настоящее время только в США и Великобритании, не подвергаются должному мониторингу, что порождает серьезные риски утечки данных и выполнения несанкционированных операций. Результаты опроса 750 ИТ-руководителей, проведенного в декабре 2025 года, показали, что агенты искусственного интеллекта внедряются быстрее, чем формируются механизмы их регулирования. Общее количество агентов искусственного интеллекта уже превышает численность сотрудников сети магазинов Walmart по всему миру.

Озвученная оценка в 3 млн основана на экстраполяции результатов опроса. Из этой совокупности 53%, по мнению участников, не обеспечены надлежащим мониторингом и мерами безопасности. В среднем на каждое предприятие сейчас приходится 36,9 ИИ-агентов. На вопрос, сталкивалась ли их организация с инцидентами, связанными с безопасностью или конфиденциальностью данных, которые используются агентами ИИ, 88% респондентов ответили утвердительно.

Все вы, наверное, слышали истории о том, как ИИ-агенты удаляли целые кодовые базы, раскрывали конфиденциальную информацию или генерировали фейковые данные. Проведенное исследование подтвердило, что внедрение агентов идет полным ходом, но компании еще не освоили управление ими.

Агенты могут обеспечить предприятиям огромный прирост производительности, но и риски нужно оценивать реалистично: без управления и контроля они легко могут превратиться в обузу и представлять опасность как для потребителей, так и для бизнеса.

По мнению экспертов, подобные оценки выглядят чересчур оптимистично. «Титаник» утонул не потому, что его капитан не знал о риске столкнуться с айсбергом во время путешествия. Ему было известно, что сейчас пик сезона айсбергов, однако он считал, что даже в случае столкновения средства технологического контроля защитят корабль и обеспечат его безопасность. Так и сегодня многие руководители рассчитывают на помощь со стороны ИТ-службы и службы безопасности, если с ИИ-агентами возникнет какая-то нештатная ситуация.

Поскольку развитие ИИ продолжается с экспоненциальной скоростью, к 2028 году агентов искусственного интеллекта в компаниях будет больше, чем работающих там людей.

Неучтенные агенты часто появляются при использовании санкционированных инструментов low-code и проведении неформальных экспериментов. При этом они избегают традиционной проверки ИТ-службой и проявляют себя только тогда, когда что-то сломается.

Когда же дело доходит до управления этими ИИ-агентами, их число оказывается уже настолько велико, что без прекращения внедрения инноваций обеспечить устойчивый процесс утверждения невозможно. Поэтому приоритетом в управлении ИИ должен стать непрерывный надзор. Зачастую агенты обладают делегированными, но весьма широкими полномочиями, и их избыточные привилегии превращаются в новую внутреннюю угрозу. Чтобы избежать этого, необходимо внедрять многоуровневую систему разграничения доступа.

Конечная цель заключается в том, чтобы построить системы управления, которые позволят использовать преимущества автономных систем, не жертвуя безопасностью и контролем. Иначе компании рискуют столкнуться с последствиями, которые окажутся куда дороже временных выгод от ускоренного внедрения технологий.