По мере того как ИИ-инструменты все активнее внедряются в процессы разработки, исследователи бьют тревогу — автоматизация кодирования может приводить не к повышению безопасности, а к ее системному ослаблению. Исследование компании Apiiro показало, что хотя ИИ-ассистенты сокращают количество поверхностных ошибок (например, синтаксических), они одновременно усиливают более опасные, структурные уязвимости: ошибки в архитектуре приложений, опасные схемы авторизации, утечки секретов и ошибки конфигурации облачных сред. Искусственный интеллект не умеет думать о привилегиях, безопасной архитектуре или нюансах соответствия нормативным требованиям, а просто генерирует код. Особую озабоченность вызывает феномен «теневых инженеров» — сотрудников, которые не имеют достаточной подготовки в области информационной безопасности, но в состоянии писать рабочий код с помощью ИИ. Они не осознают, что участвуют в жизненном цикле разработки ПО, и часто пренебрегают критически важными проверками. Еще одна проблема связана с объемом и сложностью изменений, генерируемых ИИ. Вместо локальных изменений разработчики, вооруженные ИИ, все чаще инициируют гигантские обновления, затрагивающие сотни файлов и микросервисов. Это перегружает сотрудников, анализирующих код, снижает качество проверки и расширяет круг рисков при каждом обновлении. По данным Apiiro, к июню 2025 года количество новых уязвимостей, связанных с генерацией программного кода при помощи ИИ, за полгода выросло на порядок в исследуемых репозитариях. Впрочем, многие специалисты сходятся в одном: ИИ — это инструмент, а не освобождение разработчика от ответственности.
