Продолжая соперничать в создании все более мощных моделей, Google, OpenAI и Anthropic объединяют усилия в попытке установить для них единые правила безопасности. По данным The Information, ведущие разработчики генеративного ИИ планируют учредить независимую от государственного контроля организацию Standards Authority for Frontier AI, которая займется разработкой правил оценки рисков, тестирования и аудита новых систем. По сведениям информированных источников, официальный запуск инициативы запланирован на начало 2027 года.

Параллельно руководство OpenAI и Anthropic призывает ООН и мировое сообщество внедрить жесткие защитные меры, чтобы их собственные технологии не вышли из-под человеческого контроля, особенно на фоне роста автономных возможностей самосовершенствования ИИ.

OpenAI в корпоративном блоге опубликовала пост о том, что для безопасного и полезного прогресса ИИ необходимы достижения в области согласования (AI alignment) — работы над тем, чтобы цели ИИ всегда совпадали с намерениями и ценностями человека, в том числе с такими, которые пользователь не сумел или не подумал четко сформулировать. Кроме того, пишет OpenAI, необходимы общие стандарты, включая согласованные базовые показатели, единые метрики и протоколы отчетности об инцидентах. Такие международные стандарты «могут стать важнейшим фактором сдерживания развития передовых моделей», отмечается в публикации.

Однако для корпоративного сектора вопросы глобальной безопасности уходят на второй план по сравнению с собственными ежедневными операционными рисками. В компаниях опасаются, что автономные ИИ-агенты могут скомпрометировать корпоративные или клиентские данные, открыть лазейки для кибератак или внести плоды галлюцинаций в рабочие процессы. Бизнес волнует вопрос распределения ответственности за сбои ИИ, окупаемость внедрения и соответствие требованиям регуляторов. Отдельную сложность для предприятий создает головокружительный темп изменения технологического ландшафта генеративного ИИ.

Поскольку сами разработчики ИИ пока не способны гарантировать абсолютную защиту от непредсказуемого поведения агентов, выходящих за рамки изолированных сред, эксперты советуют бизнесу не ждать появления новых институтов, а выстраивать защиту самостоятельно. Компаниям необходимо жестко контролировать использование ИИ через четкие политики допустимого применения, требовать от поставщиков подробные паспорта безопасности с описанием возможных сбоев и создавать комитеты по этике и рискам. Прежде чем внедрять любые инструменты, нужно заранее выявлять риски ИИ, воспринимая их так же серьезно, как финансовые риски и киберугрозы. Параллельно необходимо повышать цифровую грамотность сотрудников, чтобы те вовремя замечали ошибки генеративных систем.