Компании Google, OpenAI, Microsoft и Anthropic стали первыми членами ассоциации Frontier Model Forum, к работе которой планируется привлекать все организации, занимающиеся разработкой ключевых инструментов и платформ генеративного искусственного интеллекта. В первую очередь ассоциация будет исследовать вопросы безопасности искусственного интеллекта, а также разрабатывать рекомендации по созданию технологий и государственной политике в области искусственного интеллекта.

В заявлении Frontier Model Forum поставлены три первоочередные задачи. Первая — найти наиболее эффективные методы снижения рисков, связанных с генеративным ИИ, включая получение ошибочных результатов, создание информации, помогающей в незаконных или вредных действиях, и так далее. Вторая задача — координация научных исследований в области безопасности ИИ, в том числе проблем механистической интерпретируемости нейронных сетей, масштабируемого надзора и обнаружения аномалий. Наконец, третья задача — содействие совместной работе государственных органов и бизнеса в целях укрепления безопасности и общего развития.

Взрывной рост популярности технологий генеративного ИИ дал толчок многочисленным обсуждениям вопросов государственного регулирования этих технологий. Ассоциация Frontier Model Forum пытается решить проблему регулирования, не дожидаясь вмешательства государственных органов.