Два события прошлой недели указывают на обеспокоенность Белого дома по поводу возможных дефектов в коде стремительно развивающихся систем искусственного интеллекта. Администрация Барака Обамы опубликовала доклад, в котором рассматривается проблема некачественных алгоритмов, используемых в системах автоматизированного принятия решений. Ошибки в таких системах могут привести к дискриминации при найме на работу и в вузы, а также в процессе принятия решений о выдаче кредитов, подчеркивается в докладе.

В связи с этим авторы доклада рекомендуют разработать официальные этические нормы для программистов подобных систем. Кроме того, они должны быть доступны для тестирования и аудита.

В рамках еще одной инициативы в Соединенных Штатах проводится серия семинаров, посвященных влиянию искусственного интеллекта на общество. Как отмечают в Федеральной комиссии по торговле США, которая стала устроителем семинаров, «системы искусственного интеллекта могут вести себя совершенно непредвиденно, притом что люди все больше полагаются на них в принятии решений и управлении техникой, в то время как сложность контроля над технологиями все возрастает». По результатам семинаров, первый из которых пройдет в конце мая в Сиэтле, правительство подготовит еще один доклад.

Поделитесь материалом с коллегами и друзьями