С учетом того что автономные и интеллектуальные системы получают все большее распространение, важно, чтобы стоящие за ними разработчики сумели притормозить на мгновение и задуматься о связанных с ними этических вопросах.

Такую точку зрения в Institute of Electrical and Electronics Engineers высказали, опубликовав вторую версию документа «Ethically Aligned Design».

«Системы эти должны вести себя так, чтобы это приносило пользу людям, выходя за рамки достижения функциональных целей и решения технических проблем, — говорится в документе. — Это позволит повысить уровень доверия между людьми и техническими средствами, что будет способствовать плодотворному использованию передовых технологий в нашей повседневной жизни».

Документ «Ethically Aligned Design: A Vision for Prioritising Human Well-being with Autonomous and Intelligent Systems» («Этически выверенное проектирование: приоритетность повышения благосостояния человека на основе использования автономных и интеллектуальных систем») появился по итогам обсуждения, в котором на протяжении 2017 года принимали участие более 250 экспертов из академических, отраслевых и правительственных кругов. Оно охватывало целый ряд взаимосвязанных тем, включая прозрачность автономных систем, конфиденциальность данных, алгоритмические тенденции, смешанную реальность и «стимулирование к соблюдению этических правил» — комплекс явных и скрытых манипуляций, проводимых интеллектуальными системами для воздействия на поведение или эмоции пользователя.

В подготовке документа — он открыт для широкого обсуждения до марта — участвовал в том числе профессор кафедры программного обеспечения Университета Сиднея Рафаэль Кальво.

«Последние достижения в области искусственного интеллекта стали превращать вещи, которые когда-то казались научной фантастикой, во вполне правдоподобную реальность, — указал он. — Однако в цифровом будущем определение того, что действительно ‘правильно’ и ‘хорошо’, становится сложным вопросом, лежащим на пересечении технологий и этики. Воздевание рук к небесам и причитания, что ‘это слишком сложно’, в то время как мы продолжаем сидеть на месте и наблюдать, как технологии уносят нас в не поддающийся контролю водоворот будущего, вместо того, чтобы создавать его самим, вряд ли можно считать жизнеспособным вариантом. Надеюсь, что наша публикация действительно изменит правила игры и поможет совершить первый шаг в нужном направлении — шаг, которого зачастую приходится ждать очень долго. И мы сумеем разрушить защитную стену специализации, позволявшую инженерам отделять себя от социальных последствий разработанных ими технологий».

Все, кто вовлечен в создание интеллектуальных систем, должны отвечать за результаты своей работы

По словам Кальво, публикация документа означает, что все, кто вовлечен в создание интеллектуальных систем, должны отвечать за результаты своей работы.

«Нужно, чтобы будущие технические лидеры начали задумываться и брать на себя ответственность за нетехнические последствия для простых граждан с точки зрения защиты законности и их права на частную жизнь, физического и психического здоровья, скрытых предубеждений и моральных устоев, — подчеркнул он. — Это станет позитивным шагом к тому, чтобы создаваемые нами технологии открывали дополнительные преимущества и благотворно отражались на дальнейшем развитии человечества и нашей планеты».

В IEEE особо отметили, что документ «Ethically Aligned Design» не претендует на роль кодекса поведения или профессиональной этики.

Цель его публикации заключается в том, чтобы избежать как боязни автономных и интеллектуальных технологий, так и слепого любования ими, предоставить инженерам возможности для обучения и повышения уровня своего образования, а также расширить их полномочия для приоритетного рассмотрения этических вопросов.

Gartner: искусственный интеллект радикально изменит личные электронные устройства

C помощью технологий нового поколения обычные бытовые предметы получают возможность обнаруживать и анализировать эмоциональные состояния людей, обрабатывать и реагировать на них

Предназначенные для распознавания и анализа человеческих эмоций системы искусственного интеллекта так быстро совершенствуются, что уже к 2022 году личные электронные устройства будут знать об эмоциональном состоянии своих владельцев больше, чем члены их семей, полагают аналитики Gartner.

C помощью эмоциональных вычислительных технологий обычные бытовые предметы получают возможность обнаруживать и анализировать эмоциональные состояния людей, обрабатывать и реагировать на них. Это помогает определить контекст взаимодействия с пользователем и сделать его более персонализированным. Любым ИТ-компаниям придется активно реализовывать технологии искусственного интеллекта в своей продукции, иначе она потеряет актуальность, подчеркивают аналитики.

Источник: IKEA

На нынешнем этапе эмоциональные системы находят применение главным образом в программировании виртуальных личных помощников и других технологий искусственного интеллекта в диалоговых системах. Второй этап будет связан с их применением в образовательных программах, видеоиграх, диагностических программах, спорте и самоуправляемых автомобилях. Большой потенциал имеет применение эмоциональных систем в медицинских устройствах — например, браслетах, способных обнаружить проблемы со здоровьем пользователя. К 2021 году каждый десятый пользователь электронных аксессуаров изменит с их помощью образ жизни и увеличит ее продолжительность в среднем на полгода, считают аналитики.

Сторонние облачные сервисы для расширения интеллектуальных возможностей своих продуктов будут к 2020 году использовать 60% производителей личных электронных устройств. Уже сейчас, например, Fitbit использует для записи статистики и взаимодействия с умными колонками сервис Alexa Skills, а Netflix реализует функции голосового управления через Actions for Google Assistant.

Аутентификация с помощью паролей теряет эффективность, отмечают аналитики. Даже современная аутентификация с помощью отпечатков пальцев подвержена сбоям из-за загрязнений. В ближайшие годы станет необходимым применение методов, сочетающих в себе машинное обучение, биометрические технологии и анализ поведения, полагают аналитики. Системы будут узнавать пользователей, предотвращать мошенничество и обнаруживать автоматизированные атаки — вирусы, троянцы удаленного доступа и вредоносные боты.

— Служба новостей IDG

 

Поделитесь материалом с коллегами и друзьями

Купить номер с этой статьей в PDF