В нарушение заповеди «не кусай руку, кормящую тебя» этот робот злобно колет иглой те самые пальцы, которые его построили.

Робота назвали The First Law («Первый закон») — в честь первого закона робототехники Айзека Азимова: «Робот не может причинить вред человеку». Это несложная машина в виде железной руки с датчиками и тонкой иглой для взятия крови на пробу глюкозы. Программа робота случайным образом выбирает, уколоть вас в палец или нет: робот поворачивается к вам, как бы задумывается на секунду, и либо отворачивается обратно, либо наносит укол.

Создатель робота, художник и робототехник Александр Рибен, по его словам, сконструировал эту машину, чтобы подлить масла в огонь дискуссии об искусственном интеллекте.

По его мнению, важно, чтобы люди обсуждали этические вопросы создания сверхразумных роботов и представляли себе особенности жизни с ними еще до того, как это станет реальностью: «Робот, созданный, чтобы травмировать и причинять боль — что это означает? А что если его основная функция не в этом, однако есть вероятность, что робот навредит вам, — о подобных вещах и о том, как их предотвратить, следует задумываться уже сейчас»

Попробовав болезненный укол «враждебной» машины на себе, вынуждена признать, что пришла в недоумение по поводу того, как к ней относиться. В конце концов, если человек нанес мне вред, на него можно прикрикнуть и дать сдачи, а в случае с роботом толку от этого не будет.

Рибен не впервые поднимает тему отношений человека и машины. Один из его последних проектов — робот в виде руки с ножом, имитирующий поведение человека с нестабильной психикой, у которого бывают внезапные вспышки гнева. А в прошлом году он создал маску, которая говорит за вас голосами других людей.

Самое известное произведение художника — документальный фильм «Роботы рядом с нами» про небольшие картонные машины на гусеничном ходу, которых автор называет BlabDroids. В фильме они детским голосом задают встречным вопросы вроде «Если бы вы знали, что завтра умрете, о чем бы вы пожалели больше всего?» По ходу фильма выясняется, что люди готовы делиться с роботами довольно постыдными подробностями.

По мнению Рибена, это работает «эффект Элизы» — тенденция подсознательно присваивать машинам человеческие качества, названная по имени чат-бота ELIZA, которого написали в МТИ в 1960-х; он изображал психотерапевта, задавая вопросы, составленные путем перефразирования реплик пациента.

Уже сейчас для многих людей потеря смартфона равносильна большому горю, а что же будет, когда станет доступна техника, не только имитирующая работу мозга человека, но и способная быть более умной, чем он сам?

Поделитесь материалом с коллегами и друзьями