Человечество против роботов убийц

Человечество против роботов убийц

В настоящее время идея роботов-убийц остается в области научной фантастики, но довольно тревожно осознавать, что эксперты по искусственному интеллекту (ИИ) рассматривают ее как реальную угрозу в ближайшем будущем.

После многих лет обращения к Организации Объединенных Наций с просьбой принять меры против вооружения ИИ, институт будущего жизни (FutureofLifeInstitute)(FLI) теперь взял дело в свои руки, пообещав не разрабатывать и не поддерживать развитие автономных машин для убийства в любом случае, с тысячами исследователями, инженерами и компаниями в отрасли ИИ.

Действия людей против создания роботов-убийц

В 2015 году FLI представил открытое письмо в ООН, в котором призвал Организацию ввести запрет на разработку автономных систем (законов) летального оружия. Письмо подписали более 1000 исследователей робототехники и выдающихся ученых, таких как Илон Маск и Стивен Хокинг. Два года спустя переговоры прекратились с FLI и многие из тех, кто подписал письмо. После ещё одного года бездействие, лидеры приняли наиболее эффективный подход, который не требует участия ООН.

Тысячи людей подписали петицию и заявили, что они решили придерживаться высоких стандартов, они не будут участвовать, поддерживать разработку, производство, торговля или применение смертельного автономного оружия. Данное письмо подписали 160 компаний и организаций, связанных с ИИ и более 2400 человек. Среди них GoogleDeepMind, ClearpathRobotics, UniversitlyCollegeLondon, и такие люди, как Илон Маск, Джеффри Дин из GoogleResearchи член парламента Великобритании Алекс Собель.

Почему человечество против вооружённого ИИ

Специфическая технология, против которой выступает группа, включает в себя оружейные системы ИИ, которые могут идентифицировать и убивать людей полностью автономно. Но они не включают в себя технологию военных беспилотников, которыми люди могут управлять для определения цели и её дистанционного уничтожения. Хоть это и странное различие, группа утверждает, что в последнем случае человек выступает в роле морального и этического фильтра.

“Мы, нижеподписавшиеся, согласны с тем, что решение отнять человеческую жизнь не должно быть предоставлено машине”. – говорят в официальном заявлении. “В этой позиции есть моральная составляющая, что мы не должны позволять машинам убивать, принимая решение, за которые некого будет винить”. В заявлении говорится, что когда эти машины для убийства связанны с данными и платформами для наблюдения, то это может стать мощным инструментом насилия и угнетения людей. Вследствие этого человеческая жизнь обесценивается. Особенно проблематичным является возможность попадания этих машин в чужие руки через черный рынок.

Шаги к победе

Цель заявления состоит в том, чтобы “пристыдить” компании и людей, не подписавших открытое письмо. Если все больше и больше лиц будут за, тоте, кто это не сделал, станут объектами пристального внимания со стороны своих коллег и клиентов. Вне зависимости от всего выше сказанного, мы движемся детскими шагами к будущему, свободному от роботов-убийц. Следующее заседание ООН по законодательству планируется провести в августе.

Автор статьи: Виктор Булавин