ООН и роботы-убийцы

Информация о конфиренции

Это гостевой пост. Мнения, выраженные здесь, являются исключительно мнениями авторов и не представляют позиции IEEE Spectrum или IEEE.

Роботы-убийцы стоят на повестке дня крупной встречи Организации Объединенных Наций в Женеве на этой неделе.

В рамках конференции ООН по разоружению страны-участницы в пятницу принимают решение о том, начинать или не начинать официальные дискуссии о запрете смертоносного автономного оружия после трех лет неофициальных дискуссий.

В июле прошлого года тысячи исследователей, работающих в области ИИ и робототехники, собрались вместе и выпустили открытое письмо, призывающее к превентивному запрету на такое оружие.

Я был одним из организаторов письма, и сегодня я в третий раз выступал в ООН, призывая еще раз к запрету.

Причина, по которой я был мотивирован сделать это, проста. Если мы не получим запрет, начнется гонка вооружений. И конечная точка этой гонки будет выглядеть так же, как мрачное будущее, нарисованное голливудскими фильмами, как Терминатор.

Даже до этой конечной точки такое оружие, скорее всего, попадет в руки террористов и стран-изгоев. У этих людей не будет никаких сомнений по поводу снятия каких-либо гарантий. Или использовать их против нас.

И это не просто боевые роботы. Сегодня конфликты носят асимметричный характер. В основном это будут роботы против людей. Таким образом, в отличие от того, что могут утверждать некоторые эксперты-роботы, многие из этих людей будут невинными гражданскими лицами.

Это ужасная и ужасающая перспектива. Но нам не нужно на этом заканчивать. Мир коллективно решил не вооружать другие технологии. У нас есть запреты на биологическое и химическое оружие. Совсем недавно мы запретили несколько технологий, включая ослепляющие лазеры и противопехотные мины.

И хотя эти запреты не были на 100 процентов эффективными, мир, вероятно, лучше с этими челками, чем без них. Эти запреты не помешали разработке соответствующих технологий. Если вы пойдете в больницу сегодня,” ослепляющий " лазер фактически будет использоваться, чтобы исправить ваши глаза. Но оружейные компании не продадут вам его. И Вы не найдете их ни на одном поле боя.

То же самое относится и к автономному оружию. Мы не остановим развитие широкой технологии, которая имеет много других положительных применений, таких как автономные транспортные средства.

Но если мы получим запрет ООН, у нас не будет автономного оружия на поле боя. И это будет хорошая вещь. Как и в случае с ослепляющими лазерами, вряд ли существует регулирующий орган или инспекционный режим для автономного оружия. Вместо этого запрет будет осуществляться с помощью более тонких мер, таких как неблагоприятная реклама и, в конечном счете, моральное клеймо. В этом пространстве начинают действовать такие профессиональные организации, как IEEE.

Заключение

Ранее на этой неделе IEEE объявил об инициативе по разработке этических стандартов для разработчиков автономных систем. Первоначальный доклад предупреждает, что автономное оружие дестабилизирует международную безопасность, приведет к непреднамеренной военной эскалации и даже к войне, нарушит стратегический баланс и будет способствовать наступательным действиям.

В докладе IEEE содержится ряд рекомендаций, в том числе о необходимости реального человеческого контроля над прямыми нападениями с применением такого оружия. Он также говорит, дизайн, разработка или проектирование автономных вооружений сверх значимого человеческого контроля используется до обидного или убивать человека должно считаться неэтичным. Из реакции, которую я имел говорить об этом вопросе публично, многие люди во всем мире поддерживают мнение, что запрет будет хорошей идеей.

Даже девять членов Конгресса США написали на прошлой неделе государственным секретарям и министру обороны в поддержку призыва к превентивному запрету. Все технологии могут быть использованы для хорошего или плохого. Нам нужно сделать сознательное и эффективное решение в ближайшее время, чтобы принять мир вниз хороший путь. Мои пальцы пересек, что ООН сделает первый шаг в пятницу.