Первый "робот-убийца"

История

25 января 1979 года: Роберта Уильямса, 25-летнего работника завода на заводе по производству автомобилей Ford Motor Company в Флэт-Рок, штат Мичиган, попросили набрать массивный стеллаж, чтобы вручную подсчитать детали там. Пятиэтажная машина, используемая для извлечения отливок, дает ложные показания, и это задача Уильямса подняться и узнать, сколько там действительно.

В то время как Уильямс там, выполняя работу, которую он приказал сделать, рука робота, также отвечающая за поиск деталей, занимается своей работой. Достаточно скоро робот молча натыкается на молодого человека, ударяя его по голове и мгновенно убивая. Робот продолжает работать, но Уильямс лежал там мертвым в течение 30 минут, прежде чем его тело будет найдено заинтересованными коллегами, согласно сообщению Knight-Ridder.

В тот зимний день Уильямс становится первым человеком в истории, которого убивает робот.

Однако смерть была совершенно непреднамеренной. Просто не было гарантий для защиты Уильямса. Никакие сигналы тревоги не сообщают ему о приближении руки, и никакая технология не может изменить поведение. В 1979 году участвует искусственный интеллект не был достаточно умен, чтобы не допустить такие смерти. Присяжные согласились с тем, что недостаточно внимания было уделено дизайну робота, чтобы предотвратить такую смерть. Семья Уильямса выиграла иск на 10 миллионов долларов за его неправомерную смерть от Unit Handling Systems, подразделения Litton Industries, производителя, который спроектировал робота.

Следующая смерть робота произошла бы чуть более двух лет спустя, в Японии, при аналогичных обстоятельствах: рука робота снова не смогла ощутить рабочего, 37-летнего Кенджи Ураду, и случайно толкнула его на смерть.

В последующие годы роботисты, компьютерщики и специалисты по искусственному интеллекту продолжали бороться с проблемой того, как роботы могут безопасно взаимодействовать с людьми, не причиняя им вреда.

Спустя десятилетия сообщения о человеческих смертях, вызванных роботами или искусственным интеллектом, стали более распространенными. Uber и Tesla сделали новость с сообщениями о своих автономных и самоуправляемых автомобилях, соответственно, попадая в аварии и убивая пассажиров или поражая пешеходов. Хотя в настоящее время существует много гарантий, проблема все еще не решена.

Ни одна из этих смертей не вызвана волей робота; скорее, они все случайны. Но есть беспокойство, раздуваемое пламенем фильмов и научно-фантастических историй, таких как серия "Терминатор" и "Матрица", что искусственный интеллект может развить свою собственную волю и, в этом развитии, желание причинить вред человеку.

Заключение

Шимон Уайтсон, доцент кафедры компьютерных наук Оксфордского университета и главный ученый и соучредитель Morpheus Labs, называет эту проблему " антропоморфной ошибочностью. Уайтсон определяет заблуждение как " предположение, что система с человеческим интеллектом должна также иметь человеческие желания, например, выжить, быть свободной, иметь достоинство и т. д. Нет абсолютно никакой причины, по которой это было бы так, поскольку такая система будет иметь только любые желания, которые мы ей дадим."

Он утверждает, что рассогласование значений является большей экзистенциальной угрозой, когда существует разрыв между тем, что программист говорит машине делать, и тем, что программист действительно намеревался сделать. "Как вы сообщаете свои ценности интеллектуальной системе, чтобы действия, которые она предпринимает, соответствовали вашим истинным намерениям? Расхождение между ними становится более последовательным, поскольку компьютер становится более интеллектуальным и автономным", - объясняет Уайтсон.

Вместо этого Уайтсон говорит нам, что большая угроза заключается в том, что ученые целенаправленно разрабатывают роботов, которые могут убивать человеческие цели без вмешательства человека в военных целях. Вот почему исследователи ИИ и робототехники по всему миру опубликовали открытое письмо, призывающее к Всемирному запрету на такие технологии. И вот почему Организация Объединенных Наций снова собирается в 2018 году, чтобы обсудить, как и как регулировать так называемые "роботы-убийцы"."Хотя этим роботам не нужно будет развивать собственную волю убивать, они могут быть запрограммированы на это.