Тех. дебаты: «Смертоносные роботы-убийцы»

При участии доктора Рона Аркина (США) и доктора Роба Спарроу (Австралия).

Материал предоставлен Технологическим Институтом Джорджии, Центром Этики и Технологии.

Ведущий: Добро пожаловать на первые дебаты по поводу передовых технологий. Меня зовут Майкл Хоффман, я – директор центра по этике и технологиям. Мы сегодня затеваем дискуссию, чтобы обсудить передовые технологии, которые пока ещё только в стадии разработки. Сегодня в фокусе нашего обсуждения будут Автономные Роботы-убийцы (далее АРУ).

АРУ – это машина, способная принять решение убить человека. Подобные технологии могут стать настоящим переворотом на поле боя и за его пределами. Они названы смертоносными, потому что могут отнимать жизни, и автономными, потому что могут делать это без вмешательства человека, то есть принимать подобные решения, основываясь лишь на заложенных в них ранее программах и алгоритме, который и будет управлять их поведением.

Для дальнейшего обсуждения этой темы необходимо уточнить, что есть понятие «автономность». Оно состоит из двух компонентов, слов «Авто» и «номос», оба греческого происхождения, что означает самоуправляющаяся система. Таким образом, можно сказать, что автономной считается любая машина, действующая без вмешательства человека. В настоящее время в армии широко используются полуавтономные и автономные машины. Например, беспилотники могут перемещаться и приземляться автономно, в то время как автоматы и другое оружие для стрельбы – это яркий пример полуавтономных машин, они управляемы человеком.

США закрепили за собой репутацию страны, в которой машины выполняют всю работу. Американская Армия выражает своё бурное несогласие с этим утверждением, потому что а) за всеми автономными системами ведётся хотя бы некоторое наблюдение и б) компьютеры устанавливают лимит на действия и решения этих автономных систем.

Наш гость сегодня Рон Аркин составил один из сводов правил и ограничений для таких машин и назвал его «Этическое управление машинами». Одно из основополагающих правил этого свода гласит: «Если Машина оказалась в позиции, где она не может принять решение, основываясь на заложенных в ней стандартных алгоритмах (ситуация «исключение из правил»), то она не может убивать несмотря ни на что и ни при каких обстоятельствах». Этот закон и другие, считает он, должны быть зафиксированы в международных доктринах и соглашениях.

Ещё одно из таких правил гласит, что машины-убийцы не могут убивать раненых, работников Международного Красного Креста и отступающих солдат, а также должны учитывать своды правил, установленных Женевской Конвенцией. К тому же эти правила должны быть запрограммированы в машинах обеих из воюющих сторон. В правилах также указывается, что машины-убийцы могут быть использованы только теми странами, которые смогут доказать, что будут использовать их честно и легально и только в военных целях.

Но и при наличии этих правил, нет ответа на главный вопрос: «Этично ли создание подобных машин?»

Это и будет основной темой нашей дискуссии сегодня: «Имеют ли роботы-убийцы право на существование с этической точки зрения?»

И если да, то какие условия и правила должны быть соблюдены. Если нет, то что случится с уже начатыми исследованиями и испытаниями? Всё это вопросы, которые должны быть рассмотрены. И сегодняшняя наша встреча – часть такой дискуссии. Спасибо, что присоединились!

(Отрывок из дискуссии переведен Колгановой Н. в рамках проекта РФФИ «Социально-философские и методологические проблемы технологических рисков в современном обществе» № 12-06-00092а).

Источник: http://onlineethics.org/Topics/EmergingTech/TechSpecific/militarytechnologies/28087.aspx