Боевые роботы против прав человека: этичность автоматического убийства обсудит ООН

Версия для печати

Тема боевых роботов будет обсуждаться на совещании Совета ООН по правам человека в Женеве. Заседание заслушает отчет, призывающий приостановить использование таких роботов, пока не будет определена этичность их использования.

Боевыми роботами считаются машины, запрограммированные на убийство людей и уничтожения целей. В отличие от беспилотных летательных аппаратов, на поле боя они могут работать автономно.

Их разрабатывают в США, Великобритании и Израиле, но пока в бою работы не использовались.

Правозащитные группы считают, что их применение ставит серьезные нравственные вопросы о том, как ведется война, сообщает корреспондент ВВС из Женевы. Кто принимает решение об убийстве? Может ли робот отличить военного от мирного жителя?

Вместе с тем мораторий, к которому призывает отчет ООН, не совсем устраивает правозащитные группы, которые выступают за полный запрет этих роботов.

В тему: Запретить на международном уровне роботам убивать людей требуют в ООН

«Роботы-убийцы» или «умные машины»?

Основная проблема, как отмечают правозащитники, заключается не в использовании роботов качестве оружия, — такие машины уже не первый год используются в военных операциях, — а в контроле над процессом принятия решений.

«Традиционный подход заключается в том, что есть воин и есть оружие. Но сейчас мы видим, что оружие становится воином, оружие само принимает решение» — говорит Кристоф Хейнс, эксперт ООН.

Лауреат Нобелевской премии мира Джоди Уильямс ведет гражданскую кампанию «Остановим роботов-убийц» с целью запретить исследования в области создания роботов, способных к самостоятельному принятию решений на поле боя.

«Если позволить и дальше проводить исследования в этой области, то методы ведения войны вскоре изменятся в ужасную сторону», — говорит она.

Однако некоторые придерживаются мнения, что процесс принятия решений работами можно автоматически контролировать. Профессор Рональд Аркин из Технологического института штата Джорджия разработал концепцию «этического регулятора».

Робот будет запрограммирован в соответствии с нормами международного права и правил применения оружия. «Все начинают кричать: роботы-убийцы, роботы-убийцы. Но у нас солдаты людей убивают, ужасы продолжаются, и так было с самого начала военной истории», — отмечает он. «Нам нужны технологии для сокращения числа жертв среди мирного населения», — говорит профессор Аркин.

Глобальная война машин?

Помимо моральных аспектов возникают также стратегические и военные риски, в частности, угроза неконтролируемой гонки вооружений.

Сейчас лидером в разработке военных технологий остается США, но не факт, что так будет и в долгосрочной перспективе.

К тому же остро встает вопрос о безопасности разработки новых технологий. «Представьте, что хакеры взломали систему управления такими работами, и они начинают убивать своих же солдат», — отмечает Джоди Уильямс.

Боевые роботы-убийцы: какими будут войны в будущем

Беспилотный самолет X-47B, возможно, в будущем будет стрелять по врагу без участия человека

Сейчас на поле боя уже активно используются беспилотные самолеты. На очереди — военные работы.

Уже существуют демонстрационные модели беспилотных самолетов, например — X-47B в форме наконечника стрелы, которые могут выполнять миссию самостоятельно, без помощи наземного оператора.

Есть также и зенитно-ракетные комплексы типа Patriot, которые способны автоматически определить и поразить цель.

А отсюда не так уж и далеко до полноценных боевых роботов — разработки, которая может в корне изменить лицо войны.

В лаборатории Технологического института Джорджии в Атланте рόботы профессора Генрика Кристенсена охотятся на повстанцев. На вид эти машины напоминают подставки для тортов на колесах.

Кристенсен и его коллектив работают на заказ оборонной компании BAE systems.

Их цель — создать автоматические устройства, способные обследовать засаду врага и передать людям информацию о ней. Таким образом солдаты смогут получать жизненно важные данные, не подвергая себя опасности.

«Эти работы будут идти цепью, — рассказывает Кристенсен, — и снимать все, что их окружает. Поэтому солдаты, заходя в сооружения, уже будут представлять, что там внутри».

Эти машины предназначены прежде всего для разведки и сбора информации. Но в фантастической литературе уже не раз появлялись образы боевых роботов, которые собираются в облака, как саранча или другие насекомые, и атакуют врага. Каждый такой мини-робот может нести крошечную боеголовку или просто поражать цель с помощью своей кинетической энергии.

Профессор Кристенсен разрабатывает роботов, способных шпионить за врагом

Питер В. Сингер, военный эксперт из Брукингского института, в Вашингтоне, говорит, что тема боевых роботов вызывает ряд важных вопросов.

«В истории есть много примеров технологий, которые в корне меняли правила игры, — говорит он. — Это порох, автомат, атомная бомба, компьютер... и боевые роботы — одна из них. Когда мы говорим об изменении правил игры, это означает, что новая технология влияет на все: от тактики и стратегии в глобальных вопросах политики, права, этики, выбора времени и места войны».

Американка Джоди Уильямс, организатор движения за запрет противопехотных мин, которая в 1997 году получила Нобелевскую премию мира, считает, что автоматические системы вроде машин доктора Кристенсена рано или поздно начнут нести смерть.

Уильямс отказывается называть их нейтральными терминами типа «автономные вооруженные системы».

«Название „роботы-убийцы“ более точное», — говорит она и дает им определение: «Смертоносная машина, которая может убивать самостоятельно, принимая решения без участия человека».

«Когда я впервые услышала об этой идее, то просто ужаснулась. У меня вызывает отвращение сама мысль о том, что люди начнут создавать машины, которые можно будет натравливать на других людей», — говорит Уильямс.

Это непростая и эмоциональная тема.

Но профессор Рональд Аркин из Технологического института Джорджии смотрит на нее по-другому.

Он выдвинул идею вооруженной системы, которую будет контролировать так называемый «этический смотритель».

Эта система будет запрограммирована таким образом, чтобы придерживаться международных военных законов и правил применения вооруженной силы.

«Сейчас все кричат: ужас, злые роботы, роботы-убийцы, — говорит профессор, — но люди-убийцы на поле боя никого не беспокоят. Война всегда сопровождалась и сопровождается зверствами».

Его аргумент в защиту боевых машин прост: «Технологии надо использовать, если мы хотим снизить смертность среди гражданских».

Он верит, что «разумное применение этических роботизированных систем позволит это сделать, если мы — как нация, как человечество — останемся достаточно глупыми, чтобы вести войны и дальше».

Аркин не относится к военному лобби и много размышлял над этой проблемой.

Это устройство (черепахобот) способно провести разведку территории

У нее есть еще один важный аспект. США пока — один из лидеров в этой области, но, по словам Питера Сингера, это не будет длиться вечно.

«Программы военной робототехники имеют не только Соединенные Штаты, но и 76 других стран, — говорит он. — Эти технологии бурно развиваются, и начать соответствующие разработки не так уж сложно. Сейчас за несколько сотен долларов можно купить маленький дрон (беспилотник — ред.) , который несколько лет назад был доступен только для военных. Поэтому нельзя смотреть на проблему только с точки зрения США — она ​​глобальна».

Как и дроны, работы распространятся очень быстро, вызывая вопрос: как использовать эту силу, и стоит ли ее контролировать.

Полностью автономные вооруженные системы, которые будут действовать без всякого участия человека, — это еще вопрос отдаленной перспективы. Но нобелевская лауреатка Джоди Уильямс не хочет, чтобы он вообще стоял перед людьми.

Она планирует запустить международную кампанию по запрещению военной робототехники, стремясь, чтобы «работы, которые умеют убивать, оказались вне закона».

«Если позволить военным создать и в конце концов взять на вооружение этих роботов, война изменится навсегда и станет чем-то ужасным», — говорит Уильямс.

Однако профессор Аркин имеет другое мнение.

По его словам, запретить роботов, не выяснив, могут ли они помочь снизить потери среди мирного населения, — значит «сделать плохую услугу тем, кто сейчас погибает на войне от рук людей».

Джонатан Маркус, корреспондент ВВС по дипломатическим вопросам

Источник: ВВС Україна

Перевод: «Аргумент»

В тему:

• Битвы Великой технологической: как в современном мире сражаются за мировое господство
• Цифровой мир — тотальный контроль и никакой приватности
• Космический брат