Две женщины ведут борьбу против могущественных корпораций, чтобы предотвратить войну людей и роботов-убийц. Это не сценарий нового «Терминатора», а реальность, которая касается каждого из нас.
В культовом фильме Джеймса Кэмерона человечество спасала от роботов-убийц женщина по имени Сара Коннор, а помогал ей Арнольд Шварценеггер в обличии Терминатора. В картине 1991 года они, казалось, смогли предотвратить самое страшное. Но реальность (и «Терминатор-6» с постаревшими героями) показала, что борьба продолжается. И ведут ее две женщины, Джоди Уильямс и Мэри Уэрхэм. Они пытаются защитить каждого из нас от боевых роботов с автономным сознанием. Да-да, это оружие существует и уже убивает людей.
В 1997-м правозащитница Джоди Уильямс получила Нобелевскую премию мира за кампанию по запрещению противопехотных мин. Когда церемония подошла к концу, соратница и подруга Мэри Уэрхэм сказала лауреатке: «Ты же не думаешь, что все закончилось? Все только начинается».
Так и случилось. В 2013 году подруги основали кампанию «Остановить роботов-убийц». Они неустанно призывают правительства и ООН запретить разработку смертоносных автономных оружейных систем. Им противостоят крупнейшие корпорации мира и правительства ряда стран, в числе которых Израиль, США и Россия. Недавно Джоди Уильямс и Мэри Уэрхэм опубликовали доклад, где прямо указали, кто сегодня создает Скайнет, рискуя выпустить из-под контроля оружие, способное уничтожить человечество.
Недавний военный конфликт США и Ирана показал, как выглядит война в XXI веке. Для того чтобы убивать, уже не нужно посылать солдат, а решения все чаще принимают не операторы военных комплексов и их командиры, а сами автоматические системы наведения. И Пентагон уже не обладает монополией на такое оружие. К примеру, Турция недавно наняла военного подрядчика для разработки беспилотников-камикадзе с биометрическим распознаванием лиц. А израильские беспилотники «Гарпия» уже сейчас висят в небе и самостоятельно наносят удары по объектам, которые распознают как враждебные. Участия человека и пресловутой «красной кнопки» им для этого не требуется.
И, представьте, такие системы уязвимы для взлома. Иранцам удалось перехватить израильскую «Гарпию» и посадить на свой аэродром — для изучения и тиражирования. А что, очень перспективная затея! По сравнению с обычными системами вооружений автоматические дешевы и могут тиражироваться тысячами. И ни один компьютер невозможно доставить в суд и признать военным преступником... Роботы не обладают той гибкостью мышления, которой обладает человек, зато, в отличие от людей, не промахиваются, не устают, не испытывают страха. Только убивают.
«Один коптер диаметром 2,5 см может нести несколько граммов взрывчатки. Вы можете заказать их у производителей дронов в Китае. Запрограммировать их, указав в качестве жертв тысячи фотографий. Один грамм взрывчатки может пробить отверстие в 9-миллиметровом листе стали и наверняка способен пробить чью-то голову. В прицеп влезает около 3 млн таких дронов. Вы можете пригнать три грузовика в центр города и располагать 10 млн единиц оружия. Для того чтобы оно выстрелило, не нужны миллионы солдат — лишь пара парней, способных написать и запустить код. Просто представьте, что охоту на людей будут вести таким образом», — взывает Стюарт Рассел, профессор компьютерных наук из Беркли, убежденный противник роботов-убийц.
А вот далеко не гипотетический пример. В 1983 году советская автоматическая система предупреждения ядерной атаки «Око» выдала ложный сигнал о запуске американских межконтинентальных ракет. Если бы решение о реагировании на угрозу принимал робот, мир бы уже лежал в постапокалиптических руинах. Но оперативный дежурный командного центра «Серпухов-15» отменил контратаку. Полковник Станислав Петров понял, что сообщение о запуске нескольких ракет из одной точки — ложное. И последующее расследование показало, что он был прав: датчики ошиблись из-за солнечных лучей, отразившихся от высотных облаков.
Участники движения «Остановить роботов-убийц» полагают, что должен появиться международный договор по запрещению автоматических летальных систем — такой же, как договоры, запрещающие противопехотные мины или химическое оружие. Этот вопрос несколько раз обсуждался в ООН, но пока, увы, безрезультатно.
P.S. А тем временем над созданием военной робототехники работают не только оружейные концерны — к делу подключилась, например, компания iRobot Corporation, производитель роботов-пылесосов, продающихся в каждом торговом центре. На военных работают и такие гиганты, как Microsoft и Google. Глобальный рынок военной робототехники уже оценивается в 17 млрд долларов. Это игра с большими ставками, в которой двум женщинам нечего противопоставить корпорациям и правительствам, кроме здравого смысла. Но всегда ли он побеждает?
