В прошлом году Обама в своей речи о контртерроризме сказал, что «когда гражданин США уезжает за границу на войну с США… его гражданство должно защищать его не более, чем снайпер, стреляющий по толпе невинных людей, должен быть защищён от команды SWAT».
Эти слова были произнесены за две недели до первой публикации о системе слежки PRISM. Обстановка изменилась, изменилась и риторика: в этом году президент США, описывая грядущую реформу АНБ, признал, что использование дронов против террористических группировок нужно пересмотреть.
Однако беспилотники эффективны, и зачастую их эффективность оказывается неожиданной для создателей. Так, истребление старых, опытных лидеров террористических группировок приводит к тому, что их замещают молодые, чьё руководство зачастую приводит к стратегическим ошибка. Аль-Каида теперь избегает массовых сборищ — даже если целью будет один террорист, атака зачастую приводит к гибели всей группы. Использование электроники тоже ограничено или даже запрещено. Дроны — это недорогой инструмент, хирургический скальпель, которым можно оперировать без риска для сил США и с намного меньшим риском для гражданских. Как ни странно, можно назвать их более гуманным видом вооружений.
Бюджетные траты на беспилотные системы, ставшие центральным ядром контртеррористической системы, будут уменьшаться, поэтому приоритетной станет разработка систем автономного управления и единого протокола взаимодействия беспилотных систем. Как справедливо замечает автор одной из статей, «будет глупо, если, к примеру, мы разработаем стандарты для чего-то плавающего, полностью отличающиеся от [стандартов] наземного транспорта».
Но давайте посмотрим на совсем далёкое будущее.
Способы ведения войны всегда оказывали огромное влияние на мир, на государства и на их законы. Так, когда-то изобретение пороха поспособствовало появлению небольших армий и абсолютных монархий, а массовая мобилизация помогла Наполеону почти уничтожить их.
Правила игры, правила войны и жизни постепенно размываются. Относится ли разработчик систем информационной безопасности к поставщикам оружия? Считать ли комбатантом хакера, по заказу другой хакерской группировки осуществившего атаку, приведшую к отключению электричества и гибели людей в госпитале? Считается ли атака на почтовый сервер CIA внутренней или внешней угрозой? Мечтают ли операторы об электрошоке вместо кофе?
Постепенно внегосударственные акторы обретают всё большую и большую мощь, а число уязвимых к атаке систем лишь становится больше.
Отчёт по состоянию защищённости критически важной инфраструктуры США от кибернетических угрозот 4 февраля 2014 года показал, что всё очень плохо: в Комиссии по атомной энергии США используются короткие и простые пароли, критически важная информация хранится на незашифрованных носителях, и они даже не знают, сколько точно у них ноутбуков. Но американцы честны перед собой — несмотря на уменьшение военного бюджета, финансирование на защиту от кибератак, вероятнее всего, увеличится.
Сейчас мы снова подходим к тому пределу, когда армейские технологии сделают новый скачок. Дроны становятся всё меньше, киберпространство превращается в поле битвы, био- и роботехнологии неумолимо движутся вперёд. Постепенно дроны становятся частью культуры, солдаты дают им клички, такие, как «Молния» и «Звёздный налётчик». Но это лишь попытка оживления, в основе которого лежит наш страх перед чужеродным, нечеловеческим поведением. С големом можно попытаться подружиться, но от этого он не перестанет быть големом. Атаки становятся удалёнными, человеческое участие уменьшается, и перед нами встаёт следующий, очень важный вопрос: должен ли робот атаковать самостоятельно? Считать ли даже саму постановку такого вопроса опасной, и запретить все исследования по этой теме? Но ведь это не значит, что другие страны сделают то же самое…
До 2022 года в США действует директива 3000.09 «Автономия в системах вооружения». Формулировки в ней весьма размыты: автономное оружие должно быть разработано так, чтобы «допускать необходимый уровень человеческого вмешательства».
Как говорит Питер Сингер, автор Wired for War: The Robotics Revolution and Conflict in the 21st Century, «у человека есть право вето, но это такое вето, для наложения которого у вас есть полсекунды».
По мере того, как способности автоматических систем к принятию самостоятельных решений будут усовершенствоваться, человечество будет сталкиваться всё с новыми вопросами и проблемами, как культурного, так и психологического плана, и обдумывать это взаимодействие стоит уже сейчас: как вы поведете себя с домашним роботом, существом, выполняющим все ваши приказы? Будем откровенны: сможете ли вы стать хорошим рабовладельцем? Мы даже не заговариваем о перспективах появления искусственного интеллекта, но вот о полиции Тьюринга лучше задуматься заранее.
