"Избежать случайно Арамагеддона": в США призвали изменить правила использования дронов

Даже если Китай не согласится или не будет соблюдать новые «меры укрепления доверия», говорит ученый CNAS Том Шугарт, Сидней Дж. Фридберг младший, журналист американского издания Breaking Defense. В своем новом материале он раскрывает возможную угрозу. Pravda.Ru публикует перевод материала Breaking Defense.

Фото: commons.wikimedia.org by DoroshenkoE, CC BY-SA 4.0

Поскольку и США, и Китай планируют наводнить Тихий океан флотилиями беспилотных мини-подводных лодок, надводных кораблей и беспилотных летательных аппаратов, Вашингтону необходимо взять на себя ведущую роль в разработке правил  для того, как беспилотные транспортные средства могут избежать столкновений — и потенциальной эскалации — с системами из Пекина, согласно новому докладу вашингтонского Центра новой американской безопасности.

Результаты получены в ходе эксперимента, проведенного CNAS и Институтом Гувера. Нелогичный вывод участников-экспертов: даже если Китай не согласится с новыми протоколами безопасности для беспилотных летательных аппаратов и беспилотных судов — или согласится, а затем нарушит соглашение — США и их союзникам все равно стоит принять их в одностороннем порядке. Это лучший способ снизить риск несчастных случаев или, что еще хуже, управляемой алгоритмами эскалации, которой никто не хочет.

Действующие правила как в воздухе, так и на море неадекватны, двусмысленны или просто неприменимы, когда речь заходит о беспилотных системах, утверждает ученый CNAS Том Шугарт, который организовал эксперимент и описал его в предстоящем отчете, опубликованном эксклюзивно для Breaking Defense.

Начиная с Конвенции ООН по морскому праву, которую США соблюдают, хотя Сенат так и не ратифицировал ее, и заканчивая двусторонними меморандумами между Вашингтоном и Пекином, существующие соглашения либо предусматривают меры предосторожности, которые беспилотное судно не может принимать по определению, либо просто полностью их исключают, явно распространяется только на воздушные и морские суда, имеющие экипажи.

Итак, Шугарт, командир подводной лодки ВМС в отставке, разработал различные варианты будущих "мер укрепления доверия", начиная от проекта заявления США о новых нормах и заканчивая обширными американо-китайскими переговорами. Затем он работал с Жаклин Шнайдер, директором Hoover's Wargaming and Crisis Simulation Initiative, над разработкой эксперимента-игры.

Действие игры разворачивается через шесть лет, и в ней рассматривается слишком вероятный кризис в Южно-Китайском море. Как и в прошлом, США в игре развернули авианосную ударную группу для поддержки союзника, в данном случае Филиппин, против китайских вторжений в спорные воды и воздушное пространство.

Обе сверхдержавы развернули крупные силы беспилотных мини-подводных лодок, надводных кораблей и беспилотных летательных аппаратов, подобных тем, которые предусмотрены инициативой Пентагона "Репликатор". Поскольку многие системы с обеих сторон управляются либо дистанционным управлением (что резко ограничивает возможности восприятия операторами-людьми, даже когда связь работает), либо искусственным интеллектом, а история военно-морского флота и китайская доктрина подчеркивают решающее преимущество нанесения удара первыми, как можно удержать дронов — и ситуацию — под контролем?

Даже высококвалифицированные люди могут совершать смертельные ошибки с международными последствиями. Рассмотрим летчика-истребителя ВМС Китая, лейтенанта Ван Вэя, который столкнулся с американским самолетом-разведчиком EP-3 в 2001 году, убив Вана и вынудив EP-3 совершить вынужденную посадку на острове Хайнань, где экипаж пребывал несколько недель. 

Теперь представьте, что может произойти, когда люди с обеих сторон пытаются управлять ситуацией с высокими ставками с помощью дистанционного управления или когда обе стороны принимают решения с помощью непредсказуемых и склонных к галлюцинациям алгоритмов искусственного интеллекта. В таких деликатных и опасных ситуациях, утверждал Шугарт, США выиграли бы от четких, ясно озвученных правил — даже если бы это была единственная страна, которая им следовала.

Прежде всего, "США, скорее всего, мало что отдают, потому что именно так мы, вероятно, запрограммировали бы наши БТС (беспилотные транспортные средства) для работы в любом случае", — сказал Шугарт в интервью Breaking Defense. Во-вторых, публичное заявление США и тихоокеанских партнеров помогает установить параметры дебатов на американских условиях и оказывает давление на Пекин, чтобы он умерил свое собственное поведение, а также, как мы надеемся, провел переговоры в дальнейшем.

Наконец, пожалуй, самый важный момент заключается в том, что, даже если китайские беспилотные системы ведут себя непредсказуемо или небезопасно, по крайней мере, США могут не вносить свой вклад в неразбериху, снижая риск аварий. Это похоже на гражданские правила: конечно, вы можете вести машину максимально ответственно и все равно попасть под машину лихача, но общий риск несчастных случаев все равно намного меньше, чем если бы вы сами водили машину как безумец.

Хотя Шугарт не говорит об этом в своем отчете, подход "свободный мир прежде всего" хорошо согласуется с тем, как Министерство обороны и Госдепартамент продвигают международное сотрудничество по ответственному использованию искусственного интеллекта и автоматизации в военных целях. Вместо того чтобы позволить Китаю задавать темп или ждать, пока давно зашедшая в тупик Группа правительственных экспертов ООН в Женеве разработает обязательное международное право, США создают коалицию, сосредоточенную на своих давних союзниках, но выходящую за их пределы.

Шугарт признает в своем отчете, что трудно разработать новые международные нормы, не говоря уже о том, чтобы заставить конкурирующие страны соблюдать их. Но есть времена и места, где такие нормы действовали или, даже в случае нарушения, по крайней мере помогали сдерживать насилие. Он утверждает, что в быстро меняющемся, все более автоматизированном мире, где риск случайных столкновений выше, чем когда-либо, это того стоит.

"Процесс переговоров о мерах укрепления доверия для неуправляемых систем, вероятно, будет трудным, и Китай вполне может мало чем помочь в этом вопросе", — сказал Шугарт в интервью Breaking Defense. — "Учитывая связанные с этим риски, все же, возможно, стоит попытаться добиться некоторого прогресса или, по крайней мере, отложить некоторые конкретные предложения до лучших времен".