Slaughterbots — это пропагандистский видеоролик 2017 года о контроле над вооружениями, представляющий драматизированный сценарий ближайшего будущего, в котором рои недорогих микродронов используют искусственный интеллект и программное обеспечение для распознавания лиц , чтобы убивать политических оппонентов на основе заранее запрограммированных критериев. Он был выпущен Институтом будущего жизни и Стюартом Расселом , профессором компьютерных наук в Беркли . [1] На YouTube видео быстро стало вирусным, собрав более двух миллионов просмотров [2] [3] и было показано на заседании Конвенции ООН о конкретных видах обычного оружия в Женеве в том же месяце. [4]
Намек фильма на то, что рои таких «роботов-убийц» — миниатюрных, летающих, автономных смертоносных орудий — могут стать в ближайшем будущем настоящим оружием массового поражения, оказался спорным. [2] [5] [6]
В сиквеле, Slaughterbots – if human: kill() (2021), были представлены дополнительные гипотетические сценарии нападений на мирных жителей и снова содержался призыв к ООН запретить автономное оружие, нацеленное на людей. [7]
Драма, продолжительностью семь минут, разворачивается в недалеком будущем в стиле «Черного зеркала» . [8] [9] Небольшие автономные дроны размером с ладонь, использующие распознавание лиц и формованные взрывчатые вещества, можно запрограммировать на поиск и устранение известных лиц или классов лиц (например, лиц, одетых в военную форму противника). Технический руководитель заявляет, что ядерное оружие теперь «устарело»: заказ «неудержимых» дронов стоимостью 25 миллионов долларов может уничтожить полгорода. По мере развития видео технология перепрофилируется неизвестными сторонами для убийства политических оппонентов, от действующих конгрессменов до студентов-активистов, идентифицированных по их профилям в Facebook . В одной из сцен роящиеся дроны координируют свои действия, чтобы проникнуть в здание: более крупный дрон проделывает дыру в стене, чтобы дать доступ более мелким. [1] [10] [11]
За драматизацией следует сорокасекундная мольба Рассела: «Этот короткий фильм — больше, чем просто предположение; он показывает результаты интеграции и миниатюризации технологий, которые у нас уже есть ... Потенциал ИИ в плане пользы человечеству огромен, даже в плане обороны, но позволить машинам выбирать убийство людей будет иметь разрушительные последствия для нашей безопасности и свободы». [10] [12]
По словам Рассела, «то, что мы пытались показать, было свойством автономного оружия автоматически превращаться в оружие массового поражения, потому что вы можете запустить столько, сколько захотите... и поэтому мы подумали, что видео сделает это очень ясным». Рассел также выразил желание заменить нереалистичную и бесполезную концепцию автономного оружия в стиле голливудского Терминатора чем-то более реалистичным. [13] Видео было произведено Space Digital в MediaCityUK и срежиссировано Стюартом Саггом с натурными съемками в Университете Хартфордшира [14] и в Эдинбурге . Эдинбург был выбран, потому что создателям фильма «нужны были улицы, которые были бы пусты воскресным утром» для кадров вооруженной полиции, патрулирующей безлюдные улицы, и потому что это место узнаваемо для международной аудитории. [15] Все дроны были добавлены на этапе пост-продакшна. [13] [16]
В декабре 2017 года The Economist оценил осуществимость Slaughterbots в отношении программ микродронов MAST и DCIST США. В настоящее время у MAST есть циклокоптер, который весит менее 30 граммов, но у него есть недостаток в том, что его легко нарушает собственная отраженная турбулентность, когда он слишком близко к стене. Другим кандидатом является что-то вроде Salto, 98-граммового прыгающего робота , который работает лучше циклокоптеров в замкнутых пространствах. Уровень автономной координации между дронами, показанный в Slaughterbots , не был недоступен по состоянию на 2017 год, но это начинает [ когда? ] меняться, [ по мнению кого? ] с использованием роев дронов для воздушных демонстраций . В целом The Economist согласился, что «роботы-убийцы» могут стать осуществимыми в обозримом будущем: «В 2008 году идея шпионского дрона, который можно было бы держать на ладони, была идеей из научной фантастики. Сейчас такие дроны стали обычным явлением ... Когда в 2022 году DCIST завершится, идея роботов-убийц может показаться гораздо менее фантастической, чем сейчас». The Economist скептически относится к тому, что контроль над вооружениями может предотвратить такую милитаризацию роев дронов: «Как кто-то сказал о ядерном оружии после того, как было взорвано первое, единственный секрет, который стоит хранить, теперь раскрыт: эти чертовы штуки работают». [1]
В апреле 2018 года правительственный Швейцарский центр беспилотников и робототехники , ссылаясь на Slaughterbots , испытал 3-граммовый кумулятивный заряд на модели головы и пришел к выводу, что «травмы настолько серьезны, что шансы на выживание очень малы». [17] [18]
По состоянию на 2020 год [обновлять]DARPA активно работало над предэксплуатационными прототипами, которые сделали бы стаи автономных смертоносных дронов доступными для американских военных. [19]
В декабре 2017 года Пол Шарре из Центра новой американской безопасности оспорил осуществимость сценария видео, заявив, что «У каждой военной технологии есть контрмеры, а контрмеры против небольших дронов даже не гипотетические. Правительство США активно работает над способами сбивать, глушить, поджаривать, взламывать, заманивать в ловушку или иным образом побеждать небольшие дроны. Микродроны на видео можно победить чем-то таким простым, как проволочная сетка. На видео показаны дроны с более тяжелой полезной нагрузкой, которые проделывают дыры в стенах, чтобы другие дроны могли проникнуть внутрь, но решение заключается просто в многоуровневой обороне». Шарре также заявил, что подразумеваемое предложение Рассела, юридически обязывающий договор, запрещающий автономное оружие, «не решит реальных проблем, с которыми сталкивается человечество по мере развития автономности в вооружениях. Запрет не остановит террористов от создания грубого самодельного роботизированного оружия ... На самом деле, даже не ясно, запретит ли запрет оружие, показанное на видео, которое на самом деле является довольно дискриминационным». [2]
В январе 2018 года Стюарт Рассел и три других автора подробно ответили Шарре. Их разногласия касались в первую очередь вопроса о том, являются ли «роботы-убийцы», представленные в видео, «потенциально масштабируемым оружием массового поражения (ОМП)». Они пришли к выводу, что «Мы и многие другие эксперты по-прежнему считаем правдоподобным мнение о том, что автономное оружие может стать масштабируемым оружием массового поражения. Утверждение Шарре о том, что запрет будет неэффективным или контрпродуктивным, не соответствует историческим данным. Наконец, идея о том, что безопасность человека будет повышена за счет нерегулируемой гонки вооружений в области автономного оружия, в лучшем случае является принятием желаемого за действительное». [5]
Мэтт Макфарланд из CNN высказал мнение, что «Возможно, самый кошмарный, антиутопический фильм 2017 года не вышел из Голливуда». Макфарланд также заявил, что дебаты о запрете роботов-убийц приняли «сенсационный» оборот: в 2015 году «они опирались на открытые письма и петиции с академическим языком» и использовали сухой язык, например, «вооруженные квадрокоптеры». Теперь, в 2017 году, «они предупреждают о „роботах-убийцах “ ». [20]
Эндрю Янг связался со Slaughterbots в твите во время своей предвыборной кампании на пост президента США в 2020 году. [21]
Видео сиквела, опубликованное 30 ноября 2021 года, к 8 декабря набрало более двух миллионов просмотров на YouTube. [22]