| 3 июня 2022 г. — 7:28 PT
Axon, компания, изобретшая электрошокеры Taser, заявляет, что «официально» начала разработку дрона с электрошокером для решения хронической проблемы вооруженного насилия в Америке. Эта концепция, против которой единогласно проголосовал собственный Консультативный совет по этике ИИ компании, вызвала немедленную негативную реакцию и презрение со стороны пользователей социальных сетей.
Axon утверждает, что дроны с электрошокерами, которые выпускают пару шипованных дротиков, доставляющих парализующий электрический заряд, будут играть ключевую роль в долгосрочном плане компании по обнаружению и предотвращению массовых расстрелов менее чем за 60 секунд. Эта идея зрела внутри компании уже некоторое время. Впервые генеральный директор и основатель Axon Рик Смит подробно описал такую систему в своей книге 2019 года The End of Killing.
Смит хочет, чтобы дроны с электрошокерами были установлены в школах и других общественных местах, чтобы играть ту же роль, что и спринклеры и другие средства пожаротушения для пожарных: предотвращать катастрофические события или, по крайней мере, смягчать их худшие последствия.
«Конечно, я осознаю риски, связанные с таким предложением, и понимаю, что некоторым оно покажется нелепым», — говорит Смит. «Именно поэтому мы должны начать с оговорки: мы не можем внедрять что-либо подобное нелетальным дронам в школы без тщательного обсуждения и законов, регулирующих их использование».
Запятнанная история электрошокеров
Прежде чем перейти к правовой базе, которую Смит предлагает для предотвращения злоупотребления дронами с электрошокерами, стоит отметить, что «нелетальный» может быть не самым точным описанием энергетического оружия, которое, по данным журналистских расследований, привело к сотням смертей.
В 2019 году Reuters сообщило, что задокументировало по меньшей мере 1081 смерть после применения электрошокеров в США – почти все случаи произошли с тех пор, как оружие начало широко применяться в начале 2000-х годов. Во многих из этих случаев электрошокер использовался в сочетании с другими силовыми мерами, такими как удары руками или удерживающие захваты.
Более недавнее расследование USA Today относительно использования электрошокеров полицией показывает, что четыре из пяти случаев, закончившихся смертью, начались с вызовов по некриминальным происшествиям, причем 84% жертв были безоружны. В случаях, когда можно было определить расу, на чернокожих приходилось почти 40% погибших, что примерно в три раза больше их доли в населении США.
Три закона для дронов экстренных служб
Тем временем Смит убежден, что «Три закона для дронов экстренных служб», установленные им, могут служить этической и правовой основой для защиты систем дронов с электрошокерами. Вот что он предлагает:
- Решения принимаются людьми, которые несут ответственность: Роботы должны управляться авторизованными операторами-людьми, которые несут юридическую и моральную ответственность за любое решение, затрагивающее человека.
- Дроны должны использоваться для спасения жизней, а не для их отнятия: Операторы дронов, которые не находятся в непосредственной опасности, обязаны по возможности деэскалировать ситуацию и применять минимально необходимую силу. Должна применяться только нелетальная сила.
- Агентства должны обеспечивать строгий надзор и прозрачность для гарантии приемлемого использования: Учреждения, использующие роботов, способных применять силу, должны разработать общедоступные политики, заранее описывающие типы обстоятельств, при которых роботы должны быть развернуты. Каждый случай применения силы с использованием роботизированной системы должен быть записан с аудио-видео и операционными данными для рассмотрения надзорным комитетом.
Заявление Консультативного совета по этике ИИ
Собственный Консультативный совет по этике ИИ Axon в течение года тщательно обсуждал эту основу, прежде чем попросить компанию полностью отказаться от этой идеи в прошлом месяце. Именно поэтому после того, как Axon публично объявила о разработке дронов с электрошокерами, Совет был вынужден выпустить заявление, назвав действия компании «глубоко прискорбными». Вот некоторые выдержки из этого заявления:
С согласия Axon, Этический совет решил рассмотреть только ограниченный пилотный проект дрона, оснащенного электрошокером Taser, который будет использоваться только полицией. Совет провел обширные дискуссии с Axon о потенциальных полезных применениях такой технологии. Совет также рассмотрел потенциальные социальные издержки, включая серьезные опасения по поводу злоупотребления электрошокерами и возможность того, что развертывание вооруженных дронов и роботов может увеличить частоту применения силы, особенно в чрезмерно контролируемых сообществах и сообществах цветного населения. Этический совет тщательно работал над определением всех необходимых мер предосторожности, которые должны быть приняты, чтобы сделать даже такой ограниченный пилотный проект сколько-нибудь правдоподобным.
Проделав эту работу и подробно обсудив, большинство членов Этического совета в прошлом месяце в конечном итоге высказалось против того, чтобы Axon двигалась вперед, даже на этих ограниченных условиях.
Решение Axon публично объявить о том, что компания продолжает разработку дронов и роботов с электрошокерами Taser для размещения в школах и управления кем-либо, кроме полиции, вызывает у нас значительные опасения. Это заметное расширение того, что Совет подробно обсуждал.
Анонс Axon был сделан до того, как компания начала находить рабочие решения для устранения многих уже заявленных Советом опасений по поводу гораздо более ограниченного пилотного проекта, который мы рассматривали, и до предоставления какой-либо возможности оценить влияние этой технологии на сообщества. Теперь Axon объявила, что не будет ограничивать технологию правоохранительными органами, а сделает ее более широко доступной. А аспект наблюдения за этим предложением для нас совершенно нов.
Разумные люди могут расходиться во мнениях относительно преимуществ дронов с электрошокерами Taser под контролем полиции – наш собственный Совет разошелся во мнениях внутри компании – но мы единодушно обеспокоены процессом, который Axon использовала в отношении этой идеи дронов в школьных классах.
Здесь стоит подчеркнуть, что роль этого Этического совета в Axon чисто консультативная. Хотя компания слушала советы Совета в прошлом, она не обязана это делать. Axon теперь просит Совет пересмотреть свое решение, поскольку оно было принято до массовых расстрелов в Буффало и Ювалде.
Общественное негодование по поводу концепции дронов с электрошокерами от Axon
Но Консультативный совет Axon не одинок в своем противодействии концепции дронов с электрошокерами. Как отмечает некоммерческая организация Electronic Frontier Foundation в своем редакционном материале:
Если полиция получит дроны с электрошокерами, они не будут пылиться на складе до следующей чрезвычайной ситуации с массовой стрельбой. История это доказала. Мы увидим их парящими над протестами и торговыми районами. Мы услышим новости о том, как полиция использует дрон для применения электрошокера к кому-то за вандализм, мелкую кражу или побег от дрона. Вопрос будет не в том, будет ли это, а когда.
Ромео Дюршер, который курировал общественную безопасность в DJI, прежде чем перейти в Auterion, говорит, что идея дрона с электрошокером возникла в обсуждениях с Axon более пяти лет назад. Дюршер чувствует себя так же неловко по поводу этой концепции сейчас, как и тогда. Вот что говорит Дюршер:
В 2016 году робот доставил взрывное устройство в Далласе для нейтрализации угрозы. То, что когда-то использовалось для обезвреживания взрывного устройства, теперь стало средством доставки взрывного устройства. Эти события изменили способ использования и восприятия мобильной робототехники не только за пределами зон боевых действий, но и в повседневных городских условиях. Это вызвало этические вопросы, которые нужно было обсудить. Пришли ли мы к выводу? Я не думаю.
Даже вооружение небольшого дрона нелетальными средствами кажется сигналом или шагом к большему принятию этого, когда, конечно, основная проблема — это безумие массовых расстрелов по всей территории США.
Однако FAA пока не прокомментировала предложение Axon. Хотя «общественности» запрещено использовать дрон с прикрепленным опасным оружием, агентство, вероятно, выдаст специальные разрешения для дронов с электрошокерами, если такая система когда-либо будет реализована.
Reddit AMA о дронах с электрошокерами
Axon заявляет, что сотрудничает с различными поставщиками аппаратного обеспечения для дронов и выберет финального(ых) партнера(ов) по разработке позже в этом году. Функциональный концепт будет доступен в 2023 году, а полномасштабное решение — в 2024 году.
Однако компания обязуется прислушиваться к опасениям и отзывам общественности, начиная с того, что генеральный директор Рик Смит проведет Reddit AMA в пятницу, 3 июня, в 13:00 по восточному времени. Увидимся там.
Читайте также: Северная Дакота протестирует 6 новых сценариев полетов дронов BVLOS этим летом