| 9 декабря 2021 г. — 10:25 PT
Новое оруэлловское видео, выпущенное Институтом будущего жизни, призывает Организацию Объединенных Наций запретить рои дронов с искусственным интеллектом. Демонстрируя гипотетическое будущее, видео посмотрели более 3 миллионов раз – и даже пионер искусственного интеллекта Илон Маск выглядит встревоженным.
Хотя видео может быть нереальным, оно поднимает важные вопросы о будущем дронового оружия и правилах, регулирующих его.
«Slaughterbots – если бы это были люди: kill()» показывает, что может произойти, если автономное оружие будет следовать двум директивам: убивать мужчин и убивать женщин. В смонтированном под новостной выпуск видео показаны сценарии, которые уже кажутся знакомыми: целевые убийства, ограбления банков, нападения на избирательных участках, хаос в ночных клубах. Но за всем этим стоят бездушные, неудержимые машины.
Вы можете посмотреть видео ниже, но имейте в виду, оно мрачное.
В более раннем видео Slaughterbots, выпущенном в 2017 году, квадрокоптеры с ИИ, разработанные военными, в конечном итоге попадают под контроль преступников и террористов. Это не заканчивается хорошо, особенно для группы старшеклассников.
Опять же, эксперты уверяют, что подобные технологии не будут выпущены в свободное плавание. И все же… ну, Илон Маск сказал это лучше всего.
FLI и такие группы, как Красный Крест и autonomousweapons.org, утверждают, что оружие, убивающее по алгоритму, а не по человеческому суждению, аморально и представляет угрозу глобальной безопасности. Они хотят международного запрета на оружие, которое использует искусственный интеллект для идентификации и убийства без вмешательства человека.
Запретить рои дронов с ИИ
Новая Зеландия настаивает на запрете, а сверхдержавы — нет. Это старый аргумент: если одна страна не разработает оружие, сделают это ее соперники.
Но профессор Макс Тегмарк, соучредитель FLI и исследователь ИИ в MIT, рассказал Forbes, что этот аргумент недействителен. Другие виды оружия массового уничтожения, такие как химические и биологические агенты, были успешно запрещены:
«Биологическое оружие также очень легко создать, но мощная комбинация стигмы и контроля успешно предотвратила его широкое применение», — говорит Тегмарк. «В национальных интересах США, Великобритании или Китая не является то, чтобы ОМП были настолько дешевыми, что все наши противники могли их себе позволить.
Запрет на «slaughterbot» будет стимулировать легальных производителей дронов проверять своих крупных клиентов, как это делают многие компании сегодня с технологиями, подпадающими под экспортный контроль».
Профессор Макс Тегмарк, соучредитель Института будущего жизни
Все это мрачные вещи, особенно в это время года. Но видео заканчивается на немного менее унылой ноте.
Двух комбатантов, готовых убить друг друга, замечает автономный дрон. Осознав общую угрозу, оба действуют, чтобы спасти свои жизни. Это лишь слабая надежда в видео, но потребуется больше, чем пара актеров, чтобы что-то изменить.