Футуристика вооружённых сил
358,526
864
|
donbass.hellas ( Слушатель ) |
| 03 мар 2024 20:20:45 |
Иполльзование ИИ американцами
новая дискуссия Дискуссия 567
Попалась статья со ссылкой на Блумберг. Каким-то образом проскочила через гугл перевод у меня ВОЙНА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА УЖЕ ЗДЕСЬ
Как я понял,описывается система Maven (не путать с maven), которая должна распознавать образы
Оригинал здесь - Статья , но к сожалению - там по подписке (для меня, по крайней мере)
привожу перевод (как есть):
ВОЙНА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА УЖЕ ЗДЕСЬ
Военные операторы США поначалу скептически относились к ИИ, но теперь именно они разрабатывают и используют Project Maven для определения целей на поле боя.
Автор: Катрина Мэнсон.
Иллюстрации Йоши Содеока.
28 февраля 2024 г., 19:00 по восточному стандартному времени.
Летним вечером 2020 года в Форт-Либерти, обширной базе армии США в Северной Каролине, солдаты 18-го воздушно-десантного корпуса изучали спутниковые изображения на компьютерах своего командного пункта. Они были не единственными, кто искал. Несколькими минутами ранее программа искусственного интеллекта просканировала изображения и получила инструкции по идентификации и предложению целей.
Программа просила человеческий разум подтвердить свой выбор: списанный танк. После того, как они решили, что ИИ все сделал правильно, система отправила сообщение на M142 Himars — или высокомобильную артиллерийскую ракетную систему, колесную ракетную установку, которая является основой артиллерийских сил Америки — с указанием открыть огонь. Ракета просвистела в воздухе и нашла свою цель, уничтожив танк.
Этот взрыв не был похож ни на один другой из сотен учений с боевой стрельбой, которые проводятся каждый год на 146 000 акрах тренировочных полигонов Форта Либерти. Фактически, такого прецедента в армии не было. Впервые американские солдаты поразили цель, обнаруженную и идентифицированную программой искусственного интеллекта. Полковник Джозеф О'Каллаган, координатор огневой поддержки 18-го полка и руководитель его усилий по нацеливанию с помощью искусственного интеллекта, хранит в конференц-зале фотографию того момента, когда танк охвачен ярким огненным шаром. «Это показало нам искусство возможного», — говорит он.
Менее чем через четыре года после этого события использование Америкой ИИ в войне больше не является теоретическим. За последние несколько недель алгоритмы компьютерного зрения, которые являются частью флагманского проекта Министерства обороны США в области искусственного интеллекта, Project Maven , обнаружили ракетные установки в Йемене и надводные корабли в Красном море, а также помогли сузить цели для ударов в Ираке и Сирии. По словам Шайлер Мур, главного технического директора Центрального командования США . США — не единственная страна, сделавшая этот скачок: израильские военные заявили, что используют ИИ для выработки рекомендаций по выбору целей в секторе Газа , а Украина использует программное обеспечение ИИ , пытаясь отразить российское вторжение.
Переход ИИ из лабораторных условий в боевые — одна из самых сложных проблем, стоящих перед военными лидерами. Сторонники его быстрого внедрения убеждены, что скоро боевые действия будут происходить со скоростью, превышающей скорость, которую может уловить человеческий мозг. Но технологи обеспокоены тем, что сети и данные американских военных еще недостаточно хороши, чтобы справиться с ситуацией? Передовые войска не хотят доверять свою жизнь программному обеспечению, в работе которого они не уверены? а специалисты по этике обеспокоены мрачной перспективой оставить потенциально фатальные решения машинам. Тем временем некоторые в Конгрессе и аналитические центры-ястребы подталкивают Пентагон действовать быстрее, обеспокоенные тем, что США могут отставать от Китая, который имеет национальную стратегию стать «главным мировым центром инноваций в области искусственного интеллекта» к 2030 году.
18-й, силы быстрого реагирования численностью 90 000 солдат , является крупнейшим оперативным испытательным полигоном для Maven, системы, построенной на основе мощных алгоритмов, предназначенных для идентификации личного состава и техники на поле боя. Опираясь на достижения в области машинного обучения, система может научиться выбирать объекты на основе обучающих данных и отзывов пользователей. Модели ИИ Пентагона также могут узнать, будут ли изменения в объектах значительными — например, предполагая, что противник строит новый военный объект. Все это объединяется с такой информацией, как спутниковые снимки и данные геолокации, полученные из перехваченных сообщений, в едином компьютерном интерфейсе, называемом Maven Smart System.
Все большее число американских офицеров предсказывают, что ИИ изменит способы ведения войны между Америкой и ее врагами, ставя его в один ряд с радио и пулеметами по своему потенциалу революционизировать боевые действия. Пентагон, в котором теперь есть высокопоставленный чиновник , отвечающий за так называемую алгоритмическую войну, в своем бюджете на 2024 год запросил более 3 миллиардов долларов на деятельность, связанную с искусственным интеллектом . В качестве сигнала о своих возможных амбициях США недавно заявили в Организации Объединенных Наций, что международное право не требует человеческого контроля над автономным оружием.
Поскольку США, Китай и другие державы работают над внедрением искусственного интеллекта в свои вооруженные силы, преимущество будет принадлежать «тем, кто больше не смотрит на мир как люди», — писали в 2022 году военные исследователи Том Хокинс и Александр Котт. «Теперь мы можем быть цель чего-то безжалостного, существа, которое не спит».
ИИ или что-то в этом роде имеет долгую историю в Министерстве обороны. Во время холодной войны полуавтоматическая система ПВО наземной среды использовала ранние алгоритмы для обработки радиолокационных данных. В ходе операции «Буря в пустыне» инструмент анализа помог спланировать перемещения войск.
К середине 2000-х годов передовые позиции в этой области прочно вошли в гражданский мир. Ученый-компьютерщик Джеффри Хинтон стал пионером глубокого обучения , описав в 2006 году, как машины могут научиться идентифицировать объекты, имитируя нейронные сети мозга. Шесть лет спустя он и его коллеги обнаружили, что они обучили модель классифицировать 1,2 миллиона изображений с относительно небольшим количеством ошибок, используя алгоритм, который пытался приблизиться к человеческому различению. Инновации , которые в конечном итоге приведут к появлению сегодняшних инструментов искусственного интеллекта, таких как ChatGPT , уже находились в стадии разработки.
За развитием этих событий Уилл Ропер , бывший помощник министра ВВС США, руководивший отделом Пентагона, занимающимся передовыми технологиями, наблюдал с растущей тревогой. Он говорит, что в 2016 году Министерству обороны не хватало массового облачного хранилища или компьютерных данных, а чиновники плохо разбирались в машинном обучении.
Обеспокоенный тем, что военные не смогут разработать свои собственные инструменты в разумные сроки (крупным системам вооружений США может потребоваться от 15 до 20 лет, чтобы стать полностью работоспособными), Ропер предложил единую программу стоимостью 50 миллионов долларов по применению машинного обучения для автоматического распознавания целей. Традиционно выявление и классификация средств противника на поле боя было трудоемким процессом. Аналитики могут часами или днями просматривать спутниковые снимки и данные наблюдения, в основном полагаясь на собственные глаза. Хотя существовало и другое программное обеспечение для автоматического прицеливания, солдаты считали его слишком медленным и слишком склонным к неверным суждениям.
В 2017 году более широкая версия идеи Ропера была реализована в рамках управления разведки Министерства обороны под названием Project Maven — более официально — Межфункциональная группа по алгоритмической войне. Группа Maven приступила к оценке инструментов распознавания объектов от различных поставщиков, протестировав их на кадрах, снятых с дронов подразделениями SEAL ВМС США в Сомали. Ни одно из них не показало особенно хороших результатов, вспоминает Джейн Пинелис, которая руководила ранним тестированием и оценкой алгоритмической войны в Maven. (Сейчас она возглавляет группу инженеров в Университете Джонса Хопкинса.) Исходные изображения часто были слишком размытыми или сняты под углами, которые запутывали алгоритмы, или настолько плохо маркировались, что было трудно обучать модели. Программы вендоров также были непоследовательными. Один может обозначить объект просто как танк, другой — как Т-72 советской разработки. За пределами лаборатории производительность была еще хуже, где системы с трудом справлялись с плохими сетевыми соединениями и старыми компьютерами — распространенными проблемами в полевых условиях.
Другие проблемы возникли по мере роста Maven. В 2018 году тысячи инженеров Google , одного из первоначальных партнеров Пентагона, подписали письмо, протестующее против участия компании в «военных технологиях». Google не продлил свой контракт . Позже в том же году Пентагон официально освободил Maven от публичного раскрытия, утверждая, что информация о ее возможностях – и ограничениях – настолько конфиденциальна, что ее раскрытие может дать преимущество врагам Америки.
Как я понял,описывается система Maven (не путать с maven), которая должна распознавать образы
Оригинал здесь - Статья , но к сожалению - там по подписке (для меня, по крайней мере)
привожу перевод (как есть):
ВОЙНА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА УЖЕ ЗДЕСЬ
Военные операторы США поначалу скептически относились к ИИ, но теперь именно они разрабатывают и используют Project Maven для определения целей на поле боя.
Автор: Катрина Мэнсон.
Иллюстрации Йоши Содеока.
28 февраля 2024 г., 19:00 по восточному стандартному времени.
Летним вечером 2020 года в Форт-Либерти, обширной базе армии США в Северной Каролине, солдаты 18-го воздушно-десантного корпуса изучали спутниковые изображения на компьютерах своего командного пункта. Они были не единственными, кто искал. Несколькими минутами ранее программа искусственного интеллекта просканировала изображения и получила инструкции по идентификации и предложению целей.
Программа просила человеческий разум подтвердить свой выбор: списанный танк. После того, как они решили, что ИИ все сделал правильно, система отправила сообщение на M142 Himars — или высокомобильную артиллерийскую ракетную систему, колесную ракетную установку, которая является основой артиллерийских сил Америки — с указанием открыть огонь. Ракета просвистела в воздухе и нашла свою цель, уничтожив танк.
Этот взрыв не был похож ни на один другой из сотен учений с боевой стрельбой, которые проводятся каждый год на 146 000 акрах тренировочных полигонов Форта Либерти. Фактически, такого прецедента в армии не было. Впервые американские солдаты поразили цель, обнаруженную и идентифицированную программой искусственного интеллекта. Полковник Джозеф О'Каллаган, координатор огневой поддержки 18-го полка и руководитель его усилий по нацеливанию с помощью искусственного интеллекта, хранит в конференц-зале фотографию того момента, когда танк охвачен ярким огненным шаром. «Это показало нам искусство возможного», — говорит он.
Менее чем через четыре года после этого события использование Америкой ИИ в войне больше не является теоретическим. За последние несколько недель алгоритмы компьютерного зрения, которые являются частью флагманского проекта Министерства обороны США в области искусственного интеллекта, Project Maven , обнаружили ракетные установки в Йемене и надводные корабли в Красном море, а также помогли сузить цели для ударов в Ираке и Сирии. По словам Шайлер Мур, главного технического директора Центрального командования США . США — не единственная страна, сделавшая этот скачок: израильские военные заявили, что используют ИИ для выработки рекомендаций по выбору целей в секторе Газа , а Украина использует программное обеспечение ИИ , пытаясь отразить российское вторжение.
Переход ИИ из лабораторных условий в боевые — одна из самых сложных проблем, стоящих перед военными лидерами. Сторонники его быстрого внедрения убеждены, что скоро боевые действия будут происходить со скоростью, превышающей скорость, которую может уловить человеческий мозг. Но технологи обеспокоены тем, что сети и данные американских военных еще недостаточно хороши, чтобы справиться с ситуацией? Передовые войска не хотят доверять свою жизнь программному обеспечению, в работе которого они не уверены? а специалисты по этике обеспокоены мрачной перспективой оставить потенциально фатальные решения машинам. Тем временем некоторые в Конгрессе и аналитические центры-ястребы подталкивают Пентагон действовать быстрее, обеспокоенные тем, что США могут отставать от Китая, который имеет национальную стратегию стать «главным мировым центром инноваций в области искусственного интеллекта» к 2030 году.
18-й, силы быстрого реагирования численностью 90 000 солдат , является крупнейшим оперативным испытательным полигоном для Maven, системы, построенной на основе мощных алгоритмов, предназначенных для идентификации личного состава и техники на поле боя. Опираясь на достижения в области машинного обучения, система может научиться выбирать объекты на основе обучающих данных и отзывов пользователей. Модели ИИ Пентагона также могут узнать, будут ли изменения в объектах значительными — например, предполагая, что противник строит новый военный объект. Все это объединяется с такой информацией, как спутниковые снимки и данные геолокации, полученные из перехваченных сообщений, в едином компьютерном интерфейсе, называемом Maven Smart System.
Все большее число американских офицеров предсказывают, что ИИ изменит способы ведения войны между Америкой и ее врагами, ставя его в один ряд с радио и пулеметами по своему потенциалу революционизировать боевые действия. Пентагон, в котором теперь есть высокопоставленный чиновник , отвечающий за так называемую алгоритмическую войну, в своем бюджете на 2024 год запросил более 3 миллиардов долларов на деятельность, связанную с искусственным интеллектом . В качестве сигнала о своих возможных амбициях США недавно заявили в Организации Объединенных Наций, что международное право не требует человеческого контроля над автономным оружием.
Поскольку США, Китай и другие державы работают над внедрением искусственного интеллекта в свои вооруженные силы, преимущество будет принадлежать «тем, кто больше не смотрит на мир как люди», — писали в 2022 году военные исследователи Том Хокинс и Александр Котт. «Теперь мы можем быть цель чего-то безжалостного, существа, которое не спит».
ИИ или что-то в этом роде имеет долгую историю в Министерстве обороны. Во время холодной войны полуавтоматическая система ПВО наземной среды использовала ранние алгоритмы для обработки радиолокационных данных. В ходе операции «Буря в пустыне» инструмент анализа помог спланировать перемещения войск.
К середине 2000-х годов передовые позиции в этой области прочно вошли в гражданский мир. Ученый-компьютерщик Джеффри Хинтон стал пионером глубокого обучения , описав в 2006 году, как машины могут научиться идентифицировать объекты, имитируя нейронные сети мозга. Шесть лет спустя он и его коллеги обнаружили, что они обучили модель классифицировать 1,2 миллиона изображений с относительно небольшим количеством ошибок, используя алгоритм, который пытался приблизиться к человеческому различению. Инновации , которые в конечном итоге приведут к появлению сегодняшних инструментов искусственного интеллекта, таких как ChatGPT , уже находились в стадии разработки.
За развитием этих событий Уилл Ропер , бывший помощник министра ВВС США, руководивший отделом Пентагона, занимающимся передовыми технологиями, наблюдал с растущей тревогой. Он говорит, что в 2016 году Министерству обороны не хватало массового облачного хранилища или компьютерных данных, а чиновники плохо разбирались в машинном обучении.
Обеспокоенный тем, что военные не смогут разработать свои собственные инструменты в разумные сроки (крупным системам вооружений США может потребоваться от 15 до 20 лет, чтобы стать полностью работоспособными), Ропер предложил единую программу стоимостью 50 миллионов долларов по применению машинного обучения для автоматического распознавания целей. Традиционно выявление и классификация средств противника на поле боя было трудоемким процессом. Аналитики могут часами или днями просматривать спутниковые снимки и данные наблюдения, в основном полагаясь на собственные глаза. Хотя существовало и другое программное обеспечение для автоматического прицеливания, солдаты считали его слишком медленным и слишком склонным к неверным суждениям.
В 2017 году более широкая версия идеи Ропера была реализована в рамках управления разведки Министерства обороны под названием Project Maven — более официально — Межфункциональная группа по алгоритмической войне. Группа Maven приступила к оценке инструментов распознавания объектов от различных поставщиков, протестировав их на кадрах, снятых с дронов подразделениями SEAL ВМС США в Сомали. Ни одно из них не показало особенно хороших результатов, вспоминает Джейн Пинелис, которая руководила ранним тестированием и оценкой алгоритмической войны в Maven. (Сейчас она возглавляет группу инженеров в Университете Джонса Хопкинса.) Исходные изображения часто были слишком размытыми или сняты под углами, которые запутывали алгоритмы, или настолько плохо маркировались, что было трудно обучать модели. Программы вендоров также были непоследовательными. Один может обозначить объект просто как танк, другой — как Т-72 советской разработки. За пределами лаборатории производительность была еще хуже, где системы с трудом справлялись с плохими сетевыми соединениями и старыми компьютерами — распространенными проблемами в полевых условиях.
Другие проблемы возникли по мере роста Maven. В 2018 году тысячи инженеров Google , одного из первоначальных партнеров Пентагона, подписали письмо, протестующее против участия компании в «военных технологиях». Google не продлил свой контракт . Позже в том же году Пентагон официально освободил Maven от публичного раскрытия, утверждая, что информация о ее возможностях – и ограничениях – настолько конфиденциальна, что ее раскрытие может дать преимущество врагам Америки.
Отредактировано: donbass.hellas - 03 мар 2024 20:22:47
ОТВЕТЫ (2)
|
|
donbass.hellas ( Слушатель ) |
| 03 мар 2024 20:25:20 |
продолжение статьи часть 2
«Эта херня не работает»
Несмотря на уход Google, широкий круг других игроков в области технологий и обороны по-прежнему участвовал в Maven, и с тех пор к ним присоединились и другие. По словам людей, знакомых с программой и пожелавших остаться неназванными при обсуждении закрытой информации, основная платформа объединения данных, лежащая в основе системы, создана Palantir Technologies ; Amazon Web Services , ECS Federal , L3Harris Technologies , Maxar Technologies , Microsoft и Sierra Nevada также входят в число дюжины основных участников. Все либо отказались комментировать эту историю, либо не ответили на запросы о комментариях.
Постепенно Maven улучшался, и в 2020 году тогдашний командир О'Каллагана в 18-м полку попросил его выяснить, насколько он может быть полезен при нанесении ударов с применением оружия. О'Каллаган начал использовать его во все большем количестве учений с боевой стрельбой, включая артиллерийские испытания 2020 года в Форт-Либерти. В сотрудничестве с другими службами и союзниками США, такими как Великобритания, 18-я дивизия с тех пор использовала Maven и связанные с ней системы вооружения для поражения целей с бомбардировщиков, истребителей и дронов, а также моделировала, как это делать с подводных лодок. «Мы найдем его и нанесем удар», - говорит О'Каллаган. Будучи конкурентоспособным велосипедистом, он сравнивает улучшение систем искусственного интеллекта с сокращением времени в гонках за счет небольших изменений в тренировках и технике. В рамках одной из таких попыток он нанял студентов местных колледжей для маркировки более 4 миллионов изображений военных объектов, таких как военные корабли, помогая обучать алгоритмы Maven.
Сувенир в офисе Темпла. Фотограф: Корнелл Уотсон для Bloomberg Businessweek.
Но среди солдат, матросов и летчиков, которым пришлось использовать эту систему, был распространен скептицизм. В июле 2021 года, когда представитель Palantir предложил демо-версию Maven для Джоуи Темпла, который только что присоединился к 18-му в качестве старшего офицера по нацеливанию, Темпл отказался. Отец восьмерых детей и ветеран пяти боевых командировок в Ирак – на подоконнике в своем офисе в Форт-Либерти он хранит модель черепа в темно-бордовом берете подразделения, с кинжалом, зажатым в зубах – Темпл не собирался доверять ему. в новом программном обеспечении. «Это дерьмо не работает», вспоминает он свои мысли. «Я подумал: «Мне не нужна еще одна чертова штука с таргетингом». Мне все равно. У меня достаточно дерьма, с которым я могу попытаться справиться».
Месяц спустя Темпл начал менять свое мнение. Он помогал в эвакуации войск США и их союзников из Афганистана? в конечном итоге 120 000 человек будут эвакуированы из Кабула в опасных условиях. Темплу был предоставлен доступ к Maven Smart System, чтобы помочь разобраться в ситуации. На одном экране он мог объединить потоки данных, которые отслеживали движение самолетов, контролировали логистику, выявляли угрозы и показывали местонахождение ключевого персонала. «Я видел, как вокруг ходит генерал Донахью», — говорит он, имея в виду Криса Донахью, который сейчас является 18-м командиром и последним американским солдатом, покинувшим Афганистан. Так же могли сотни людей подключиться к одной и той же системе из Кабула, Пентагона и, по словам Темпла, Белого дома. «Именно тогда я стал верующим», - говорит он.
Платформа Maven значительно продвинулась вперед с момента своего появления. В дополнение к видеоизображениям он теперь может включать данные радиолокационных систем, которые видят сквозь облака, темноту и дождь, а также инфракрасных датчиков, обнаруживающих тепло, что позволяет ему искать интересующие объекты, такие как двигатели или оружейные заводы. Он также может анализировать невизуальную информацию, например, путем перекрестных ссылок на теги геолокации из электронного наблюдения и каналов социальных сетей. Эта технология помогла компьютерам занять четыре из шести мест в «цикле принятия решений» 18-го округа, процессе, который может завершиться приказом выстрелить. Программное обеспечение определяет, какие данные собирать, сопоставляет и анализирует полученную информацию и передает решение командира действовать — возможно, в систему вооружения. Люди сами решают, нажимать ли на курок.
По оценкам Темпла, с помощью Maven он теперь может согласовывать до 80 задач за час работы по сравнению с 30 без него. Он описывает процесс согласия с выводами алгоритма быстрым стаккато: «Принять. Принимать. Принимать." Полностью довериться компьютеру было бы еще быстрее, но Темпл говорит, что это приведет к ошибкам. «Я никогда не хочу, чтобы меня застали врасплох», - говорит он. «Нас застали врасплох, мы облажались».
После того как Россия вторглась в Украину в феврале 2022 года, усилия 18-й дивизии по разработке искусственного интеллекта приобрели новую актуальность. О'Каллаган, Темпл и еще 270 человек из штаба корпуса были направлены в гарнизон в Германии, приняв в качестве командного центра бывший зал для ракетбола. Maven Smart System была открыта на многих экранах. Офицер информационных операций и гражданских дел, попросившая не называть ее имени, поскольку она часто участвует в миссиях специальных операций, стала одной из тех, кто использовал программное обеспечение для информирования командующих армией.
Внимание офицера было сосредоточено на том, чтобы оценить, есть ли у украинцев в определенных районах желание сопротивляться российским силам. «Когда вы накладываете вещи друг на друга, вам начинают бросаться в глаза разные вещи», - говорит она. «Я бы отмечал на карте каждое событие, связанное с сопротивлением». Они варьировались от обыденных (наблюдение синих и желтых ленточек, привязанных к столбам забора) до жестоких, таких как нападения на российских чиновников в оккупированных зонах. Эти детали, наряду со многими другими, затем попали в секретную систему, которую американские командиры используют для информирования о своем понимании событий на местах.
О'Каллаган и Темпл отказались подробно рассказать, как Пентагон использует системы искусственного интеллекта, такие как Maven, для поддержки Украины. Но люди, знакомые с операциями и попросившие не называть их имени, учитывая деликатность темы, говорят, что США использовали спутниковую разведку и интеллектуальную систему Maven для передачи местоположений российского оборудования украинским силам, которые затем нацелились на эти объекты с помощью GPS-наведения. ракеты. Один из источников говорит, что помощь Киеву также помогла Пентагону гораздо лучше использовать инструменты искусственного интеллекта и стать более уверенным в своих прогнозах относительно того, как они могут быть использованы в конфликте с Китаем. (По словам другого человека, осведомленного о его разработке, за первые 10 месяцев поддержки Украины Maven претерпел более 50 раундов улучшений.)
Мне показали демонстрацию Maven, когда я посетил 18-ю конференцию в прошлом году. Он был основан на реальной операции начала 2023 года, когда корабль ВМС США эвакуировал американских граждан из Судана, который находился в разгаре гражданской войны. В случае моей демонстрации центральная карта системы была создана на основе несекретных спутниковых изображений. На поверхности желтые рамки отмечали места, где алгоритмы идентифицировали корабли в Аденском заливе. Синие области обозначают места, которые будут включены в список запрещенных для забастовок, например больницы и школы. В левой части экрана значки предлагают отдельные потоки данных, например каналы отслеживания судов, которые можно накладывать на карту. Имелась и функция «тактической линии передачи данных»: способ передачи решения командира о стрельбе из оружия непосредственно между машинами.
КАК РАБОТАЕТ MAVEN
ДАТЧИКИ
Помимо сбора неподвижных изображений и видео, радар с синтезированной апертурой может «видеть сквозь» облака, дождь и дым, а инфракрасные датчики обнаруживают тепло. Maven использует только международные данные.
Иллюстрация Криса Филпотта
ГЕОТЕГИ
IP-адреса, смартфоны и теги социальных сетей также могут предоставлять информацию о международном геолокации.
Иллюстрация Криса Филпотта
ИЗОБРАЖЕНИЯ
ИИ Maven обучен на изображениях военной техники, поэтому он может научиться идентифицировать конкретные объекты, аналогично CAPTCHA.
Иллюстрация Криса Филпотта
ИНТЕЛЛЕКТУАЛЬНАЯ СИСТЕМА MAVEN
Получая новые входные данные из реального мира, алгоритмы искусственного интеллекта Maven быстро определяют точки интереса, которые операторы могут проверить или отклонить.
С помощью интерфейса Maven Smart System, который объединяет несколько потоков данных, командиры могут сразу увидеть все поле боя. Например, прямоугольники с желтым контуром обозначают потенциальные цели, а прямоугольники с синим контуром обозначают дружественные силы или зоны, запрещенные для ударов, такие как школы или больницы.
Затем офицеры оценивают модели, чтобы принять решения относительно потенциальных действий, включая огонь из оружия.
Иллюстрация Криса Филпотта
В прошлом году Пентагон возложил основную ответственность за разработку Maven на Национальное агентство геопространственной разведки , которое специализируется на анализе картографии и изображений. Ее директор, вице-адмирал Фрэнк «Трей» Уитворт, является военно-морским офицером, который ранее занимал должность начальника разведки SEAL Team Six, подразделения, убившего Усаму бен Ладена . NGA, открывшая специальный офис в Форт-Либерти, сосредоточена на расширении потоков данных, скорости и возможностей Maven, которые затем развертываются для тестирования для 18-го и других пользователей в более чем ста местах по всему миру. Отзывы солдат затем могут быть включены в непрерывные этапы разработки. «Это идеальный брак», — говорит Уитворт.
Недавно Maven был реклассифицирован из проекта развития в «программу учета» — обозначение Пентагона, которое, вероятно, облегчит обеспечение дальнейшего финансирования. По словам Уитворта, платформа добилась некоторых из своих наиболее значительных технологических успехов с тех пор, как NGA взяла ее на себя, включая повышение точности идентификации. Уитворт говорит, что он «не стал бы смотреться в зеркало», если бы не разрабатывал систему нацеливания, которая могла бы «пересечь финишную черту». Но он говорит, что люди всегда будут контролировать системы искусственного интеллекта американских вооруженных сил, которые будут соблюдать законы вооруженных конфликтов. Более того, по его словам, не планируется позволять машинам решать, стоит ли стрелять и убивать.
О'Каллаган выражает это более красочно: «Это не Терминатор. Машины не принимают решения, они не собираются восставать и захватывать мир».
Это не означает, что машины не становятся все более важными. Мур из Центрального командования США рассказывает о событиях, произошедших с октября. 7 сентября, когда ХАМАС начал внезапное нападение на Израиль, дало американским силам еще один стимул ускорить внедрение искусственного интеллекта. Сейчас они время от времени участвуют в боевых действиях на Ближнем Востоке. В начале февраля США нанесли удары по более чем 85 целям в Ираке и Сирии в ответ на атаку поддерживаемых Ираном боевиков, в результате которой погибли три армейских резервиста, а также неоднократно бомбили объекты в Йемене. «Maven стал исключительно важен для нашей функции», — говорит Мур.
Мур, О'Каллаган и другие официальные лица, тем не менее, первыми признают, что их системам искусственного интеллекта предстоит пройти очень долгий путь и они не превзойдут процесс принятия решений человеком. Алгоритмы, отточенные в условиях пустыни на Ближнем Востоке (по понятным причинам являющиеся источником большей части реальных данных американских военных), гораздо хуже справляются с идентификацией объектов в других местах. В целом, говорит О'Каллаган, аналитики 18-го округа понимают это правильно в 84% случаев; для Maven это около 60%. Иногда система путает грузовик с деревом или оврагом. Танки, как правило, обнаружить легче всего, но с такими объектами, как зенитная артиллерия, а также когда снег или другие условия затрудняют анализ изображений, точность может упасть ниже 30%. По мнению Мура, «преимущество, которое вы получаете от алгоритмов, — это скорость», а недавние учения показали, что ИИ еще не готов рекомендовать порядок атаки или лучшее оружие для использования.
Другие опасения имеют более фундаментальный характер. Поскольку США и их союзники начинают полагаться на системы искусственного интеллекта, противники могут попытаться подорвать их работу, отравляя данные обучения или взламывая обновления программного обеспечения. Алгоритмы со временем могут потерять точность, а поскольку процесс принятия ими решений непрозрачен, их труднее тестировать, чем другие военные технологии. Все это означает, что, когда дело доходит до использования ИИ в полевых условиях, командирам придется судить, оправдывают ли военная необходимость и более широкий контекст риск ошибок. Спутать волну с военным кораблем - это одно? в худшем случае это может привести к безобидному падению ракеты в море. Использование ИИ для нацеливания на многолюдное наземное поле боя, где поблизости находятся гражданские лица, — это совсем другое дело.
«Эта херня не работает»
Несмотря на уход Google, широкий круг других игроков в области технологий и обороны по-прежнему участвовал в Maven, и с тех пор к ним присоединились и другие. По словам людей, знакомых с программой и пожелавших остаться неназванными при обсуждении закрытой информации, основная платформа объединения данных, лежащая в основе системы, создана Palantir Technologies ; Amazon Web Services , ECS Federal , L3Harris Technologies , Maxar Technologies , Microsoft и Sierra Nevada также входят в число дюжины основных участников. Все либо отказались комментировать эту историю, либо не ответили на запросы о комментариях.
Постепенно Maven улучшался, и в 2020 году тогдашний командир О'Каллагана в 18-м полку попросил его выяснить, насколько он может быть полезен при нанесении ударов с применением оружия. О'Каллаган начал использовать его во все большем количестве учений с боевой стрельбой, включая артиллерийские испытания 2020 года в Форт-Либерти. В сотрудничестве с другими службами и союзниками США, такими как Великобритания, 18-я дивизия с тех пор использовала Maven и связанные с ней системы вооружения для поражения целей с бомбардировщиков, истребителей и дронов, а также моделировала, как это делать с подводных лодок. «Мы найдем его и нанесем удар», - говорит О'Каллаган. Будучи конкурентоспособным велосипедистом, он сравнивает улучшение систем искусственного интеллекта с сокращением времени в гонках за счет небольших изменений в тренировках и технике. В рамках одной из таких попыток он нанял студентов местных колледжей для маркировки более 4 миллионов изображений военных объектов, таких как военные корабли, помогая обучать алгоритмы Maven.
Сувенир в офисе Темпла. Фотограф: Корнелл Уотсон для Bloomberg Businessweek.
Но среди солдат, матросов и летчиков, которым пришлось использовать эту систему, был распространен скептицизм. В июле 2021 года, когда представитель Palantir предложил демо-версию Maven для Джоуи Темпла, который только что присоединился к 18-му в качестве старшего офицера по нацеливанию, Темпл отказался. Отец восьмерых детей и ветеран пяти боевых командировок в Ирак – на подоконнике в своем офисе в Форт-Либерти он хранит модель черепа в темно-бордовом берете подразделения, с кинжалом, зажатым в зубах – Темпл не собирался доверять ему. в новом программном обеспечении. «Это дерьмо не работает», вспоминает он свои мысли. «Я подумал: «Мне не нужна еще одна чертова штука с таргетингом». Мне все равно. У меня достаточно дерьма, с которым я могу попытаться справиться».
Месяц спустя Темпл начал менять свое мнение. Он помогал в эвакуации войск США и их союзников из Афганистана? в конечном итоге 120 000 человек будут эвакуированы из Кабула в опасных условиях. Темплу был предоставлен доступ к Maven Smart System, чтобы помочь разобраться в ситуации. На одном экране он мог объединить потоки данных, которые отслеживали движение самолетов, контролировали логистику, выявляли угрозы и показывали местонахождение ключевого персонала. «Я видел, как вокруг ходит генерал Донахью», — говорит он, имея в виду Криса Донахью, который сейчас является 18-м командиром и последним американским солдатом, покинувшим Афганистан. Так же могли сотни людей подключиться к одной и той же системе из Кабула, Пентагона и, по словам Темпла, Белого дома. «Именно тогда я стал верующим», - говорит он.
Платформа Maven значительно продвинулась вперед с момента своего появления. В дополнение к видеоизображениям он теперь может включать данные радиолокационных систем, которые видят сквозь облака, темноту и дождь, а также инфракрасных датчиков, обнаруживающих тепло, что позволяет ему искать интересующие объекты, такие как двигатели или оружейные заводы. Он также может анализировать невизуальную информацию, например, путем перекрестных ссылок на теги геолокации из электронного наблюдения и каналов социальных сетей. Эта технология помогла компьютерам занять четыре из шести мест в «цикле принятия решений» 18-го округа, процессе, который может завершиться приказом выстрелить. Программное обеспечение определяет, какие данные собирать, сопоставляет и анализирует полученную информацию и передает решение командира действовать — возможно, в систему вооружения. Люди сами решают, нажимать ли на курок.
По оценкам Темпла, с помощью Maven он теперь может согласовывать до 80 задач за час работы по сравнению с 30 без него. Он описывает процесс согласия с выводами алгоритма быстрым стаккато: «Принять. Принимать. Принимать." Полностью довериться компьютеру было бы еще быстрее, но Темпл говорит, что это приведет к ошибкам. «Я никогда не хочу, чтобы меня застали врасплох», - говорит он. «Нас застали врасплох, мы облажались».
После того как Россия вторглась в Украину в феврале 2022 года, усилия 18-й дивизии по разработке искусственного интеллекта приобрели новую актуальность. О'Каллаган, Темпл и еще 270 человек из штаба корпуса были направлены в гарнизон в Германии, приняв в качестве командного центра бывший зал для ракетбола. Maven Smart System была открыта на многих экранах. Офицер информационных операций и гражданских дел, попросившая не называть ее имени, поскольку она часто участвует в миссиях специальных операций, стала одной из тех, кто использовал программное обеспечение для информирования командующих армией.
Внимание офицера было сосредоточено на том, чтобы оценить, есть ли у украинцев в определенных районах желание сопротивляться российским силам. «Когда вы накладываете вещи друг на друга, вам начинают бросаться в глаза разные вещи», - говорит она. «Я бы отмечал на карте каждое событие, связанное с сопротивлением». Они варьировались от обыденных (наблюдение синих и желтых ленточек, привязанных к столбам забора) до жестоких, таких как нападения на российских чиновников в оккупированных зонах. Эти детали, наряду со многими другими, затем попали в секретную систему, которую американские командиры используют для информирования о своем понимании событий на местах.
О'Каллаган и Темпл отказались подробно рассказать, как Пентагон использует системы искусственного интеллекта, такие как Maven, для поддержки Украины. Но люди, знакомые с операциями и попросившие не называть их имени, учитывая деликатность темы, говорят, что США использовали спутниковую разведку и интеллектуальную систему Maven для передачи местоположений российского оборудования украинским силам, которые затем нацелились на эти объекты с помощью GPS-наведения. ракеты. Один из источников говорит, что помощь Киеву также помогла Пентагону гораздо лучше использовать инструменты искусственного интеллекта и стать более уверенным в своих прогнозах относительно того, как они могут быть использованы в конфликте с Китаем. (По словам другого человека, осведомленного о его разработке, за первые 10 месяцев поддержки Украины Maven претерпел более 50 раундов улучшений.)
Мне показали демонстрацию Maven, когда я посетил 18-ю конференцию в прошлом году. Он был основан на реальной операции начала 2023 года, когда корабль ВМС США эвакуировал американских граждан из Судана, который находился в разгаре гражданской войны. В случае моей демонстрации центральная карта системы была создана на основе несекретных спутниковых изображений. На поверхности желтые рамки отмечали места, где алгоритмы идентифицировали корабли в Аденском заливе. Синие области обозначают места, которые будут включены в список запрещенных для забастовок, например больницы и школы. В левой части экрана значки предлагают отдельные потоки данных, например каналы отслеживания судов, которые можно накладывать на карту. Имелась и функция «тактической линии передачи данных»: способ передачи решения командира о стрельбе из оружия непосредственно между машинами.
КАК РАБОТАЕТ MAVEN
ДАТЧИКИ
Помимо сбора неподвижных изображений и видео, радар с синтезированной апертурой может «видеть сквозь» облака, дождь и дым, а инфракрасные датчики обнаруживают тепло. Maven использует только международные данные.
Иллюстрация Криса Филпотта
ГЕОТЕГИ
IP-адреса, смартфоны и теги социальных сетей также могут предоставлять информацию о международном геолокации.
Иллюстрация Криса Филпотта
ИЗОБРАЖЕНИЯ
ИИ Maven обучен на изображениях военной техники, поэтому он может научиться идентифицировать конкретные объекты, аналогично CAPTCHA.
Иллюстрация Криса Филпотта
ИНТЕЛЛЕКТУАЛЬНАЯ СИСТЕМА MAVEN
Получая новые входные данные из реального мира, алгоритмы искусственного интеллекта Maven быстро определяют точки интереса, которые операторы могут проверить или отклонить.
С помощью интерфейса Maven Smart System, который объединяет несколько потоков данных, командиры могут сразу увидеть все поле боя. Например, прямоугольники с желтым контуром обозначают потенциальные цели, а прямоугольники с синим контуром обозначают дружественные силы или зоны, запрещенные для ударов, такие как школы или больницы.
Затем офицеры оценивают модели, чтобы принять решения относительно потенциальных действий, включая огонь из оружия.
Иллюстрация Криса Филпотта
В прошлом году Пентагон возложил основную ответственность за разработку Maven на Национальное агентство геопространственной разведки , которое специализируется на анализе картографии и изображений. Ее директор, вице-адмирал Фрэнк «Трей» Уитворт, является военно-морским офицером, который ранее занимал должность начальника разведки SEAL Team Six, подразделения, убившего Усаму бен Ладена . NGA, открывшая специальный офис в Форт-Либерти, сосредоточена на расширении потоков данных, скорости и возможностей Maven, которые затем развертываются для тестирования для 18-го и других пользователей в более чем ста местах по всему миру. Отзывы солдат затем могут быть включены в непрерывные этапы разработки. «Это идеальный брак», — говорит Уитворт.
Недавно Maven был реклассифицирован из проекта развития в «программу учета» — обозначение Пентагона, которое, вероятно, облегчит обеспечение дальнейшего финансирования. По словам Уитворта, платформа добилась некоторых из своих наиболее значительных технологических успехов с тех пор, как NGA взяла ее на себя, включая повышение точности идентификации. Уитворт говорит, что он «не стал бы смотреться в зеркало», если бы не разрабатывал систему нацеливания, которая могла бы «пересечь финишную черту». Но он говорит, что люди всегда будут контролировать системы искусственного интеллекта американских вооруженных сил, которые будут соблюдать законы вооруженных конфликтов. Более того, по его словам, не планируется позволять машинам решать, стоит ли стрелять и убивать.
О'Каллаган выражает это более красочно: «Это не Терминатор. Машины не принимают решения, они не собираются восставать и захватывать мир».
Это не означает, что машины не становятся все более важными. Мур из Центрального командования США рассказывает о событиях, произошедших с октября. 7 сентября, когда ХАМАС начал внезапное нападение на Израиль, дало американским силам еще один стимул ускорить внедрение искусственного интеллекта. Сейчас они время от времени участвуют в боевых действиях на Ближнем Востоке. В начале февраля США нанесли удары по более чем 85 целям в Ираке и Сирии в ответ на атаку поддерживаемых Ираном боевиков, в результате которой погибли три армейских резервиста, а также неоднократно бомбили объекты в Йемене. «Maven стал исключительно важен для нашей функции», — говорит Мур.
Мур, О'Каллаган и другие официальные лица, тем не менее, первыми признают, что их системам искусственного интеллекта предстоит пройти очень долгий путь и они не превзойдут процесс принятия решений человеком. Алгоритмы, отточенные в условиях пустыни на Ближнем Востоке (по понятным причинам являющиеся источником большей части реальных данных американских военных), гораздо хуже справляются с идентификацией объектов в других местах. В целом, говорит О'Каллаган, аналитики 18-го округа понимают это правильно в 84% случаев; для Maven это около 60%. Иногда система путает грузовик с деревом или оврагом. Танки, как правило, обнаружить легче всего, но с такими объектами, как зенитная артиллерия, а также когда снег или другие условия затрудняют анализ изображений, точность может упасть ниже 30%. По мнению Мура, «преимущество, которое вы получаете от алгоритмов, — это скорость», а недавние учения показали, что ИИ еще не готов рекомендовать порядок атаки или лучшее оружие для использования.
Другие опасения имеют более фундаментальный характер. Поскольку США и их союзники начинают полагаться на системы искусственного интеллекта, противники могут попытаться подорвать их работу, отравляя данные обучения или взламывая обновления программного обеспечения. Алгоритмы со временем могут потерять точность, а поскольку процесс принятия ими решений непрозрачен, их труднее тестировать, чем другие военные технологии. Все это означает, что, когда дело доходит до использования ИИ в полевых условиях, командирам придется судить, оправдывают ли военная необходимость и более широкий контекст риск ошибок. Спутать волну с военным кораблем - это одно? в худшем случае это может привести к безобидному падению ракеты в море. Использование ИИ для нацеливания на многолюдное наземное поле боя, где поблизости находятся гражданские лица, — это совсем другое дело.
|
|
donbass.hellas ( Слушатель ) |
| 03 мар 2024 20:26:34 |
проложение статьи часть 3
«Это не Терминатор. Машины не принимают решения, они не собираются восставать и захватывать мир».
Несмотря на свои ограничения, США дали понять, что намерены расширить автономию своих алгоритмических систем. В прошлом году Министерство обороны издало директиву , предписывающую командирам и операторам проявлять «адекватный уровень человеческого суждения» в отношении применения силы, предполагая, что чиновники могут считать адекватным человеческий надзор, а не инициирование принятия решений.
Для активистов, которые боятся последствий предоставления машинам права убивать, это серьезный тревожный сигнал. Коалиция правозащитных и экспертных групп Stop Killer Robots заявляет, что нынешние обязательства США «крайне не соответствуют» достаточным гарантиям. Генеральный секретарь ООН Антониу Гутерреш возглавляет группу из более чем 80 стран, которые призвали к запрету автономных систем вооружения. «Машины, способные и по своему усмотрению уносить жизни без участия человека, морально отвратительны и политически неприемлемы и должны быть запрещены», — заявил Гутерриш в июле.
Не все опасения исходят из-за пределов армии. Полковник Такер «Синко» Гамильтон, офицер ВВС, который занимается тестированием и эксплуатацией ИИ, на недавней конференции изложил тревожный мысленный эксперимент. В изложенном им сценарии дрон с поддержкой ИИ, получив приказ отменить миссию, решает убить своего оператора, придя к выводу, что человек мешает достижению его цели. Гамильтон назвал эту перспективу «правдоподобной», хотя другой представитель ВВС позже назвал ее «довольно неправдоподобной». Подобные идеи пока остаются предметом научной фантастики, но тенденция к большей автономии очевидна. Лишь один пример: в рамках инициативы под названием «Репликатор», представленной в прошлом году, Пентагон обратился к подрядчикам с просьбой разработать автономные одноразовые дроны, которые он сможет закупать тысячами.
В целом у американских военных есть более 800 активных проектов искусственного интеллекта, цели которых включают, среди прочего, обработку данных датчиков оружия и планирование маршрутов пополнения запасов боеприпасов. Количество отдельных программ для армии, флота и авиации может стать источником напряженности. Один бывший высокопоставленный чиновник министерства обороны, пожелавший остаться неназванным из-за деликатности этой темы, говорит, что такая фрагментация, а также извечная проблема разрушения разрозненности среди военных служб и командований замедлит внедрение алгоритмической войны. Maven не застрахован от таких жалоб. Критики считают, что в ней слишком доминирует армия, она слишком сосредоточена на компьютерном зрении и слишком зависит от одного корпоративного партнера, Palantir. Некоторые также жалуются, что он просто не работает достаточно хорошо.
Над всеми этими усилиями нависает тревога по поводу Китая. Официальные лица США обеспокоены тем, что Пекин может оказаться впереди в таких технологиях, как глубокое обучение, и в стремлении интегрировать эти возможности в свои вооруженные силы. Обеспокоенность по поводу военного использования ИИ в Китае стала одной из причин, по которой Белый дом в октябре ввёл более строгий экспортный контроль над высокопроизводительными компьютерными чипами. Пентагон также добавил ведущего китайского производителя микросхем памяти и известную компанию по распознаванию лиц в список фирм, которые, по его словам, помогают Народно-освободительной армии Китая.
Когда дело доходит до Китая, разработка американского военного ИИ преследует две основные цели: предотвратить горячую войну, будь то из-за Тайваня или другой горячей точки, и быть готовыми к бою, если сдерживание потерпит неудачу. В прошлом году 18-я дивизия начала проводить учения по наведению ИИ совместно с Индийско-Тихоокеанским командованием США (Indopacom), которое отвечает за Тайваньский пролив, а также спорное Южно-Китайское море. Maven также был основным компонентом отдельного комплекса упражнений, моделирующих потенциальные угрозы в Индо-Тихоокеанском регионе с использованием инструментов искусственного интеллекта. Одной из целей было продвижение долгосрочных усилий по объединению датчиков, вооружения и других систем во всех видах вооруженных сил США, доставляя информацию командирам через один живой интерфейс — единое стекло, позволяющее видеть сквозь туман войны.
Тем не менее, военные командиры любят говорить, что противник имеет право голоса. В случае конфликта Китай почти наверняка попытается ослепить или уничтожить спутники и угрожать самолетам наблюдения, что затруднит получение данных, необходимых для функционирования Maven и других платформ нацеливания на искусственный интеллект. Некоторые офицеры обеспокоены тем, что, как бы ни улучшалась платформа, ее обучение (преимущественно на неподвижных объектах, таких как припаркованные самолеты) может сделать ее плохо подготовленной к войне с использованием сверхзвуковых самолетов и, возможно, даже более быстрых ракет. (Витворт, со своей стороны, говорит, что Maven полезен для движущихся целей.)
Одним из видных критиков темпов прогресса является Ропер, чиновник, который в первую очередь помог создать Maven. «Я все еще думаю, что Министерство Обороны еще не вышло за рамки стартовой площадки», - говорит он. «Мы сейчас так не готовы». Ропер представляет себе мир, в котором алгоритмы настолько важны в войне, что США будут запускать в бой дроны, ожидая, что их сбьют, просто чтобы попутно собрать разведданные. «Поля сражений, — говорит он, — будут напоминать битву за данные».
Донахью, командир 18-го полка, видит себя участником именно такого состязания. Будучи майором специальных операций в Афганистане, он широко использовал лучшее доступное на тот момент программное обеспечение, которое должно было просматривать кадры с дронов и распознавать объекты противника. Это был раздражающий опыт, и Донахью неоднократно жаловался, что программы недостаточно хороши. Несмотря на эти разочарования, он прилагает все усилия для более быстрой разработки Maven и других платформ искусственного интеллекта.
Он признает риски. Во-первых, говорит Донахью, будущим операторам придется постоянно беспокоиться о том, что злоумышленники отравили или разрушили их алгоритмические системы. Но он говорит, что на вопрос, принимать ли их, уже дан ответ. «У вас не будет выбора. Ваши противники решат за вас, что вы должны это сделать», — говорит Донахью. «Мы уже на пути: машины будут боевыми машинами, роботы будут боевыми роботами. Это уже происходит».
на что обратил бы внимание:
Алгоритмы, отточенные в условиях пустыни на Ближнем Востоке (по понятным причинам являющиеся источником большей части реальных данных американских военных), гораздо хуже справляются с идентификацией объектов в других местах. В целом, говорит О'Каллаган, аналитики 18-го округа понимают это правильно в 84% случаев; для Maven это около 60%. Иногда система путает грузовик с деревом или оврагом. Танки, как правило, обнаружить легче всего, но с такими объектами, как зенитная артиллерия, а также когда снег или другие условия затрудняют анализ изображений, точность может упасть ниже 30%.
и
Другие опасения имеют более фундаментальный характер. Поскольку США и их союзники начинают полагаться на системы искусственного интеллекта, противники могут попытаться подорвать их работу, отравляя данные обучения или взламывая обновления программного обеспечения.
«Это не Терминатор. Машины не принимают решения, они не собираются восставать и захватывать мир».
Несмотря на свои ограничения, США дали понять, что намерены расширить автономию своих алгоритмических систем. В прошлом году Министерство обороны издало директиву , предписывающую командирам и операторам проявлять «адекватный уровень человеческого суждения» в отношении применения силы, предполагая, что чиновники могут считать адекватным человеческий надзор, а не инициирование принятия решений.
Для активистов, которые боятся последствий предоставления машинам права убивать, это серьезный тревожный сигнал. Коалиция правозащитных и экспертных групп Stop Killer Robots заявляет, что нынешние обязательства США «крайне не соответствуют» достаточным гарантиям. Генеральный секретарь ООН Антониу Гутерреш возглавляет группу из более чем 80 стран, которые призвали к запрету автономных систем вооружения. «Машины, способные и по своему усмотрению уносить жизни без участия человека, морально отвратительны и политически неприемлемы и должны быть запрещены», — заявил Гутерриш в июле.
Не все опасения исходят из-за пределов армии. Полковник Такер «Синко» Гамильтон, офицер ВВС, который занимается тестированием и эксплуатацией ИИ, на недавней конференции изложил тревожный мысленный эксперимент. В изложенном им сценарии дрон с поддержкой ИИ, получив приказ отменить миссию, решает убить своего оператора, придя к выводу, что человек мешает достижению его цели. Гамильтон назвал эту перспективу «правдоподобной», хотя другой представитель ВВС позже назвал ее «довольно неправдоподобной». Подобные идеи пока остаются предметом научной фантастики, но тенденция к большей автономии очевидна. Лишь один пример: в рамках инициативы под названием «Репликатор», представленной в прошлом году, Пентагон обратился к подрядчикам с просьбой разработать автономные одноразовые дроны, которые он сможет закупать тысячами.
В целом у американских военных есть более 800 активных проектов искусственного интеллекта, цели которых включают, среди прочего, обработку данных датчиков оружия и планирование маршрутов пополнения запасов боеприпасов. Количество отдельных программ для армии, флота и авиации может стать источником напряженности. Один бывший высокопоставленный чиновник министерства обороны, пожелавший остаться неназванным из-за деликатности этой темы, говорит, что такая фрагментация, а также извечная проблема разрушения разрозненности среди военных служб и командований замедлит внедрение алгоритмической войны. Maven не застрахован от таких жалоб. Критики считают, что в ней слишком доминирует армия, она слишком сосредоточена на компьютерном зрении и слишком зависит от одного корпоративного партнера, Palantir. Некоторые также жалуются, что он просто не работает достаточно хорошо.
Над всеми этими усилиями нависает тревога по поводу Китая. Официальные лица США обеспокоены тем, что Пекин может оказаться впереди в таких технологиях, как глубокое обучение, и в стремлении интегрировать эти возможности в свои вооруженные силы. Обеспокоенность по поводу военного использования ИИ в Китае стала одной из причин, по которой Белый дом в октябре ввёл более строгий экспортный контроль над высокопроизводительными компьютерными чипами. Пентагон также добавил ведущего китайского производителя микросхем памяти и известную компанию по распознаванию лиц в список фирм, которые, по его словам, помогают Народно-освободительной армии Китая.
Когда дело доходит до Китая, разработка американского военного ИИ преследует две основные цели: предотвратить горячую войну, будь то из-за Тайваня или другой горячей точки, и быть готовыми к бою, если сдерживание потерпит неудачу. В прошлом году 18-я дивизия начала проводить учения по наведению ИИ совместно с Индийско-Тихоокеанским командованием США (Indopacom), которое отвечает за Тайваньский пролив, а также спорное Южно-Китайское море. Maven также был основным компонентом отдельного комплекса упражнений, моделирующих потенциальные угрозы в Индо-Тихоокеанском регионе с использованием инструментов искусственного интеллекта. Одной из целей было продвижение долгосрочных усилий по объединению датчиков, вооружения и других систем во всех видах вооруженных сил США, доставляя информацию командирам через один живой интерфейс — единое стекло, позволяющее видеть сквозь туман войны.
Тем не менее, военные командиры любят говорить, что противник имеет право голоса. В случае конфликта Китай почти наверняка попытается ослепить или уничтожить спутники и угрожать самолетам наблюдения, что затруднит получение данных, необходимых для функционирования Maven и других платформ нацеливания на искусственный интеллект. Некоторые офицеры обеспокоены тем, что, как бы ни улучшалась платформа, ее обучение (преимущественно на неподвижных объектах, таких как припаркованные самолеты) может сделать ее плохо подготовленной к войне с использованием сверхзвуковых самолетов и, возможно, даже более быстрых ракет. (Витворт, со своей стороны, говорит, что Maven полезен для движущихся целей.)
Одним из видных критиков темпов прогресса является Ропер, чиновник, который в первую очередь помог создать Maven. «Я все еще думаю, что Министерство Обороны еще не вышло за рамки стартовой площадки», - говорит он. «Мы сейчас так не готовы». Ропер представляет себе мир, в котором алгоритмы настолько важны в войне, что США будут запускать в бой дроны, ожидая, что их сбьют, просто чтобы попутно собрать разведданные. «Поля сражений, — говорит он, — будут напоминать битву за данные».
Донахью, командир 18-го полка, видит себя участником именно такого состязания. Будучи майором специальных операций в Афганистане, он широко использовал лучшее доступное на тот момент программное обеспечение, которое должно было просматривать кадры с дронов и распознавать объекты противника. Это был раздражающий опыт, и Донахью неоднократно жаловался, что программы недостаточно хороши. Несмотря на эти разочарования, он прилагает все усилия для более быстрой разработки Maven и других платформ искусственного интеллекта.
Он признает риски. Во-первых, говорит Донахью, будущим операторам придется постоянно беспокоиться о том, что злоумышленники отравили или разрушили их алгоритмические системы. Но он говорит, что на вопрос, принимать ли их, уже дан ответ. «У вас не будет выбора. Ваши противники решат за вас, что вы должны это сделать», — говорит Донахью. «Мы уже на пути: машины будут боевыми машинами, роботы будут боевыми роботами. Это уже происходит».
на что обратил бы внимание:
Алгоритмы, отточенные в условиях пустыни на Ближнем Востоке (по понятным причинам являющиеся источником большей части реальных данных американских военных), гораздо хуже справляются с идентификацией объектов в других местах. В целом, говорит О'Каллаган, аналитики 18-го округа понимают это правильно в 84% случаев; для Maven это около 60%. Иногда система путает грузовик с деревом или оврагом. Танки, как правило, обнаружить легче всего, но с такими объектами, как зенитная артиллерия, а также когда снег или другие условия затрудняют анализ изображений, точность может упасть ниже 30%.
и
Другие опасения имеют более фундаментальный характер. Поскольку США и их союзники начинают полагаться на системы искусственного интеллекта, противники могут попытаться подорвать их работу, отравляя данные обучения или взламывая обновления программного обеспечения.