Человеческий глаз не способен разглядеть ничего особенного на снимке леса, сделанном с дрона, где растут однообразные деревья, видны тени и пятна снега. Однако системы искусственного интеллекта, настроенные на поиск людей, способны в разы лучше разобрать изображение. Такие системы мгновенно могут выделить красным крошечную человеческую фигуру — вероятно, солдата, притаившегося за деревом, пишет The New York Times.
За этим достижением стоят огромные объемы данных. Так же, как ChatGPT и другие чат-боты на базе искусственного интеллекта должны изучать, как люди пишут, военные системы ИИ должны изучать, как люди воюют. В Украине это происходит благодаря огромному архиву видеозаписей с поля боя, аудио- и текстовых данных, собранных в течение почти пяти лет.
Эту военную базу данных используют около 30 украинских оборонных компаний для разработки оружия на основе искусственного интеллекта. И теперь Украина открывает доступ к этому хранилищу под названием Avenger Labs для компаний из стран-союзниц, надеясь углубить партнерство в сфере безопасности.
Украина предоставляет данные бесплатно, но компании должны предоставлять украинским военным лицензии на любое программное обеспечение, которое они разрабатывают. Согласно первому соглашению, которое планируется заключить, доступ получат 12 британских оборонных компаний. Украина ведет переговоры с другими странами.
Западных компаний, разрабатывающих автономное оружие, хватает. Но, несмотря на это, существует дефицит данных, необходимых для его обучения. Украина может предложить их больше, чем любой другой потенциальный партнер.
Украина делится данными даже несмотря на то, что на международном уровне до сих пор не решено, как Женевские конвенции и другие нормы военного права применяются к оружию на базе искусственного интеллекта. Киев, испытывающий трудности с набором достаточного количества военных для удержания линии фронта и исчерпывающий запасы традиционного зенитного оружия для защиты своих городов, стремится ускорить разработку такого оружия для своей обороны.
Россия также собирает военные данные для использования в системах искусственного интеллекта. Неясно, как Москва обращается с этой информацией и делится ли ею со своими союзниками, такими как Иран, Китай и Северная Корея.
Большинство используемых в настоящее время систем беспилотников с искусственным интеллектом требуют подтверждения цели пилотом-человеком перед нанесением удара. Однако и Россия, и Украина применяли небольшое количество полностью автономных ударных беспилотников.
Бывший министр обороны Украины Михаил Федоров, который руководил разработкой платформы Avenger Labs, создал инвестиционный фонд для внедрения полностью автономного оружия на базе ИИ уже в следующем году. Главным инвестором является Алекс Карп — генеральный директор компании по анализу данных Palantir.
Недавно Министерство обороны Украины продемонстрировало, как в Украине создают оружие на базе искусственного интеллекта. При обучении дрона-убийцы первым шагом является определение того, кого он будет убивать. Необходимо выбрать набор данных — тысячи или десятки тысяч изображений тех условных целей, на которые должно охотиться это оружие.
Avenger Labs располагает более чем пятью миллионами видеозаписей наблюдения и ударов дронов. Многие из них — это необработанные кадры, на которых дроны преследуют российских солдат и взрывают их. Но с помощью панели меню на платформе можно вызвать тысячи видеозаписей с поля боя с аннотациями, соответствующими широкому спектру целей. Среди них: танки зимой, грузовики ночью, взрывающиеся российские дроны, снятые с помощью тепловизионных камер.
Зашифрованная платформа размещена на облачном сервисе за пределами Украины. Оборонные компании не просматривают эти видео напрямую. Они обрабатывают данные в так называемой «песочнице», то есть изолированной компьютерной системе. Впоследствии, по мере поступления боевых видеозаписей, система учится распознавать военные цели.
Как только модель искусственного интеллекта достигает необходимого уровня мастерства в «песочнице», компания может загрузить её в компьютер наведения воздушного или морского дрона либо наземного робота.
Таким образом, пункт меню на платформе Avenger Labs — например, «танки» — становится пунктом меню на оружии с искусственным интеллектом. Военный может нажать на этот пункт меню, а затем запустить дрон для автономного поиска цели.
Руководитель одной из компаний, которая использовала эту систему для создания модели ИИ, применяемой сейчас на поле боя, отметил, что, согласно статистике тренировок, уровень ложных срабатываний составлял менее 5%. Руководитель высказался на условиях анонимности из-за соглашения о неразглашении информации с Avenger Labs. Какими бы ни были сомнения относительно оружия на базе искусственного интеллекта, которое убивает, отметил руководитель, его так или иначе разработают.
Украинская военная база данных имеет ограничения. По словам старшего научного сотрудника Центра искусственного интеллекта имени Вадхвани при Центре стратегических и международных исследований в Вашингтоне Екатерины Бондарь, непонятно, насколько эти изображения актуальны для конфликтов за пределами Украины.
«Если вы научите свои компьютеры распознавать российские объекты, что вы будете с этим делать за пределами Украины?» — спросила Бондарь.
Во время войны на Ближнем Востоке оружие на базе искусственного интеллекта, возможно, должно будет распознавать, например, иранские ракетные установки в пустынном ландшафте.
Также возникают вопросы относительно потенциального незаконного использования данных. Лицензионное соглашение не содержит положений о правах человека. Украина предоставляет доступ на основании соглашений между правительствами. По словам украинских чиновников, эти правительства несут ответственность за то, чтобы их вооруженные силы соблюдали Женевские конвенции и другие договоры.
В любом случае Украина открывает доступ к своим военным данным в правовом вакууме. В прошлом месяце на переговорах ООН в Женеве российские и американские дипломаты выступили против требования о «значительном человеческом контроле» над летальными автономными системами вооружения. Эти переговоры возобновятся 16 ноября для рассмотрения проекта договора.
Программные модели, созданные искусственным интеллектом, являются для людей «черным ящиком», поскольку их внутренние механизмы рассуждений в значительной степени непрозрачны. Это представляет собой проблему, поскольку «черный ящик затуманивает ответственность» в случае оружия, самостоятельно выбирающего цели, отметила аналитик по вопросам искусственного интеллекта и конфликтов в Human Rights Watch Анна Баччарелли.
«Трудно точно определить момент, когда что-то идет не так», — сказала аналитик.
Лауреат Нобелевской премии мира и директор Центра гражданских свобод в Киеве Александра Матвийчук отметила, что Украина и другие страны, ратифицировавшие Римский статут — соглашение о создании Международного уголовного суда, — обязаны выдавать для судебного разбирательства военных офицеров, ответственных за военные преступления, независимо от того, какое вооружение использовалось.
По словам Матвийчук, Украина должна проявлять осторожность при обмене данными со странами, которые не признают этот принцип международного права, такими как Соединенные Штаты.
Напомним, что риски военного применения искусственного интеллекта стали одной из главных тем оборонного форума «Сяншань» в Пекине. Министр обороны Таиланда Адул Бунтхумджароен подчеркнул, что ИИ-технологии меняют характер войны и требуют новых международных правил. Вице-президент Международного комитета Красного Креста Юрг Лаубер призвал сохранять человеческий контроль над применением силы по мере роста автономности вооружений. Представители Бангладеш, Малайзии и Лаоса также выразили обеспокоенность влиянием ИИ на глобальную безопасность.
Кроме того, министр обороны Китая Дун Цзюнь призвал государства усилить контроль над ИИ и активнее координировать правила его использования. Он предложил расширить оценку рисков, обмен опытом и создание механизмов управления в сферах ИИ, космоса и глубоководных технологий. Народно-освободительная армия Китая уделяет ИИ значительное внимание, хотя конкретные модели, которые она использует, не раскрываются.