США отстают от Китая в сфере государственного регулирования искусственного интеллекта и подходят к саммиту Трампа и Си Цзиньпина в Шэньчжэне без четкой стратегии. В то же время в самих разработках Америка лидирует благодаря Anthropic и OpenAI. Стоит договориться хотя бы об узких правилах и экспертном канале для обсуждения опасных инцидентов, написал обозреватель The Washington Post Дэвид Игнатиус.
Безопасность искусственного интеллекта следует воспринимать как гонку со временем. Никто не знает, каких опасностей следует ожидать. Когда две сверхдержавы наконец-то всерьёз сядут за стол переговоров, может быть уже слишком поздно, чтобы предотвратить катастрофу. Шанс предоставит встреча Трампа и Си Цзиньпина в Шэньчжэне в следующем месяце. Это будет их третий саммит в этом году. Приедет и президент России Владимир Путин, но, по мнению автора, «его единственной задачей должно быть предотвращение катастрофы, которую он уже устроил в Украине».
США лидируют в технологической гонке, однако согласованного плана безопасности у них нет. Президент говорит об ИИ как о глобальном бою UFC: «Кто победит в ИИ, тот и выиграет». Министр финансов Скотт Бессент вторит ему: «Если [Китай] оторвется от нас в сфере ИИ, то больше ничего не будет иметь значения».
На более низких уровнях власти политика в сфере ИИ разрознена и непоследовательна. Судя по всему, механизм принятия решений через Совет национальной безопасности не работает. Поэтому технология, которая может иметь такие же глобальные последствия, как ядерное оружие, развивается сама по себе. Бессент возглавляет американскую сторону переговоров с Пекином по ИИ, но как их организовать, пока неясно.
В Китае единую национальную стратегию формулирует Си Цзиньпин. Такой подход, вероятно, возможен лишь в однопартийной командной экономике. Пекин не противопоставляет безопасность развитию технологии. «Новый китайский подход — это не “безопасность ИИ против развития ИИ”. Это попытка сделать безопасность совместимой с быстрым развитием всё более мощных систем, а зачастую и способствующей ему, сохраняя широкие полномочия вмешиваться всякий раз, когда речь идет о политических интересах или национальной безопасности», — написал бывший аналитик правительства США по вопросам Китая Пол Триоло.
Пекин также понимает, что в этой гонке может проиграть. Бывший эксперт Совета национальной безопасности США по Китаю Джулиан Гевирц объяснил в недавней статье: китайцы видят в ИИ «технологию, где победитель получает все и которая может позволить американской мощи расти быстрее, чем соперники успеют догнать, сделав ее лидерство постоянным». Он назвал это «рекурсивным преимуществом».
Большую сделку с Китаем вряд ли удастся заключить, рассказала автору бывшая высокопоставленная сотрудница Агентства национальной безопасности США Энн Нойбергер, которая при администрации Джо Байдена отвечала за ИИ. Однако «мы, вероятно, могли бы договориться об узких правилах безопасности, чтобы избежать катастрофы, и создать экспертный канал для обсуждения опасных инцидентов», — сказала она.
Контроль над ядерным оружием в 1960-х и 1970-х годах начинался с небольших шагов. Подобный подход может сработать и в сфере ИИ. Впрочем, ядерное оружие не умело писать собственные инструкции, а ИИ, вероятно, скоро сможет. Колонку автор завершает словами: «Часы тикают, и никто не знает, когда пробьет полночь».
В октябре Белый дом обязал разработчиков суперинтеллекта немедленно сообщать о сбоях в работе их моделей. Какие санкции ждут нарушителей, не уточнили. До этого США полагались преимущественно на добровольные обязательства.
В конце сентября президент и руководители Google, Anthropic, Meta, OpenAI, X и NVIDIA подписали одностраничное соглашение о безопасности с четырьмя уровнями надзора, в том числе внешним аудитом.
О том, почему каждое обновление ИИ становится риском для цивилизации и помогут ли законы, в статье ZN.UA «Игра в рулетку с суперинтеллектом. Почему каждое обновление ИИ становится риском для цивилизации» пишет заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины, доктор наук в области права Алексей Костенко.