США и Россия привлекли примерно по десять юристов к заключительному этапу переговоров ООН по автономному оружию. За 15 часов стороны добились исключения ряда ограничений на применение искусственного интеллекта в вооружениях. Об этом сообщает The Washington Post со ссылкой на трех участников закрытых переговоров и изученные изданием документы, пишет РБК.
Переговоры прошли в Женеве с 31 августа по 4 сентября в рамках группы правительственных экспертов по летальным автономным системам вооружений.
«Это была смерть от тысячи порезов бумагой», — рассказал источник издания.
Из проекта документа убрали требование, согласно которому системы на основе ИИ должны действовать «предсказуемо» и «надежно». Также из текста исключили положение об учете этических соображений при применении автономного оружия. Кроме того, исчезло требование о проверке человеком военных целей, определенных искусственным интеллектом, перед нанесением удара.
Правки вносились на закрытом заседании: камеры ООН были отключены, а представителей общественных организаций попросили покинуть зал. По словам источников WP, изменения обсуждались настолько быстро, что небольшие делегации не успевали следить за ходом переговоров.
Госдепартамент США, МИД России и ООН не ответили на запросы издания.
Согласованный текст пока не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия должны обсудить, следует ли предоставить переговорам официальный мандат, который в перспективе может привести к заключению международного договора.
Исполнительный директор коалиции Stop Killer Robots Николь ван Ройен заявила WP, что США и Россия выступают против юридически обязательных правил для автономного оружия. По ее словам, поскольку решения принимаются консенсусом, обе страны могут блокировать предложения, поддержанные большинством участников.
Одновременно Пентагон пересматривает собственную директиву об автономном оружии, принятую в 2023 году. Документ требует сохранять человеческое суждение при использовании автономных и полуавтономных систем, а также соблюдать международное право. Президент США Дональд Трамп поручил обновить правила в течение 90 дней, однако к концу сентября новая версия не была опубликована, пишет WP.
Американское военное ведомство расширяет применение ИИ для анализа информации и выбора целей. Система Maven компании Palantir, обрабатывающая данные со спутников, беспилотников и радаров, в марте получила статус официальной программы Пентагона. Она способна автоматически выявлять потенциальные цели и угрозы.
Компания Anthropic ранее потребовала от Пентагона гарантий, что ее модели не будут использоваться в полностью автономном оружии и для массового наблюдения. Военное ведомство расценило эти условия как попытку частной компании ограничить применение технологий в интересах национальной безопасности.
В сентябре CNN сообщил, что американские военные едва не начали операцию против китайского судна после ошибочного вывода ИИ. По данным телеканала, система объединила открытую и секретную информацию и неверно оценила назначение судна.
В июле заместитель главы МИД России Александр Алимов заявил, что Москва готова обсуждать конкретные формы международного сотрудничества в сфере ИИ в ООН, Международном союзе электросвязи и других организациях. По его словам, Россия выступает за выработку правил на основе консенсуса и равный доступ государств к технологиям.
Возможности российско-американского сотрудничества в этой сфере ранее обсуждались преимущественно на уровне предложений. Спецпредставитель президента России Борис Титов допускал, что стороны могли бы участвовать в развитии дата-центров для ИИ с использованием российских запасов редкоземельных металлов.