США и Китай готовят разговор о безопасности ИИ: сначала хотят научиться видеть кибератаки
США и Китай готовят разговор о безопасности ИИ: сначала хотят научиться видеть кибератаки
США и Китай готовятся провести в середине сентября переговоры о безопасности искусственного интеллекта, сообщает Reuters со ссылкой на двух знакомых с планами собеседников. Для двух стран, которые одновременно соревнуются за чипы, модели и вычисления, сам факт такого канала важнее громкого саммита: разговор предлагают начать не с обещаний «не делать опасный ИИ», а с того, можно ли заметить и остановить кибератаку, которой помогает модель.
По данным Reuters, Вашингтон хочет обсудить сотрудничество в отслеживании кибератак под управлением ИИ. Один из вариантов — чтобы американские и китайские лаборатории сами оценивали риски своих систем и обменивались информацией, способной предотвратить такие атаки. Это не готовое правило и не межгосударственный договор: источники описывают подготовку диалога, а не согласованную программу.
Слишком опасный ИИ — общий страх, но не общая политика
Американских чиновников, по сведениям Reuters, беспокоит перспектива появления в Китае модели с продвинутыми кибервозможностями. Китайская сторона, как ожидается, может направить на переговоры вице-премьера Хэ Лифэна. За последнюю неделю китайский интернет-регулятор публично говорил о критических рисках потери контроля над ИИ; связанный с государственными СМИ блог параллельно критиковал западные ограничения на передовые модели как односторонние.
Отсюда и главный вопрос: как отличить контроль от дипломатической декорации? Одних добровольных обещаний недостаточно — каждая сторона может подозревать другую в тайных тренировках или в неполном раскрытии инцидентов.
Проверка вместо доверия
Сценарий AI 2040 описывает возможный, но пока не согласованный государствами маршрут: страны декларируют большие вычислительные кластеры, отслеживают выпуск и поставки AI-чипов, допускают проверки и затем переходят к мониторингу самых крупных тренировок. Смысл не в мгновенной остановке гонки, а в том, чтобы незаявленный проект было трудно скрыть в инфраструктуре.
Reuters не пишет, что Вашингтон и Пекин уже обсуждают такую систему. Но логика совпадает: если стороны начнут хотя бы с обмена сигналами о киберрисках, следующий спор будет уже не о красивых принципах, а о том, какие вычисления, тесты и инциденты можно проверить. Для индустрии это первый намёк, что безопасность передовых моделей может стать предметом переговоров между государствами — так же, как поставки чипов и экспортный контроль.
