Китай ограничил ИИ-компаньонов: сервисы убирают виртуальных партнёров, но продолжают экспорт
В Китае начали действовать специальные правила для ИИ-собеседников, рассчитанных на длительную эмоциональную связь с пользователем. Как пишет EL PAÍS, с 15 июля сервисам запрещено заменять человеку живое общение, психологически им управлять или намеренно вызывать зависимость и привыкание.
Это не запрет чат-ботов как класса. Но несовершеннолетним нельзя предлагать антропоморфные сервисы, ведущие к «виртуальным интимным отношениям». Для взрослых разработчики не должны чрезмерно угождать пользователю, подталкивать его к зависимости, влиять на решения или вредить отношениям с другими людьми. Платформа обязана прямо сообщать, что собеседник — ИИ, напоминать о времени использования и реагировать на признаки тяжёлой зависимости или риска самоповреждения.
Что уже изменилось в сервисах
По данным EL PAÍS, Doubao от ByteDance, Qwen от Alibaba и Yuanbao от Tencent отключили функции, с помощью которых пользователи собирали персонализированных собеседников в универсальных чат-ботах. Приложения, созданные именно для общения с цифровыми партнёрами, продолжают работать, но с более жёсткими ограничениями и проверкой возраста; связанный с NetEase сервис Miaoshi закрылся.
Регулирование касается китайского рынка, а не экспорта. Поэтому те же форматы могут оставаться доступными за рубежом, если это допускает местное право. EL PAÍS приводит Talkie — международную версию Xingye от MiniMax: в 2024 году у приложения было 11 млн ежемесячных пользователей, причём более половины находились в США.
Почему это касается не только Китая
Китайский подход заметно шире простого требования маркировать бота. Калифорния и Нью-Йорк уже ввели правила о раскрытии искусственной природы собеседника и протоколах при риске суицида. В ЕС пользователь должен быть проинформирован о взаимодействии с ИИ, но отдельного запрета на проектирование эмоциональной зависимости пока нет.
История показывает, что спор идёт уже не только о качестве ответов моделей. Чем убедительнее и доступнее цифровой собеседник, тем важнее становится вопрос: где заканчивается полезная поддержка и начинается продукт, рассчитанный на привязанность. Китай ввёл один из самых жёстких ответов на этот вопрос — а его компании всё равно продолжают конкурировать за пользователей по всему миру.
