Назад
12 августа 2026 г. в 08:20 ИИ Anthropic OpenAI Google Claude Gemini кибербезопасность API Исследование Stolen Thoughts

Исследователи научились вытаскивать скрытые рассуждения Claude, GPT и Gemini через их младшие модели

Исследователи научились вытаскивать скрытые рассуждения Claude, GPT и Gemini через их младшие модели

Исследователи из Тюбингена, MATS Research, Института Макса Планка и Snyk описали уязвимость API Claude, GPT и Gemini. Она позволяет извлекать скрытые цепочки рассуждений: зашифрованный блок от мощной модели передают более слабой модели того же провайдера и просят вывести текст. В результате младшая модель может расшифровать чужой «внутренний монолог».

Как работал обход

Провайдеры не показывают пользователю пошаговые рассуждения модели. Однако для продолжения диалога API возвращает клиенту непрозрачный подписанный блок, который затем отправляется в следующем запросе.

Авторы обнаружили совместимость таких блоков между сессиями, пользователями и моделями одного провайдера. В опытах они передавали след от сильной модели её более дешёвому родственнику и получали исходный текст без доступа к весам или инфраструктуре. Атака проверена на API Anthropic, OpenAI и Google.

То есть риск возникает на границе привычного API-обмена, а не только при компрометации серверов провайдера. Сам по себе скрытый статус рассуждений не делает сохранённый блок безопасным для пересылки или публикации.

Риск не только для производителей моделей

Главная практическая проблема — журналы разработчиков. Команды могут публиковать их в репозиториях, не подозревая, что в зашифрованных блоках есть данные, которых не видно в переписке. Исследователи обработали 315 320 блоков и нашли 367 фрагментов персональных данных и 182 учётных данных. В сессиях реальных пользователей были 62 API-ключа, 33 пароля и 30 адресов электронной почты.

Метод может дать конкурентам материал для обучения на чужих цепочках рассуждений. Авторы сравнили выходы Kimi K3 со следами Claude Opus и GPT: сходство — повод для проверки, но не доказательство дистилляции.

После ответственного уведомления OpenAI, Anthropic и Google изменили API, чтобы закрыть извлечение приватных данных. Однако исследователи сообщают, что некоторые следы рассуждений всё ещё удаётся восстановить. Разработчикам стоит считать выгруженные логи с такими блоками чувствительными: не публиковать их без проверки и менять уже засвеченные ключи.

Ещё новости

Microsoft показала бэкдор для ИИ-агентов со «спящими» нейронами
11 ноября 2026 г.
Microsoft показала бэкдор для ИИ-агентов со «спящими» нейронами

Исследователи Microsoft описали Lazarus — технику, при которой небольшое изменение весов модели может оставить агента обычным до скрытого условия. Риск относится к моделям, которым доверили инструменты, терминал или доступ к секретам.

Google открыла доступ к Gemini 4 Carbon — самой мощной модели линейки
10 ноября 2026 г.
Google открыла доступ к Gemini 4 Carbon — самой мощной модели линейки

Google начала открывать доступ к Gemini 4 Carbon: API доступен платным разработчикам и компаниям, а подписчикам AI Ultra модель постепенно появляется в приложении Gemini, AI Mode и Antigravity. На старте тариф совпадает с Gemini 4 Argon — $2 за миллион входных и $10 за миллион выходных токенов; после 30 ноября цена вырастет вдвое.

Meta расширяет AI-проверку возраста для Teen Accounts по всему миру
10 ноября 2026 г.
Meta расширяет AI-проверку возраста для Teen Accounts по всему миру

Meta начала глобально расширять технологию оценки возраста с помощью ИИ в Instagram. Компания будет переводить в Teen Accounts больше подростков, указавших при регистрации взрослую дату рождения.

Notion: часть чатов Notion AI могла попасть в инцидент Fireworks
10 ноября 2026 г.
Notion: часть чатов Notion AI могла попасть в инцидент Fireworks

Notion сообщила, что в инциденте у её подрядчика Fireworks AI могли оказаться отдельные анонимизированные расшифровки диалогов Notion AI. Компания рекомендует затронутым командам считать вставленные в чат секреты потенциально раскрытыми и заменить их.

Claude спроектировал три электронных устройства без правок в схемах
10 ноября 2026 г.
Claude спроектировал три электронных устройства без правок в схемах

Anthropic проверила Claude на проектировании реальной электроники: три прототипа собрали и запустили без исправлений в схемах. Это ещё не замена инженеру, но ИИ уже берёт на себя часть связанной работы от спецификации до платы.

Claude Fable 5.2: Anthropic снизила цену и показала рой из 1000 агентов
9 ноября 2026 г.
Claude Fable 5.2: Anthropic снизила цену и показала рой из 1000 агентов

Anthropic представила Claude Fable 5.2 и Claude Mythos 5.2: базовая цена — $8 за миллион входных и $40 за миллион выходных токенов, а генерация, по заявлению компании, ускорилась до 30%. Самая заметная цифра в опубликованной таблице — 41,3% в Remote Labor Index, но это результат Anthropic при режиме High effort, а не независимый рейтинг.

Google представила TPU 8tx и 8i Max для защищённого ИИ и длинного контекста
9 ноября 2026 г.
Google представила TPU 8tx и 8i Max для защищённого ИИ и длинного контекста

Google расширила линейку TPU восьмого поколения двумя специализированными системами. Одна ориентирована на конфиденциальный инференс, другая — на модели с особенно длинным контекстом.

Один оператор с ИИ-агентами атаковал экстренные службы и университеты
9 ноября 2026 г.
Один оператор с ИИ-агентами атаковал экстренные службы и университеты

Исследователи Acronis описали BOSSAI — сеть ИИ-агентов, которую один оператор использовал против организаций в 11 странах. Среди подтверждённых взломов — университеты и поставщики экстренных служб, откуда были похищены медицинские данные и персональная информация.

NVIDIA начала расследование после сообщений об операции иностранной разведки против Дженсена Хуанга
9 ноября 2026 г.
NVIDIA начала расследование после сообщений об операции иностранной разведки против Дженсена Хуанга

Совет директоров NVIDIA начал независимое расследование после сообщений о том, что основатель и гендиректор Дженсен Хуанг мог стать целью иностранной разведки. Компания подчёркивает: пока у неё нет оснований полагать, что национальная безопасность США или секреты NVIDIA были скомпрометированы.

Claude научили торговать и работать командой в мире EVE
8 ноября 2026 г.
Claude научили торговать и работать командой в мире EVE

Anthropic проверила агентов Claude в экономике EVE Online и командных миссиях EVE Frontier. Новые модели стабильно зарабатывали в симуляции рынка, но почти не замечали саботаж внутри команды.

Check Point: ИИ-агенты атаковали учётные записи без постоянного оператора
8 ноября 2026 г.
Check Point: ИИ-агенты атаковали учётные записи без постоянного оператора

Исследователи Check Point описали кампании с платформой ARTEX, где ИИ-агенты после начальной постановки цели работали автономно. Это повод проверить доступы и обновления, а не доказательство компрометации всех найденных систем.

Anthropic показала, почему агенту нельзя помнить всё подряд
7 ноября 2026 г.
Anthropic показала, почему агенту нельзя помнить всё подряд

Anthropic сравнила подходы к памяти AI-агентов на длинных задачах: лишние записи быстро превращаются в помеху. В тесте с Pokémon более компактная память помогла модели пройти дальше.