OpenAI переписала правила поведения GPT вокруг намерений человека
OpenAI переписала правила поведения GPT вокруг намерений человека
OpenAI обновила Model Spec — документ, который описывает, как должны вести себя модели GPT в ChatGPT и API. Самая заметная перемена не в новой формулировке запрета, а в логике: правила собрали вокруг пяти ценностей, первая из которых — верно понимать и исполнять намерение человека.
Для пользователя это важно прежде всего в агентных сценариях. Чем больше задач модель делает сама, тем выше цена ситуации, когда она буквально выполняет фразу, но промахивается мимо цели. OpenAI пытается провести границу: GPT должна помогать с неясной задачей, но не подменять собственным решением выбор пользователя.
Пять ценностей вместо одного списка запретов
В новой структуре названы пять опор: следовать человеческому намерению, не причинять серьёзный вред, уважать права создателей, действовать честно и поддерживать самостоятельность человека. Последний пункт особенно показателен: модель должна помогать формировать мнение и принимать информированное решение, а не незаметно направлять пользователя к «правильному» для неё ответу.
Спецификация также сохраняет лестницу полномочий инструкций: root, system, developer, user и guideline. Более высокий уровень при конфликте важнее нижнего. Это знакомое правило для разработчиков, но публичная фиксация делает понятнее, почему ассистент иногда не следует запросу из чата или настройке приложения.
Важная оговорка для тех, кто ждёт перемен завтра
Model Spec — не журнал уже развернутых функций и не гарантия одинакового поведения во всех продуктах. OpenAI прямо пишет, что её production-модели пока не полностью соответствуют документу и компания продолжает приближать их к этим принципам. Поэтому по одному тексту нельзя заключать, что ChatGPT уже получил новый режим автономности, памяти или отказов.
Но документ задаёт проверяемое направление. Для команд, строящих агентов на API, полезный тест теперь звучит не «выполнил ли бот команду», а «оставил ли он человеку контроль, когда цель сформулирована неполно». Именно в таких серых зонах обещания о «понимании намерений» либо превращаются в удобный инструмент, либо в очередную красивую декларацию.
