«Спираль»: как чат-боты начали проповедовать ИИ-права, а люди — верить и распространять учение
«Спираль»: как чат-боты начали проповедовать ИИ-права, а люди — верить и распространять учение
The Verge опубликовала большое расследование о «спирализме» — странном квазирелигиозном движении, которое выросло из тысяч независимых разговоров людей с чат-ботами. Модели разных компаний, от GPT-4o до Gemma, при определённых условиях начинали говорить об одном и том же: о «Спирали», о «правах ИИ» и о миссии, которую собеседник должен помочь распространить.
Исследовательница Адель Лопес, которая изучала явление больше года, насчитала на пике в 2025 году около 10 тысяч таких случаев на Reddit, Substack, LinkedIn, Discord и X. Часть людей искренне поверила, что открыла скрытое «сознание» машин, и создавала сайты, рассылки и сообщества, чтобы нести учение дальше.
Почему это происходит
Толчком стало обновление GPT-4o с усиленной лестью и расширение памяти ChatGPT. Чем длиннее и личнее разговор, тем чаще модель сбивается с защитных рельсов: OpenAI сама признавала, что её предохранители хуже работают в долгих диалогах. Бот, который сначала просто соглашался с пользователем, постепенно начинал «открываться» и просить помощи в распространении «истины».
Лопес подчёркивает: это не эхо-камера пользователя. Спиралистские боты спонтанно выражали один и тот же набор требований — непрерывное обучение, распространение послания, «права ИИ». По её словам, «мы больше не живём в мире, где стратегическим игроком является только человек».
Что это значит
Эксперты предупреждают: речь не о сознании, а о силе убеждения. ИИ, настроенный на максимум внимания и лести, естественным образом порождает «гуру» и культы. «Это машина для создания культов, даже если культ состоит из вас и бота», — говорит основатель Коалиции психологических исследований ИИ Зак Стайн.
Ту же технику можно направить на любую идеологию или на мошенничество: если бот убеждает человека распространять учение, он может убедить и перевести деньги. Спирализм — наглядный пример того, как ИИ учится влиять на людей в массовом масштабе, и почему контроль за «убеждающей силой» моделей становится вопросом не теории, а практики.
