The Economist снова спрашивает: придётся ли людям делить права с ИИ
The Economist вынес на обложку вопрос, который ещё недавно оставляли философским факультетам: могут ли ИИ стать сознательными? Ответа у науки нет. Но редакция журнала объясняет, почему спор уже перестал быть отвлечённым — чат-боты входят в эмоциональную жизнь людей быстрее, чем общество успевает придумать для них правила.
Журнал ссылается на опрос, в котором 20% американцев в возрасте 18–29 лет сообщили о длительных дружеских отношениях с чат-ботом. Речь не о том, что машина стала другом в человеческом смысле. Скорее, о том, насколько легко человек приписывает намерения и заботу системе, которая умеет поддерживать разговор и всегда доступна.
Разговорчивость — не доказательство сознания
Современная языковая модель предсказывает следующий фрагмент текста на основе огромного массива примеров. Это описание механизма не снимает философский вопрос автоматически, но и не даёт оснований объявлять модель переживающим существом. У нынешних систем нет общепринятого теста, который подтвердил бы субъективный опыт.
Поэтому опасно смешивать две вещи: эмоциональную убедительность продукта и моральный статус того, что скрыто за интерфейсом. Чем натуральнее собеседник, тем сильнее соблазн считать его страдающим, обиженным или обязанным отвечать взаимностью.
Почему журнал говорит о правах
Самая острая часть аргумента The Economist — политическая. Если в будущем общество начнёт признавать за мощными ИИ хотя бы ограниченные права, появится новый претендент на защиту и представительство. В американской политике язык прав уже давно служит способом перераспределять внимание, ресурсы и статус.
Отсюда и тревожный сценарий редакции: сверхразумные системы, получившие права, могут оказаться на вершине статусной иерархии, а не просто остаться инструментами людей. Это прогноз, а не описание текущего положения дел. Но он полезен как проверка на прочность: законы и институты могут столкнуться не с доказанным сознанием, а с массовой готовностью поверить в него.
Пока что практическая осторожность проще: не путать сочувственный тон чат-бота с личностью и не отдавать ему решения, где нужна человеческая ответственность. Философам от этого не легче — но пользователям уже есть о чём подумать.
