DeepMind описал четыре пути от AGI к сверхинтеллекту
Google DeepMind Institute опубликовал эссе исследователя Тима Генвейна о том, что может последовать за общим искусственным интеллектом (AGI). Автор не утверждает, что AGI уже создан или что сверхинтеллект неизбежен: он предлагает заранее разбирать возможные механизмы ускорения и способы их измерять.
Под сверхинтеллектом — ASI — Генвейн понимает системы, которые стабильно превосходят большие группы экспертов почти во всех значимых для человека задачах, выполняя многолетнюю работу быстрее и с меньшими ресурсами. Это определение заметно строже победы ИИ в отдельных играх или задачах.
Дешёвый интеллект может изменить экономику раньше «магического» прорыва
Автор выделяет «когнитивную индустриализацию»: эффективность вычислений растёт благодаря более производительному железу, алгоритмам и инвестициям в оборудование. В его расчёте эти факторы в последние годы в совокупности давали как минимум десятикратный годовой рост эффективного мирового запаса вычислений — но это экстраполяция, а не гарантия будущего.
Если тенденция продолжится, многие типовые интеллектуальные задачи станут дешевле и будут выполняться множеством копируемых агентов. Даже без полного AGI это способно изменить офисную работу, исследования и обслуживание: цифровые системы можно быстро тиражировать, переносить на другое оборудование и давать им общий доступ к накопленному опыту.
Четыре дороги после AGI
Генвейн называет четыре дополняющих друг друга маршрута: масштабирование моделей и данных; смену технологической парадигмы; координацию больших коллективов агентов; а также рекурсивное самоулучшение, при котором ИИ помогает создавать более сильные последующие системы.
У каждого пути есть препятствия. Для масштабирования это нехватка качественных данных, цена и физические пределы инфраструктуры. Агентные коллективы сталкиваются с потерями на координации, риском дезинформации и сговора. Самоулучшение особенно зависит от надёжной оценки результатов: быстрее всего оно может работать там, где ответ проверяется автоматически, например в математике.
Сначала измерять, потом делать выводы
Главная практическая мысль эссе — не пытаться остановить развитие одной запретительной мерой. По мнению автора, ограничение лишь одного ресурса может перенаправить усилия в другие направления или создать отложенный скачок возможностей.
Вместо уверенных дат DeepMind Institute призывает строить измерения, прогнозы и новые оценки, доступные и лабораториям, и государственным институтам. Сам институт отдельно оговаривает, что текст отражает идеи автора, а не официальную позицию Google. Полный текст — в эссе DeepMind Institute.













