Taalas представила технологию Direct-to-Silicon: Llama 3.1 «запекается» прямо в кремний
Taalas: Интеллект в кремнии. Как новый стартап основателя Tenstorrent планирует совершить революцию в ИИ
Забудьте про универсальные видеокарты. Канадский стартап Taalas представил технологию «Direct-to-Silicon», которая обещает сделать ИИ в 1000 раз дешевле и быстрее, превращая программные модели в аппаратные чипы.
Проблема «симуляции» интеллекта
Сегодняшний бум ИИ держится на плечах гигантов — Nvidia и их универсальных графических процессоров (GPU). Однако, по мнению Любиши Байича (Ljubisa Bajic), легендарного архитектора чипов и сооснователя Tenstorrent, мы зашли в тупик. Мы пытаемся «симулировать» работу нейросетей на универсальном железе, что неизбежно ведет к гигантским энергозатратам, высокой задержке (latency) и астрономической стоимости.
Решение от Taalas простое в своей дерзости: вместо того чтобы запускать код на процессоре, нужно превратить саму архитектуру нейросети в физическую структуру транзисторов.
Технология Direct-to-Silicon: Модель как железо
Taalas представила свою платформу, которая позволяет автоматизированно переносить любую ИИ-модель непосредственно в кремний. Весь процесс — от получения параметров модели до готового дизайна чипа — занимает всего два месяца.
Результат компания называет «Hardcore Models» (Хардкорные модели). Это специализированные чипы, в которых веса и структура нейросети «впечатаны» в транзисторы и дополнены скоростной памятью SRAM.
Первые результаты впечатляют: Чип HC1, созданный специально для работы с моделью Llama 3.1-8B, демонстрирует скорость более 16 000 токенов в секунду на одного пользователя. Это в десятки раз быстрее, чем самые современные решения от Nvidia, Cerebras или Groq.
Команда ветеранов
За Taalas стоят люди, которые буквально создавали современную индустрию полупроводников:
- Любиша Байич (CEO): Бывший ведущий архитектор Nvidia и AMD, сооснователь Tenstorrent. Человек, который понимает, как работают GPU изнутри, и знает их слабые места.
- Драго Игнятович (CTO): Ветеран AMD и бывший вице-президент по разработке железа в Tenstorrent.
Инвесторы, включая Quiet Capital, уже вложили в стартап более 169 миллионов долларов (по некоторым данным — до $219 млн), видя в этом единственный путь к по-настоящему массовому внедрению ИИ.
Почему это важно для бизнеса?
Если подход Taalas масштабируется, это будет означать конец эпохи дефицита чипов Nvidia.
- Снижение стоимости: Один такой чип может заменить целую стойку с GPU в дата-центре при выполнении конкретной задачи.
- Энергоэффективность: Снижение потребления на порядки делает возможным внедрение мощных моделей в каждое устройство — от кофеварки до промышленного робота.
- Ubiquitous AI (Повсеместный ИИ): Цель стартапа — сделать инференс (выполнение модели) настолько дешевым, чтобы интеллект стал такой же базовой и доступной услугой, как электричество.
Есть ли подвох?
Главный минус — отсутствие гибкости. Чип HC1 умеет запускать только Llama 3.1-8B. Если вы захотите сменить модель, вам придется заказывать новый чип. Однако для крупных компаний, использующих одну и ту же модель для миллионов запросов в секунду (например, поисковики, системы перевода или чат-боты поддержки), эта экономия с лихвой окупает разработку.
Заключение
Taalas делает ставку на то, что будущее ИИ — это не софт, который адаптируется под железо, а железо, которое создается под конкретный интеллект. В 2026 году мы увидим, смогут ли «хардкорные модели» пошатнуть доминирование универсальных ускорителей.
Специально для Neuro.ee
