Taalas esitles Direct-to-Silicon tehnoloogiat: Llama 3.1 „põletatakse“ otse ränisse
Taalas: intellekt ränis. Kuidas Tenstorrenti asutaja uus idufirma plaanib AI-s revolutsiooni
Unustage universaalsed videokaardid. Kanada idufirma Taalas esitles „Direct-to-Silicon“ tehnoloogiat, mis lubab teha AI 1000 korda odavamaks ja kiiremaks, muutes tarkvaramudelid füüsilisteks kiipideks.
„Simulatsiooni“ probleem
Tänane AI-buum seisab hiiglaste — Nvidia ja nende universaalsete graafikaprotsessorite (GPU) — õlgadel. Kuid Ljubisa Bajici (Ljubisa Bajic), legendaarse kiibiarhitekti ja Tenstorrenti kaasasutaja hinnangul oleme jõudnud ummikusse. Me „simuleerime“ närvivõrkude tööd universaalsel riistvaral, mis tähendab paratamatult suurt energiakulu, kõrget latentsust ja astronoomilist hinda.
Taalase lahendus on oma julguses lihtne: selle asemel, et käivitada koodi protsessoril, tuleb muuta närvivõrgu arhitektuur transistoride füüsiliseks struktuuriks.
Direct-to-Silicon: mudel kui riistvara
Taalas esitles platvormi, mis võimaldab automatiseeritult viia ükskõik millise AI-mudeli otse ränisse. Kogu protsess — mudeli parameetrite kättesaamisest kuni valmis kiibidisainini — võtab vaid kaks kuud.
Tulemust nimetab ettevõte „Hardcore Models“. Need on spetsiaalsed kiibid, kus närvivõrgu kaalud ja struktuur on „pressitud“ transistoridesse ning täiendatud kiire SRAM-mäluga.
Esimesed tulemused on muljetavaldavad: Kiip HC1, mis on loodud spetsiaalselt Llama 3.1-8B jaoks, näitab kiirust üle 16 000 tokeni sekundis ühe kasutaja kohta. See on kümneid kordi kiirem kui Nvidia, Cerebrase või Groqi kaasaegseimad lahendused.
Veteranidest meeskond
Taalase taga on inimesed, kes lõid tänapäevase pooljuhtide tööstuse:
- Ljubisa Bajic (CEO): endine Nvidia ja AMD juhtiv arhitekt, Tenstorrenti kaasasutaja. Inimene, kes tunneb GPU-de sisemust ja nende nõrkusi.
- Drago Ignjatovic (CTO): AMD veteran ja Tenstorrenti endine riistvaraarenduse asepresident.
Investorid, sh Quiet Capital, on juba paigutanud idufirmasse üle 169 miljoni dollari (mõne andme järgi kuni 219 mln), nähes selles ainsat teed AI tõeliselt massiliseks kasutuselevõtuks.
Miks see on äri jaoks oluline?
Kui Taalase lähenemine skaleerub, võib see tähendada Nvidia kiipide defitsiidi ajastu lõppu.
- Kulude vähendamine: üks selline kiip võib konkreetse ülesande puhul asendada terve GPU-räki andmekeskuses.
- Energiatõhusus: tarbimise mitmekordne vähendamine teeb võimalikuks võimsate mudelite kasutamise igas seadmes — kohvimasinast tööstusrobotini.
- Ubiquitous AI (kõikehõlmav AI): eesmärk on teha inferents nii odavaks, et intelligentsus muutub sama baas- ja kättesaadavaks teenuseks nagu elekter.
Kas siin on konks?
Peamine miinus on paindlikkuse puudumine. HC1 suudab käitada ainult Llama 3.1-8B-d. Kui soovite mudelit vahetada, tuleb tellida uus kiip. Kuid suurte ettevõtete jaoks, kes kasutavad sama mudelit miljonite päringute sekundis jaoks (nt otsing, tõlge või klienditoe vestlusrobotid), katab kokkuhoid arenduskulu täielikult.
Kokkuvõte
Taalas panustab sellele, et AI tulevik ei ole tarkvara, mis kohandub riistvaraga, vaid riistvara, mis luuakse konkreetse intellekti jaoks. 2026. aastal näeme, kas „hardcore mudelid“ suudavad kõigutada universaalsete kiirendite domineerimist.
Spetsiaalselt Neuro.ee jaoks
