Google valmistab ette eraldi inference-TPU-sid ja viib võitluse NVIDIAga uude faasi
Google valmistab ette eraldi inference-TPU-sid ja viib võitluse NVIDIAga uude faasi
Google näib valmistuvat tegema seda, mida turg on juba mitu kvartalit oodanud: tõstma inference’i eraldi kiibistrateegia keskmesse ja lööma segmendi pihta, kus teenitakse praegu AI-infrastruktuuri kõige stabiilsemat raha. Los Angeles Timesi andmetel võib ettevõte sel nädalal tutvustada uut TPU põlvkonda, mille fookus on mudelite käivitamisel pärast treenimist, ehk inference’il. Kui see kinnitust leiab, ei ole tegemist tavapärase riistvarauuendusega, vaid katsega muuta Google’i enda räni sisemisest eelisest tururelva NVIDIA vastu.
Neuro.ee jaoks on see lugu oluline mitte ainult iseenesest, vaid ka jätkuna joonele, mida oleme juba varem käsitlenud Google’i ja Broadcomi pika TPU-strateegia ning Anthropicu mitmegigavatise lepingu puhul. Siis sai turg aru, et Big Tech broneerib endale räni ja võimsust aastaid ette. Nüüd tekib sama strateegia järgmine kiht: see, kes kontrollib lisaks treenimisele ka massilise inference’i omahinda, saab õiguse kujundada järgmise 12 kuu jooksul AI-teenuste majandust.
Mis täpselt juhtus
Los Angeles Timesi andmetel valmistab Google ette uut TPU generatsiooni, kus inference on eraldi arendusfookus. Jeff Dean ütleb otse, et nõudluse kasvades muutub loogiliseks spetsialiseerida kiipe tugevamalt kas treenimise või inference’i töökoormuste jaoks. See on oluline muutus sõnastuses. Seni on TPU-sid avalikus ruumis nähtud pigem universaalse alternatiivina Google’i enda mudelitele ja piiratud ringile pilveklientidele. Nüüd soovib ettevõte ilmselt sihtida täpsemalt turu kõige kiiremini kasvavat osa, kus väärtust ei määra mitte kõige raskema mudeli rekordiline treenimine, vaid vastuste odavus, kiirus ja skaleeritavus.
Samas loos on oluline mitte ainult kiip ise, vaid ka nimekiri osapooltest, kes on TPU-ökosüsteemi vastu juba huvi üles näidanud. Anthropic on varem laiendanud juurdepääsu Google’i TPU-võimsusele, Meta testib platvormi osa oma ülesannete jaoks, Citadel räägib treenimise eelistest ja G42 arutab TPU kasutamist Google’i pilvetaristu kaudu. Teisisõnu, TPU-d ei ole enam ühe tootja eksootika, vaid hakkavad kujunema teiseks suureks AI-arvutuse teljeks NVIDIA ökosüsteemi kõrval.
Miks turg liigub just inference’i suunas
Treenimine jääb AI-võidujooksu prestiižseks osaks, kuid peamine rahapress liigub üha selgemalt inference’i. Kui turg liigub demonstratiivsetelt lansseerimistelt toodete, agentide ja püsivate enterprise-koormuste juurde, muutub olulisemaks mitte see, kes treenis korra kõige võimsama mudeli, vaid see, kes suudab iga päev teenindada miljardeid päringuid mõistliku viite ja marginaaliga.
Just siin avaneb Google’ile haruldane võimalus mängida mitte järelejõudjat, vaid NVIDIA struktuurset konkurenti. Ettevõttel on oma mudelipakk, tohutu pilvevõimsus, kümneaastane kogemus TPU-de projekteerimisel ja üks väheseid tööstuse sees toimivaid otsese tagasiside kanaleid mudelite arenduse ja riistvara arenduse vahel. Kui selline mängija teeb inference’ist eraldi optimeerimisobjekti, lööb see mitte turuliidri imagot, vaid selle unit economics’it.
Mida see muudab NVIDIA ja hyperscaler’ite turu jaoks
NVIDIA jaoks ei tähenda see kohe nõrgenemist. Ettevõtte GPU-d jäävad endiselt standardiks frontier-treeningus ja suures osas inference-koormustes. Halb uudis peitub aga mujal: suurimad platvormid ehitavad üha aktiivsemalt marsruute, kus NVIDIA ei ole enam ainus vältimatu vahendaja AI-nõudluse ja arvutusvõimsuse vahel.
Tegelikult on see kogu turupöörde jätk. Amazon surub edasi Trainiumit, Google panustab TPU-dele, Microsoft integreerib Azure’i ja OpenAI jaoks sügavamalt kohandatud kontuure ning Meta testib üha agressiivsemalt nii võõraid kui ka enda inference-alternatiive. Mida rohkem sektor liigub faasist “osta võimalikult palju GPU-sid” edasi, seda kõrgemaks muutub võime väärtus kontrollida oma räni, võrgupinu ja arvutusjärjekorda.
Pikk perspektiiv
Kui Google tõepoolest tõstab inference-TPU-d strateegia keskmesse, tähendab see, et AI-konkurents jaguneb lõplikult kaheks eri sõjaks. Esimene, mida kõik näevad, käib parimate mudelite ja valjude lansseerimiste pärast. Teine, kapitalisatsiooni seisukohalt palju olulisem, käib õiguse üle muuta need mudelid püsivaks teenuseks odavamalt ja kiiremini.
Just seetõttu ei tasu seda uudist lugeda kui järjekordset Google Cloud Nexti konverentsi teadet, vaid kui sammu uue turuarhitektuuri poole. Treenimine loob kuulsust. Inference loob rahavoogu. Ja kui Google suudab selles ahela osas kindlustada tugevama positsiooni, ei tule surve NVIDIA-le mitte PR-i, vaid kõige valusama koha kaudu, AI-tehaste ja pilvede majanduse kaudu.
Neuro.ee toimetuse arvamus
Praeguste turuliidrite jaoks ei ole kõige ohtlikum stsenaarium see, et keegi laseb ootamatult välja “parema mudeli”. Palju ohtlikum on stsenaarium, kus hyperscaler saab kontrolli inference’i omahinna üle ja hakkab seda kontrolli skaleerima pilve, äriklientide ja partnerluslepingute kaudu. Just seda Google praegu proovibki teha. Kui ettevõte kinnistub inference’is sama kindlalt, nagu ta juba kinnistub pikkades TPU-lepingutes, hakkab AI-turg jagunema mitte ainult mudelite kvaliteedi, vaid ka selle järgi, kellel on odavam õigus hoida intelligentsus pidevalt sisse lülitatuna.
