Google näitas DiffusionGemmat: kiire Gemma kirjutab teksti plokkidena, kuid jääb tavalisest mudelist veel maha
Google näitas DiffusionGemmat: kiire Gemma kirjutab teksti plokkidena, kuid jääb tavalisest mudelist veel maha
Google avaldas DiffusionGemma 26B-A4B-it mudeli, Gemma perekonna eksperimentaalse avatud mudeli, mis katsetab teistsugust tekstigeneratsiooni viisi. Tavapärase vasakult paremale tokenhaaval liikumise asemel töötab see 256 tokeni pikkuse plokiga: alguses täidab selle müraga, seejärel täpsustab kogu fragmenti mitu korda, fikseerib tulemuse ja liigub järgmise ploki juurde.
See pole uus “parim Gemma” ega production-mudelite asendaja. Google nimetab väljalaset otse eksperimentaalseks ja kirjutab, et maksimaalse kvaliteedi jaoks jääb valikuks standardne Gemma 4. DiffusionGemma on aga oluline insenerikatse: kas lokaalne LLM saab ühe kasutaja jaoks kiiremini vastata, kui GPU-le anda väikese järjestikuse sammu asemel suur paralleelne tööplokk.
Kuidas tekstidiffusioon töötab
Tavalised keelemudelid genereerivad vastuse token tokeni järel. See sobib serveritele, kus on suur päringute voog: riistvara saab koormata paljude kasutajate batch’idega. Lokaalsel videokaardil, kus üks inimene ootab üht vastust, põrkub selline režiim sageli mälule: mudel veab kaale aina uuesti läbi ja arvutusplokid seisavad jõude.
DiffusionGemma püüab kitsaskohta muuta. Ta võtab 256 tokeni pikkuse canvas’e ja uuendab kõiki positsioone paralleelselt. Varastel läbimistel on ploki algus tavaliselt kindlam, kaugemad positsioonid võivad olla mürased, kuid järgmised iteratsioonid kasutavad juba leitud tokeneid kontekstina ja parandavad nõrgemaid kohti järk-järgult. Kui tekst on pikem kui 256 tokenit, õmmeldakse plokid järjestikku kokku: valmis canvas lisatakse ajalukku ja mudel alustab järgmist.
Sisuliselt segab Google diffusioonilise lähenemise autoregressiooniga: ploki sees toimub paralleelne müra puhastamine, plokkide vahel säilib järjestikune struktuur. Seetõttu on mudel huvitav mitte ainult vestlustele, vaid ka ülesannetele, kus on kasulik näha tervet fragmenti korraga: teksti sees redigeerimine, koodi täitmine, ranged mallid, tabeli- või graafistruktuurid.
Kiirus on ostetud kvaliteedi arvelt
Avaldatud numbrid on muljetavaldavad. Google’i ametlikul benchmark-slaidil on H100 FP8 peal batch size 1 korral 1107 tokenit sekundis, võrreldes Gemma 4 26B A4B MTP 303-ga. Teates ja arendajajuhendis on kirjas ka 1000+ tokenit sekundis ühel H100-l ja 700+ GeForce RTX 5090-l. Hugging Face’i model card sõnastab selle kui üle 1100 tokeni sekundis low-batch stsenaariumides.
Sama tabel selgitab aga kompromissi. DiffusionGemma jääb Gemma 4 26B A4B-le märgatavalt alla MMLU Pro, AIME 2026, LiveCodeBench, GPQA Diamondi, Tau2 ja multimodaalsetes testides. Mudel toetab endiselt reasoning’ut, code generation’it, kuni 256K tokeni pikkust konteksti, image understanding’ut, function calling’ut ja mitmekeelsust, kuid Google ei varja tech preview staatust: kui vaja on parimat vastust, mitte kiireimat iteratsiooni, on tavaline Gemma 4 usaldusväärsem.
Oluline on ka see, kus kiirendus peaks avalduma. Google hoiatab eraldi, et eelis on tugevam lokaalses ja low-concurrency inference’is pühendatud kiirendil. Suure päringumahuga pilves suudavad klassikalised autoregressiivsed mudelid GPU-sid batch’idega juba tõhusalt koormata, seega võib DiffusionGemma võit väheneda või muutuda kallimaks.
Miks see väärib siiski tähelepanu
Arendajate jaoks pole põhiküsimus “kas diffusioon võitis autoregressiooni”, vaid “millised liidesed muutuvad sellise kiirusega võimalikuks”. Kui mudel suudab kiiresti ümber kirjutada suure fragmendi, sulgeda Markdowni, täiendada koodi või lokaalselt variante läbi mängida, tekib teistsugune interaktiivsete tööriistade klass: redaktorid, IDE-abilised, kiired agendid paljude lühikeste sammudega.
Praegu on see uurimisharu, mitte uus standard. Kuid väljalase näitab, et avatud mudelite võidujooks ei käi ainult suuruse, konteksti ja benchmarkide pärast. Järgmine oluline rinne on ühe kasutaja latentsus: kuidas teha lokaalne assistent mitte lihtsalt targaks, vaid piisavalt kiireks, et ta tunduks tööliidese osana.
