Liquid AI avaldas mudeli kohalikele AI-agentidele tavalistes sülearvutites

Liquid AI avaldas LFM2.5-8B-A1B - kompaktse mudeli kohalike AI-agentide käivitamiseks tarbijariistvaral. Ettevõte kirjeldab seda edge-mudelina kiirete ja usaldusväärsete tööriistakutsete jaoks: mitte lihtsalt vestlus, vaid assistent, mis suudab järgida keerukaid juhiseid, siduda mitu tegevust ja töötada kasutaja kõrval, mitte ainult pilves.

Mudel on juba saadaval Hugging Face’is ja Liquid Playgroundis. Tähtis detail: see ei ole vana mõttes väike mängumudel. LFM2.5-8B-A1B-l on 8,3 miljardit parameetrit, kuid aktiivsed on umbes 1,5 miljardit, sest see kasutab MoE-lähenemist. Kontekst kasvas 128 tuhande tokenini, treeningmahtu laiendati 12 triljonilt 38 triljoni tokenini ja sõnastikku kasvatati 128 tuhandeni, et mudel töötaks paremini ka mitte-ladina keeltega.

Miks see pole oluline ainult arendajatele

Suur osa AI-uudistest keerleb praegu kõige kallimate frontier-mudelite ümber. Liquid AI näitab teist rada: teha piisavalt tugev mudel, mis töötab kiiremini, on odavam käitada ja võib elada sülearvutis, tööjaamas või kohalikus serveris. Ettevõtete jaoks vähendab see sõltuvust pilve-API-dest olukordades, kus andmed on tundlikud, päringuid on palju või viivitus on kriitiline.

Tavakasutaja jaoks on mõte samuti selge. Kohalik assistent saab analüüsida dokumente, aidata ülesannetega, kutsuda tööriistu ja hoida rohkem konteksti ilma kõike pidevalt võõrasse pilve saatmata. See ei tühista suuri mudeleid: keeruka programmeerimise ja otsinguta teadmiste puhul hoiatab Liquid otse, et LFM2.5 ei ole parim valik. Kuid rakenduslike ahelate jaoks, kus loevad kiirus, privaatsus ja hind, muutub selline mudeliklass järjest huvitavamaks.

Panus on agentidel, mitte rekorditel

Liquid AI rõhutab tool calling’ut ja agentstsenaariume. Mudelikaardil on kirjas function calling’u, struktureeritud vastuste, mitmekeelsete assistentide ja kohaliku juurutuse tugi. Valmis variandid on olemas llama.cpp, Apple Siliconi MLX-i, ONNX-i, vLLM-i ja SGLang jaoks, seega on mudel kohe suunatud praktilisele käivitamisele, mitte ainult demonstratsiooniks mõeldud benchmark’ile.

Ettevõte kirjutab ka, et võitles kahe väikeste mudelite tüüpilise probleemiga: pikkade „kinni jäänud“ arutluskäikude ja hallutsinatsioonidega. Selleks lisati eraldi treeningu ja tugevdamise etapid, et mudel oskaks paremini teadmiste piire tunnistada ja ei vajuks korduvatesse mõttekäikudesse. Neid väiteid tuleb päris ülesannetes kontrollida, kuid juba probleemipüstitus on tähtis: kohalik AI küpseb ja hakkab võistlema mitte teate lärmakuse, vaid juurutamise mugavusega.

Mida nüüd jälgida

Põhiküsimus on, kas sellised mudelid suudavad saada personaalsete agentide tööbaasiks: nende, mis loevad kohalikke faile, kutsuvad programme, aitavad dokumentidega ja elavad kasutaja tavapärases keskkonnas. Kui LFM2.5 töötab tõesti tavalisel riistvaral kiiresti ja hoiab tool-use ülesannetes vastuvõetavat kvaliteeti, tugevdab see hübriid-AI trendi: suured pilvemudelid kõige keerukamate päringute jaoks, kohalikud mudelid igapäevase automatiseerimise ja privaatsete töövoogude jaoks.

Neuro.ee jaoks pole siin tähtis ainult üks Liquid AI väljalase, vaid suund. AI-võidujooks jaguneb tasapisi kaheks kihiks: üleval jäävad kõige võimsamad mudelid, all kasvab aga kompaktsete assistentide turg, mida saab viia lähemale andmetele, seadmetele ja kasutaja päris tööle.

Liquid AI avaldas mudeli kohalikele AI-agentidele tavalistes sülearvutites

Liquid AI avaldas mudeli kohalikele AI-agentidele tavalistes sülearvutites

Miks see pole oluline ainult arendajatele

Panus on agentidel, mitte rekorditel

Mida nüüd jälgida

Veel uudiseid