Meta viib modereerimise AI peale: LLM-id on juba võtnud poole kontrollidest
Meta kiirendab sisu ja reklaamide modereerimise viimist suurtele keelemudelitele. Financial Times kirjutab neljale ettevõtte plaanidega kursis olevale inimesele viidates, et 2026. aastal on LLM-id juba asendanud umbes poole päringutest, mis varem läksid inimkontrolli. Mõne sisutüübi puhul tahab Meta FT allikate sõnul viia automatiseerimise aasta lõpuks üle 90%.
See ei ole eraldiseisev laborikatse. Jutt käib Facebookist, Instagramist ja Meta reklaamisüsteemist ehk taristust, kus iga päev otsustatakse, mis eemaldatakse, mis jääb üles, milline reklaam läbib kontrolli, kes saab blokeeringu ja kui kiiresti saab kasutaja vea vaidlustada.
Miks Meta kiirustab
Metal on automatiseeritud filtreid olnud kaua, kuid LLM-id muudavad kontrolli majandust ja mastaapi. Inimmodereerimine on kallis, aeglane ja psühholoogiliselt raske: alltöövõtjad on aastaid vaadanud pettusi, vägivalda, seksuaalset ärakasutamist, poliitilist ekstremismi ja vaieldavaid reklaame. Ettevõtte jaoks, mis kulutab AI-taristule tohutuid summasid, näib osa sellest tööst mudelitega asendamine viisina kulusid vähendada ja reaktsioone kiirendada.
Meta avalik sõnum kõlab teistmoodi: mitte lihtsalt kokkuhoid, vaid tõsiste rikkumiste täpsem ja kiirem leidmine. Märtsis kirjutas ettevõte, et varastes testides leidsid uued AI-süsteemid päevas 5000 pettusekatset, mida olemasolevad tiimid ei tabanud, aitasid vähendada kuulsusi jäljendavate kontode kaebusi üle 80% ning ühes stsenaariumis leidsid kaks korda rohkem täiskasvanute seksuaalteenustega seotud reegleid rikkuvat sisu, vähendades samal ajal vigu üle 60%.
Kus risk algab
Probleem pole selles, et AI modereerimises osaleb. Sellise suurusega platvormidel pole miljardite postituste, sõnumite, reklaamide ja kaebuste läbivaatamine ilma automatiseerimiseta võimalik. Küsimus on selles, milliseid otsuseid saavad mudelid teha peaaegu ilma inimeseta kõrval.
Modereerimine sõltub sageli kontekstist. Satiir, tsiteerimine, poliitiline protest, ajakirjandus, kohalik släng ja vägivalla arutamine selle hukkamõistmiseks võivad süsteemile paista rikkumisena. Oversight Board on varem viidanud, et apellatsioonides selgitavad inimesed sageli: postitus oli nali või katse probleemile tähelepanu tõmmata. Just sellised juhtumid taluvad jämedat automatiseerimist halvasti.
Meta lubab, et inimesed jäävad alles kõige keerulisemate otsuste juurde, sealhulgas kontode sulgemise apellatsioonide ja õiguskaitseorganitega seotud pöördumiste puhul. Kuid FT teade näitab tempot: kui pool inimkontrollidest on juba LLM-idele läinud, muutub kasutajakogemus enne, kui ühiskond jõuab normaalsed kontrollireeglid kokku leppida.
Mida see muudab kasutajate ja äri jaoks
Tavalise inimese jaoks on panus lihtne: ekslik blokeering, eemaldatud postitus, läbi pääsenud petureklaam või aeglane apellatsioon. Väikeettevõtte jaoks on risk kaotada reklaamikonto või leht otsuse tõttu, mis mõistis halvasti toodet, sõnastust või kohalikku konteksti.
Turule on see veel üks näide konkreetse massilise funktsiooni asendamisest: kontrollida, klassifitseerida, otsustada, eskaleerida. Kui Meta saab hakkama, liiguvad teised platvormid kiiremini samas suunas. Kui tekivad nähtavad vead, muutub vaidlus AI-modereerimise üle vaidluseks platvormide võimu üle: kellel on õigus digitaalset lülitit vajutada ja kui läbipaistvalt saab seda vaidlustada.
- ft.comMeta races to replace human moderation with AI
- techmeme.comSources: Meta is accelerating plans to use LLMs to review content and ads, replacing ~50% of human review requests in 2026 and aiming for 90% by year-end
- about.fb.comBoosting Your Support and Safety on Meta’s Apps With AI
- about.fb.comHow AI Is Ushering in the Next Era of Risk Review at Meta
- oversightboard.comContent Moderation in a New Era for AI and Automation | Oversight Board
- about.fb.comCover image: Boosting Your Support and Safety on Meta's Apps With AI
