AI-assistendid muutusid kasulikumaks, kuid matkivad inimesi halvemini
Kasulik assistent ei võrdu digitaalse inimesega
Suuri keelemudeleid kasutatakse üha sagedamini mitte ainult abilistena, vaid ka inimeste asendajana testides: nendega proovitakse imiteerida fookusgruppe, kasutajate reaktsioone, õpistsenaariume, poliitilisi küsitlusi ja käitumiseksperimente. Uus arXivi uuring „Post-training makes large language models less human-like“ tabab just seda mugavat eeldust.
Uurimisrühm esitles Psych-201 andmestikku, mis koondab käitumiseksperimente umbes 208 tuhande osaleja ja 26 miljoni üksikvastusega. Selle peal kontrolliti, kui hästi eri keelemudelid ennustavad inimeste päris vastuseid. Tulemus on sünteetiliste vastajate turu jaoks ebamugav: baas-mudelid, mida treeniti peamiselt järgmist tokenit ennustama, osutusid inimestele sageli lähemaks kui versioonid, mis olid muudetud kasulikeks assistentideks.
See ei tähenda, et ChatGPT-laadsed süsteemid oleksid üldiselt „halvemaks“ muutunud. Post-training on vajalik just selleks, et mudel vastaks kasulikumalt, turvalisemalt, kuulekamalt ja arusaadavamalt. Kuid sama häälestus muudab eesmärki: mudel ei jätka enam lihtsalt inimteksti, vaid püüab anda eelistatud, õige või normatiivse vastuse. Käitumisülesannetes võib see olla probleem, sest päris inimesed vastavad sageli ebajärjekindlalt, irratsionaalselt, ebatäiuslikult ja kontekstist sõltuvalt.
Kus lõhe tekkis
Autorid võrdlesid Qweni, Llama ja OLMo perekondi, sealhulgas baasmudeleid ning instrueeriva treeningu, reasoning-häälestuse ja muude järelõppeetappide järel saadud variante. Uuringu järgi vähendas post-training inimkäitumisega kattuvust järjekindlalt eri mudeliperekondades, suurustes ja häälestuseesmärkides. The Decoder märgib eraldi, et mõju paistis kõige tugevamalt reasoning-mudelites, seejärel instrueeritud ja multimodaalsetes versioonides.
Teadlased kontrollisid ka lihtsat seletust: võib-olla vastavad assistendid lihtsalt liiga deterministlikult ja seetõttu annavad halvemini edasi inimreaktsioonide hajuvust. Kuid diskreetsete vastusevariantidega ülesannete analüüs ei kinnitanud, et asi oleks ainult selles. Probleem on sügavam: kasulik assistent õpib olema hea vestluspartner ja ülesannete lahendaja, mitte inimliku eksperimendiosalise statistiline koopia.
Veel üks oluline tulemus puudutab „persoonasid“: populaarne võte, kus mudelile antakse kujuteldava inimese vanus, riik, harjumused või muud omadused, ei parandanud ennustusi üksikosalejate tasemel. See on halb uudis stsenaariumidele, kus ettevõtted paluvad mudelil „mängida 35-aastast ostjat Saksamaalt“ ja teevad siis toototsuseid sellise simulatsiooni põhjal.
Mida see praktikas muudab
Ettevõtete jaoks on järeldus lihtne: sünteetilised kasutajad võivad olla kasulik mustandtööriist, kuid ei asenda päris inimesi ilma valideerimiseta. Kui tiim testib liidest, reklaami, haridustoodet või poliitilist sõnumit ainult assistendi peal, riskib ta saada mitte inimreaktsiooni, vaid mudeli korrektse ja sotsiaalselt soovitava vastuse.
Teadlaste jaoks on järeldus peenem. Baas-mudelid võivad inimkeele ja käitumise statistikat paremini peegeldada, kuid ka nemad pole inimesed. Nende eelis selles uuringus ei tähenda, et valimi saaks automaatselt mudeliga asendada. Pigem näitab see, et eri treeninguetapid muudavad mitte ainult vastuse kvaliteeti, vaid ka seda, millist „inimest“ mudel üldse püüab kujutada.
See on oluline parandus praegusele vaimustusele AI-fookusgruppide ümber. Mida paremini assistent aitab meil kirjutada, vaielda ja ülesandeid lahendada, seda vähem on põhjust pidada teda tavalise kasutaja neutraalseks koopiaks. Ajastul, kus ettevõtted tahavad uuringuid AI abil kiirendada, pole see sünteetiliste testide keeld, vaid hoiatus: kõigepealt kontrollige, mida mudel tegelikult imiteerib.
- arxiv.orgPost-training makes large language models less human-like
- export.arxiv.orgarXiv Query: search_query=&id_list=2605.07632&start=0&max_results=10
- the-decoder.comMaking AI chatbots helpful weakens their ability to simulate human behavior, large-scale study finds
- commons.wikimedia.orgFile:Computer lab student1.jpg - Wikimedia Commons
