EY eemaldas raporti pärast võltsviiteid: AI jõudis konsultatsiooniäri usalduskihti

Konsultatsioonifirma EY võttis maha Kanada raporti lojaalsusprogrammide küberriskidest pärast seda, kui GPTZero uurijad leidsid sealt AI-hallutsinatsioonide tunnuseid: võltsviiteid, olematuid allikaid, kahtlaseid arve ja teksti, mis näis genereeritud. Loost kirjutas ka Financial Times ning Techmeme tõi selle tehnoloogiauudiste päevakorda.

Esmapilgul on see järjekordne piinlik juhtum sarjast „AI mõtles allikad välja“. Tegelikult on lugu olulisem. Jutt ei käi tudengireferaadist ega juhuslikust blogipostitusest, vaid suure konsultatsioonifirma materjalist — just sellisest allikast, millele ettevõtted, ajakirjanikud, riigiasutused ja AI-otsingud on harjunud viitama kui autoriteetsele teadmistepakendile.

Mida EY raportist leiti

44-leheküljeline EY Canada raport Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems käsitles lojaalsusprogrammide pettusi ja küberriske: lennumiile, boonuspunktide kontosid, kliendikontosid, kõnekeskuste ründeid ja rahalist kahju.

GPTZero sõnul kontrolliti raporti allikaid käsitsi ja tööriistaga Hallucination Check. Uurijate hinnangul oli suur osa viiteid katkised, välja mõeldud või ei toetanud esitatud väiteid. Sherwood News vahendas GPTZero hinnangut, et umbes 60% raporti viidetest võisid olla hallutsineeritud.

Näidete seas oli väidetav Forbesi artikkel The $200 Billion Loyalty Economy, mida Sherwood ei leidnud ei nimetatud URL-ilt ega Internet Archive’ist. Teised näited puudutasid WIREDi ja CyberNewsi viiteid, mis viisid tühja. GPTZero käsitles eraldi ka 200 miljardi dollari suuruse lojaalsuspunktide turu väidet ning 30–50% kasutamata punktide arvu: väidetavalt omistati allikas McKinseyle, kuid tegelik jälg viis palju nõrgema fintech-blogini.

See ei tõesta automaatselt, et iga raporti väide oli vale. Professionaalse raporti jaoks on probleem juba selles, et kui lugeja ei saa vundamenti kontrollida, kaotab kogu dokument usaldusväärse allika staatuse.

Miks see lööb rohkemat kui EY-d

Konsultatsioon müüb mitte ainult soovitusi, vaid ka usaldust protsessi vastu: ekspertiisi, metoodikat, andmepääsu, kontrolli, toimetamist ja brändi vastutust. Kui suure firma raport näeb välja nagu kogum „vibe citations“ — ilusad, kuid olematud viited — saab pihta tasulise ekspertiisi idee ise.

EY jaoks on see ebameeldiv, turu jaoks veel ebameeldivam. Kui suured firmad hakkavad avaldama tekste, mis näivad veenvad, kuid allikakontrolli ei läbi, peab klient küsima: mille eest ta maksab — ekspertiisi või kenasti vormistatud keelemudeli väljundi eest?

Suured konsultatsioonifirmad võtavad generatiivset AI-d kasutusele, sest see kiirendab uurimist, mustandeid, esitlusi ja korduvat analüüsitööd. See on loogiline. Kuid mida rohkem AI-d raportitootmisse tuleb, seda kallimaks muutub inimlik osa: viidete kontroll, arvude verifitseerimine, metoodiline puhtus ja konkreetsete autorite vastutus.

Hallutsinatsioonid on muutunud taristuprobleemiks

Selliste raportite ohtlikem mõju ei ole ühekordne viga. GPTZero kirjutab „kaevu reostamisest“: avaldatud PDF jõuab veebi ning seda hakkavad lugema mitte ainult inimesed, vaid ka otsingusüsteemid, ettevõtete teadmistebaasid ja AI deep research’i tööriistad.

Inimesele on tuntud logo kaanel usaldussignaal. AI-assistendile võib see samuti signaal olla: dokument on suure firma saidil, sisaldab tabeleid, allmärkusi ja kindlaid sõnastusi — järelikult võib seda kasutada allikana. Kui sees on välja mõeldud viited ja kahtlased arvud, hakkab viga paljunema.

Sherwood kirjutas, et EY raportit oli juba tsiteeritud Canberra Timesi loos, mis sündikeeriti enam kui 60 Austraalia ajalehes. GPTZero väitis, et raporti andmed ilmusid ka ChatGPT, Claude’i ja Perplexity vastustes. Isegi kui osa näiteid hiljem kaob, on mehhanism selge: autoriteetne, kuid halb dokument võib toita järgmise põlvkonna vigaseid vastuseid.

Miks „lihtsalt kontrollige AI-d“ ei piisa

Pärast selliseid lugusid on lihtne öelda: kontrollige genereeritud tekst üle. Tegelikkuses on see keerulisem. Ühe hea lõigu kontroll on kiire; 44-leheküljelise raporti kümnete viidete, arvude ja väidete kontroll on eraldi töö.

Siin on generatiivse AI majanduslik paradoks. See vähendab järsult teksti tootmise hinda, kuid ei vähenda samas tempos kindluse hinda. Mõnikord tõstab seda: nüüd tuleb kontrollida mitte ainult fakte, vaid ka seda, kas allikad eksisteerivad, kas AI ei moonutanud pealkirja, ei omistanud arvu valesti ega liiminud mitut nõrka publikatsiooni üheks kindlaks teesiks.

Ettevõtete AI-poliitika ei saa seega piirduda konfidentsiaalsete andmete keeluga ChatGPT-s. Vaja on protseduure: kes vastutab viidete eest, kuidas kontrollitakse väliseid allikaid, millised raportid läbivad käsiauditi, kus säilib evidence trail ja kas väitest saab tagasi liikuda algdokumendini.

Praktiline järeldus

EY juhtum on kasulik kõigile, kes ostavad või toodavad analüüsi. Kui teie lauale tuuakse ilusate graafikute ja kindlate järeldustega raport, tasub nüüd vaadata mitte ainult autori brändi, vaid ka allikate kontrollitavust.

Miinimumhügieen on lihtne: avada juhuslikult mõned lingid, kontrollida võtmenumbreid algallikatest, vaadata, kas viidatud dokumendid eksisteerivad, ja küsida autorilt metoodikat. Kallite otsuste puhul — investeeringud, küberturve, regulatiivsed riskid, HR-automatiseerimine — sellest ei piisa: vaja on faktikontrolli enne, kui raportist saab eelarve või poliitika alus.

Konsultatsiooni- ja uurimismeeskondadele on õppetund karmim. AI-ajastul võidab usalduse mitte see, kes genereerib PDF-i kiiremini, vaid see, kes suudab näidata tõendite ahelat. Viited, mustandid, andmed, kontroll ja toimetamine ei ole enam igav siseköök, vaid osa tootest.

Peamine järeldus

EY lugu ei räägi ainult sellest, et „AI valetas jälle“. See räägib sellest, et hallutsinatsioonid on liikunud juturobotist professionaalsesse usaldustaristusse. Kui eksib bot, saab kasutaja üle küsida. Kui eksib suure firma raport, tsiteerivad seda meedia, kliendid ja teised AI-süsteemid.

Generatiivne AI teeb ekspertliku välimuse odavaks. Seetõttu muutub tegelikuks väärtuseks mitte ekspertiisi välimus, vaid kontrollitavus. Lähiaastatel peab turg uuesti õppima eristama raportit raporti imitatsioonist — ja see võib olla AI-ajastu üks praktilisemaid oskusi.