Arstitudeng uuris AI-CV-filtrit — nüüd on raskem väita, et algoritm lihtsalt aitab

Arstitudeng uuris AI-CV-filtrit — nüüd on raskem väita, et algoritm lihtsalt aitab

Dartmouthi meditsiinikooli tudeng Chad Markey ei saanud residentuuri valiku alguses ühtegi intervjuukutset ja otsustas kontrollida, kas tema vastu võis töötada algoritm. WIREDi andmetel kirjutas ta mitu kuud päringuid, kirju, uurimismärkmeid ja Python-koodi, et mõista, kuidas AI-tööriistad võisid tema avaldust lugeda.

See ei ole lugu ühest solvunud kandidaadist. See on peaaegu õppejuhtum tööturust, kus automatiseeritud filter mõjutab juba inimeste eluteid, kuid inimene ise ei saa sageli teada, mis täpselt juhtus. Tööandja näeb mugavat paneeli, värbaja töökoormuse vähenemist, kandidaat aga vaikust või tagasilükkamist.

Mis juhtus

Markey kandideeris meditsiiniresidentuuri — järgmisele arstiks kujunemise etapile pärast meditsiinikooli. WIREDi kirjelduse järgi olid tal tugevad akadeemilised tulemused, publikatsioonid ajakirjades JAMA ja The Lancet, head soovitused ning keeruline terviselugu: autoimmuunhaiguse tõttu võttis ta akadeemilisi pause ja õppimine venis pikemaks.

Tema dokumentides nimetati neid pause sõnaga „voluntary“, ehk vabatahtlikeks. Markey kahtlustas, et selline sõnastus võis automaatfiltrile paista nõrga signaalina — justkui poleks tudeng koormusele vastu pidanud, kuigi avalduses oli haiguse kohta selgitus olemas.

Kahtluse ajendiks sai Thalamuse tööriist Cortex, millega vaadatakse ja filtreeritakse residentuuritaotlusi. WIRED kirjutab, et Cortex kasutab OpenAI generatiivsete mudelite kohandatud versioone, muu hulgas eri hindamissüsteemidega meditsiinikoolide tulemuste ühtlustamiseks. Thalamuse andmetel kasutas 2025–2026 tsüklis Cortexit umbes 1500 residentuuriprogrammi — ligi 30% koguarvust.

Oluline detail: varsti pärast valiku algust teatas ettevõte, et osa programme märkas mõne kandidaadi hinnete valesti kuvamist. See ei tõesta, et just AI Markey kõrvale jättis. Kuid see selgitab, miks kahtlus muutus usutavaks: kui süsteem eksib põhiandmetes, seisab kandidaat selge protseduuri asemel musta kasti ees.

Miks see on rohkem kui meditsiinilugu

AI-filtrid tulevad sinna, kus avaldusi on liiga palju ja inimeste aega liiga vähe. Residentuuris süvenes see pärast pandeemiat: intervjuud muutusid virtuaalseks, tudengid hakkasid kandideerima rohkematesse programmidesse ning haiglad said varasemast rohkem avaldusi.

Sama loogika töötab peaaegu kõikjal: töökohtades, praktikatel, ülikooliprogrammides, grantides ja sisemistel edutamistel. Algul ütleb organisatsioon, et AI aitab vaid dokumente sortida. Siis hakkavad inimesed CV-sid oletatavate märksõnade järgi kohandama. Seejärel kahtlustavad kandidaadid, et ükski elus inimene neid ei näinudki. Nii tekib AI-silmus: masinad aitavad avaldusi kirjutada, masinad aitavad neid välja sõeluda ja inimesed püüavad mängureegleid ära arvata.

Põhiprobleem ei ole automatiseerimine ise. Suuri valikuid tulebki kuidagi korrastada. Probleem on asümmeetrias: organisatsioon saab mastaabi ja kiiruse, kandidaat ei saa aga selgitust. Ta ei tea, kas keeldumine oli seotud kogemuse, hinnete, dokumendisõnastuse, andmevea või mudeli kallutatud mustriga.

Kus regulatsioon nõrgaks jääb

WIRED märgib, et USA-s on vaid mõni osariik juba kehtestanud või ette valmistamas reegleid AI-värbamistööriistadele. Illinois, New Jersey ja Colorado keelavad diskrimineerivad tööriistad, kuid nõuavad peamiselt teavitust AI kasutamise kohta. Californias on reeglid karmimad: tööandjad peavad selliseid süsteeme regulaarselt kallutatuse suhtes auditeerima.

Ent ka need lähenemised lahendavad halvasti konkreetse kandidaadi probleemi. Teade „me kasutame AI-d“ ei selgita veel, kuidas süsteem konkreetset avaldust hindas. Grupipõhine diskrimineerimiskontroll ei vasta tingimata küsimusele, miks just selle inimese fail intervjuuni ei jõudnud.

Siin tekib uus juhtimisrisk. Kui ettevõte või ülikool võtab kasutusele AI-sõelumise, ei piisa enam lausest „otsuse teeb ikkagi inimene“. Tuleb näidata, kus inimene tegelikult sekkub, milliseid välju süsteem näeb, kuidas andmevead parandatakse, kes saab tulemuse vaidlustada ja kas auditijälg säilib.

Mida see tavainimese jaoks muudab

Praktiline järeldus on ebameeldiv, aga kasulik: olulisi avaldusi tuleb nüüd kirjutada mitte ainult inimestele, vaid ka masinatele. Pauside, mittestandardsete karjääripöörete ja terviseolude selgitused peavad olema võimalikult ühemõttelised, sest automaatfilter võib konteksti mõista halvemini kui elus intervjueerija.

Kogu vastutust kandidaatidele lükata ei saa. Kui ühiskond aktsepteerib AI-filtreid värbamises, hariduses ja meditsiinis, peab ta nõudma õigust arusaadavale protseduurile. Kogu mudelikoodi ei pea tingimata avaldama. Kuid miinimum peab olemas olema: teavitus, kasutatud andmete loetelu, vea parandamise võimalus, tegevuslogi ja selge apellatsioonitee.

Markey lugu on oluline just seetõttu. See ei näita futuristlikku hirmu, vaid AI-ajastu argipäeva: algoritm võib seista inimese ja elukutse vahel, samal ajal kui selle rolli on peaaegu võimatu tõestada. Mida nähtamatumaks valiku taristuks sellised süsteemid muutuvad, seda valjemaks muutub küsimus: kes kontrollib kontrollijaid?