AI-detektorid on täpsemad, kuid vale süüdistus võib endiselt karjääri murda
The Atlantic kirjeldas probleemi, mis väljub kiiresti koolivaidlustest spikerdamise üle: AI-detektorid on muutunud piisavalt täpseks, et neid usutakse, kuid mitte piisavalt läbipaistvaks, et ühe tulemuse põhjal inimese mainet murda.
Loo keskne tegelane on Pangram, teenus AI-ga genereeritud teksti tuvastamiseks. The Atlanticu andmetel on just selle tulemused juba ilmunud valjuhäälsetes süüdistustes: enne avaldamist tagasi võetud romaanist kuni vaidlusteni ajaleheartiklite, kirjandustekstide ja paavst Leo XIV entsüklika üle, mis käsitles AI ohte. Tööriista kasutavad ka ülikoolid, koolid ja teadusühendused.
Pangram lubab oma saidil 99,98% täpsust ja viitab välistele hinnangutele, sealhulgas Marylandi ja Chicago ülikoolide töödele. Ettevõtte juht Max Spero ütles The Atlanticule, et teenus märgib inimteksti ekslikult AI-ks umbes üks kord 10 tuhande kontrolli kohta. Väikesel valimil kõlab see peaaegu ideaalselt. Riigi tasandil, kus miljonid õpilased esitavad igal aastal kümneid kirjalikke töid, muutub isegi selline osakaal paljudeks valekahtlusteks.
Miks täpne detektor võib ikkagi ohtlik olla
Paradoks seisneb selles, et kõige riskantsem tööriist pole tingimata halb. Ilmselgelt nõrga detektoriga on lihtsam vaielda: selle järeldused kaotavad kiiresti autoriteedi. Pangrami puhul on olukord keerulisem. Kui teenus on enamasti õige, on õpetajal, toimetajal või tööandjal psühholoogiliselt lihtsam võtta tulemust tõendina.
AI-tekst ei sarnane aga sõrmejäljega. Pangram treenitakse suurte inim- ja masintekstide kogumite peal ning see annab kategooriaid nagu „AI Generated“, „AI Assisted“ või „Human Written“. Samal ajal tunnistab Max Spero ise, et mudeli sisemisi tunnuseid on raske tõlgendada. Teenus võib anda enesekindla järelduse, kuid ei suuda alati inimesele selgitada, milline fraas või struktuur sai otsustavaks.
Eraldi probleem on teksti „humanizer’id“. The Atlantic kontrollis üht sellist teenust: ChatGPT ja Claude’i kirjutatud tekstid läbisid pärast töötlemist Pangrami stabiilselt inimtekstidena. See ei tähenda, et detektor oleks kasutu. See tähendab, et selle ümber käib juba võidujooks: mudelid kirjutavad loomulikumalt, varjamisteenused kohanevad ning sõltumatud täpsushinnangud vananevad kiiremini, kui neist jõuab saada reegel.
Mida peaksid tegema koolid, toimetused ja ettevõtted
Kõige mõistlikum seisukoht ei kõla kui „keelame AI-detektorid“, vaid kui „ärme muuda neid kohtunikuks“. Spero ütleb ka ise, et Pangram ei peaks olema viimane instants, vaid kontrolli lähtepunkt. Päris menetluses peaksid detektori tulemuse kõrval olema muudatuste ajalugu, mustandid, varasemate tööde stiil, vestlus autoriga ning selge vahe täies mahus vestlusrobotist kopeerimise ja tavalise AI-abi vahel argumentide otsimisel või keele parandamisel.
Tavalisele lugejale on see lugu laiem kui üks teenus. Ühiskond püüab kiiresti tõmmata piiri inimliku ja masinliku kirjutamise vahele, kuid piir ise muutub häguseks. Inimesed kasutavad AI-d juba toimetajana, tõlkijana, teatmikuna ja vestluspartnerina. Kui institutsioonid vastavad sellele ainult teise AI musta kastiga, süveneb usalduskonflikt veelgi.
AI-detektorid jäävad tõenäoliselt tööreeglite osaks. Kuid nende järeldus peaks kõlama hoiatusena: „siin tuleb asja uurida“, mitte automaatse süüdistusena. Vastasel juhul hakkab võitlus AI ebaausa kasutamise vastu ise ebaõiglust tootma.
