AI poetab meditsiiniartiklitesse olematuid viiteid
AI-tööriistad aitavad teadlastel üha sagedamini artikleid toimetada, sõnastusi kontrollida ja mustandeid kokku panna. Kuid Fortune’i värske ülevaade näitab selle kiiruse ebameeldivat hinda: biomeditsiinilises kirjanduses on järsult kasvanud olematute viidete arv, mis näevad välja nagu päris teadusallikad.
Ajendiks oli Columbia University School of Nursingu teadlase Maxim Topazi töörühma uuring, mis avaldati The Lancetis. Uurijad analüüsisid peaaegu 2,5 miljonit biomeditsiiniartiklit ja 97 miljonit viidet PubMed Centralis. Nad leidsid üle 4000 fabritseeritud viite ligi 3000 töös.
Iga selline viide ei ole tingimata AI loodud. Kuid dünaamika langeb kokku generatiivsete tööriistade massilise kasutuselevõtuga: uuringu järgi on võltsviidete sagedus alates 2023. aastast kasvanud üle 12 korra. 2023. aastal leidus vähemalt üks olematu viide umbes ühes artiklis 2828-st, 2024. aastal ühes artiklis 458-st ja 2026. aasta esimese seitsme nädala jooksul juba ühes artiklis 277-st.
Viga muutub tõendusahela osaks
Topaz rääkis Fortune’ile, et puutus probleemiga ise kokku pärast artikli ajakirjale saatmist: AI-tööriist, mis aitas tekstiga, lisas märkamatult väljamõeldud allika. „Ma olen AI-uurija. Ma tean hallutsinatsioonidest. Kui see juhtub minuga, mis juhtub teiste inimestega?“ ütles ta väljaandele.
Tavalises tekstis on selline viga ebameeldiv, kuid sageli lokaalne. Meditsiinis on see ohtlikum, sest teadmised ehitatakse kihtidena. Kliinilised uuringud viitavad varasematele töödele, süstemaatilised ülevaated koondavad neid uuringuid ja ravisoovitused kasutavad omakorda ülevaateid. Kui selle ahela põhja ilmub väljamõeldud allikas, võib viga edasi liikuda justkui „tõendusbaasi“ osana.
Fortune toob Topazi hinnangu, et kirjastussüsteem ei ole selliseks koormuseks veel hästi valmis. Viidete kontrollimine on ajakirjades erinevalt korraldatud ja vanu tsiteerimisahelaid tagantjärele läbi kammida on keeruline. Tema analüüsi järgi ei olnud 98,4% võltsviidetega artiklitest kontrollimise ajaks tagasi võetud.
See on eriti ebameeldiv veatüüp: artikkel võib olla kirjutatud päris autori poolt, sisaldada päris andmeid ja kanda ikkagi vaikselt kirjanduse loetelus üht või kaht väljamõeldud tellist.
Miks see ei puuduta ainult teadlasi
Lugu on tähtis ka väljaspool akadeemiat. Ameerika Meditsiiniassotsiatsioon teatas 2026. aastal, et üle 80% arstidest kasutab AI-d juba professionaalses praktikas, kõige sagedamini meditsiiniuuringute kokkuvõtmiseks ja kliinilise dokumentatsiooni koostamiseks. See ei tähenda, et arstid usaldavad vestlusroboteid pimesi, kuid näitab ulatust: AI-abilised on juba jõudnud inimeste töövoogu, kus vea hind on kõrge.
Sarnane probleem paistab ka õiguses. Teadlane Damien Charlotin peab andmebaasi kohtuasjadest, kus on esinenud AI hallutsinatsioone: sinna on kogunenud juba sadu otsuseid ja materjale, kus ilmusid väljamõeldud kaasused, valed tsitaadid või moonutatud õigusnormid. Ühine õppetund on lihtne: mida ekspertilikum on valdkond, seda veenvam näib viga, kui see on vormistatud õige keelega.
Kasutajale on praktiline järeldus lihtne ja karm: AI-d võib kasutada lugemise ja mustanditöö abilisena, kuid mitte allikate kontrollijana. Viited, tsitaadid, arvud ja algdokumendid vajavad eraldi kontrolli. Muidu säästab automatiseerimine tekstis minuteid, kuid lisab võlga teadmise kõige kallimas osas: usalduses tõendite vastu.
- fortune.comAI hallucinations are slipping past experts into papers and books to enter the permanent record | Fortune
- thelancet.comThe Lancet study on fabricated references in biomedical literature
- ama-assn.orgAMA: AI usage among doctors doubles as confidence in technology grows
- damiencharlotin.comAI Hallucination Cases Database – Damien Charlotin
- commons.wikimedia.orgFile:Biomedical Engineering Laboratory.jpg - Wikimedia Commons













