London blokeeris politsei 50 miljoni naela suuruse Palantiri tehingu
Londoni linnapea Sadiq Khan blokeeris Metropolitan Police’i 50 miljoni naela suuruse lepingu Palantiriga. The Guardiani andmetel pidas politsei USA ettevõttega läbirääkimisi kaheaastase süsteemi üle, mis pidi automatiseerima luureandmete analüüsi kriminaaluurimistes. Palantiri jaoks oleks sellest võinud saada suurim leping Briti politseis.
City Hall selgitas keeldumist mitte sellega, et AI oleks politseis iseenesest keelatud, vaid sellega, kuidas hange ette valmistati. Mayor’s Office for Policing and Crime, mis peab selliseid tehinguid kinnitama, teatas „selgest ja tõsisest“ menetlusrikkumisest: politsei töötas põhjalikult läbi ainult ühe võimaliku tarnija, Palantiri, ega näidanud, et turgu oleks korralikult kontrollitud. Võimud viitasid ka tehnoloogilise sõltuvuse riskile ühest töövõtjast ning sellele, et tehing ei tõendanud eelarvele kasu.
Miks leping peatati
Vormiliselt on see lugu hankereeglitest, kuid sisuliselt on see laiem. Palantiril on Briti avalikus sektoris juba üle 600 miljoni naela lepinguid, sealhulgas NHS-i, kaitseministeeriumi, finantsregulaatori ja üksikute politseijõududega. Ettevõte oskab kiiresti töödelda suuri andmemassiive ning siduda uurimistes hajutatud dokumente, sõnumeid, ülekandeid ja kirjeid. Politsei jaoks on see ilmselgelt ahvatlev tööriist: vähem käsitööd, kiirem seoste otsing ja suurem võimalus mitte uppuda digitaalsetesse tõenditesse.
Just seetõttu muutub tarnija valik poliitiliseks ja ühiskondlikuks küsimuseks. Kui selline süsteem põimub uurimistesse, mõjutab see mitte ainult tõhusust, vaid ka seda, kes kontrollib politseiteadmise taristut. Londoni võimud tõid eraldi välja tehnoloogilise lukustumise riski, kus ametkond muutub sõltuvaks ühe tarnija süsteemist ja tingimustest. Avaliku sektori jaoks on see eriti tundlik: hilisem tarnijavahetus on kallis ning andmed ja protsessid on juba võõrasse platvormi sisse ehitatud.
Politsei-AI takerdub usaldusse
The Guardian kirjutab, et hiljutist Palantiri testi Met Police’is kasutati juba töötajate käitumisprobleemide otsimiseks. Politsei sõnul jõudsid pärast analüüsi sajad ametnikud kontrolli alla: alates tööajakava süsteemi kuritarvitamisest kuni valeväideteni kontoris viibimise kohta. Teised Briti politseijõud on kirjeldanud selliseid tööriistu kui keeruliste uurimiste jaoks „ümberkujundavaid“, sealhulgas telefonidest saadud andmete töötlemisel ja materjalide tõlkimisel teistesse keeltesse.
See on tugev argument AI kasutuselevõtu poolt, kuid ei lahenda vastutuse küsimust. Politsei kontekstis töötab automatiseerimine peaaegu alati tundlike andmete, kahtlustuste, profileerimise ja mainekahju riskide lähedal. Isegi kui süsteem aitab kurjategijaid kiiremini leida, peab ühiskond mõistma, kes seda kontrollib, milliste reeglite järgi seda hangitakse, kuidas piiratakse ligipääsu andmetele ja kas selle kasutamise tagajärgi saab vaidlustada.
Mis nüüd muutub
Khani otsus ei tähenda, et Palantir on Briti politseist igaveseks välja tõrjutud. Mopac räägib otse uuest hankest „tempos“, mis tähendab, et tehnoloogia võib läbipaistvama konkursi kaudu tagasi tulla. Kuid latt on nüüd kõrgem: ainult tõhususe lubadusest ei piisa enam, eriti kui jutt käib vastuolulisest ettevõttest, avalikest andmetest ja politseivõimust.
AI-turu jaoks on see kõnekas hetk. Riigid tahavad politseis, meditsiinis ja halduses automatiseerimist kiiremini juurutada, kuid suuri lepinguid kontrollitakse üha sagedamini mitte ainult hinna ja funktsionaalsuse järgi. Küsimus kõlab karmimalt: kes saab kontrolli kriitiliste andmete üle, kas ühe tarnija sõltuvust saab vältida ja kas riik selgitab piisavalt avatult, miks ta usaldab just seda süsteemi.
