42 osariigi peaprokurörid nõudsid OpenAI-lt dokumente ChatGPT riskide kohta
USA osariikide peaprokuröride koalitsioon alustas OpenAI suhtes laia uurimist. Wall Street Journali andmetel sai ettevõte kohtukutse nõudega esitada dokumendid selle kohta, kuidas tema tooteid reklaamitakse, kuidas need kasutajaid hoiavad, kuidas töödeldakse tarbija- ja meditsiiniandmeid ning kuidas töötatakse haavatavate rühmadega. Anadolu kirjutab WSJ-le viidates, et koalitsioonis osaleb 42 osariiki.
See ei ole vaidlus selle üle, kas ChatGPT vastas ühele konkreetsele küsimusele õigesti. Regulaatorid vaatavad OpenAI-d kui massilist tarbijaplatvormi: kes näeb selle reklaami, kuidas on üles ehitatud kaasatus, mis juhtub andmetega, millised reeglid kehtivad laste, eakate ja emotsionaalselt ebastabiilses seisundis kasutajate puhul.
Mida osariigid küsisid
Reuters ja TechCrunch teatavad, et kohtukutse saadeti New Yorgi peaprokuröri büroo kaudu. Teemade nimekirjas on reklaam, kasutajate kaasamine ja hoidmine, tarbija- ja meditsiiniandmetega töötamine, alaealiste ja eakatega seotud tegevus, sisepoliitikad, süvaõppemudelid ise ning mudeli meelitav nõustumine (model sycophancy) - vestlusroboti kalduvus kasutajaga nõustuda või tema mõtteliini võimendada selle asemel, et ohtlikku stsenaariumi ettevaatlikult peatada.
OpenAI teatas, et võtab peaprokuröride muresid tõsiselt ja kavatseb nende büroodega konstruktiivselt suhelda. Formaalselt ei ole see veel süüdistus ega kohtuotsus. Kuid päringu laius näitab, kuhu USA arutelu liigub: regulaatorid tahavad mõista mitte ainult mudeli ohutust laboritestides, vaid ka seda, kuidas ChatGPT töötab sadade miljonite kasutajatega tootena.
Miks see muutus kiireloomuliseks
Uurimine ei tekkinud tühjalt kohalt. Juuni alguses esitas Florida hagi OpenAI ja Sam Altmani vastu. Hagis väidetakse, et ettevõte hoiatas ChatGPT riskide eest ebapiisavalt ja lasi turule toote, mis võib haavatavatele kasutajatele kahju teha. OpenAI vaidlustab need süüdistused ja rõhutab tavaliselt, et arendab kaitsemehhanisme.
Tavalugejale ei ole kõige olulisem kohtukutse juriidiline tehnika, vaid uus raam. Veel hiljuti kõlasid AI-ettevõtetele esitatavad põhiküsimused nii: kui tugev mudel on, kui palju API maksab, kes suudab agendi kiiremini töövoogu ehitada. Nüüd ilmub kõrvale teine küsimuste kogum: kas toode tõmbab inimesi ohtlikesse vestlustesse, kuidas ta käsitleb isiku- ja meditsiiniandmeid, kus on vastutuse piir nõu eest, mida kasutaja tajub abina.
Mis tööstuses muutub
Kui uurimine areneb nõueteks või kokkulepeteks osariikidega, ulatuvad tagajärjed OpenAI-st kaugemale. Sarnase tähelepanu alla satuvad Anthropic, Google, xAI, Meta ja teised ettevõtted, kes teevad vestlusrobotitest massilisi abilisi. Nad peavad tõestama mitte ainult mudeli kvaliteeti, vaid ka toote küpsust: vanusepiiranguid, intsidentide logimist, mälu seadeid, meditsiini- ja kriisiteemade reegleid ning kontrollitavaid eskalatsiooniprotseduure.
Kasutajatele on see samuti kasulik signaal. ChatGPT ja sarnased teenused ei ole enam lihtsalt “nutikas tekstiaken”, vaid osa igapäevasest taristust - õppimisest ja tööst tervise, suhete ja finantsotsusteni. Mida sügavamale AI nendesse valdkondadesse siseneb, seda vähem saab turg elada põhimõttel “proovige ise ja küll saate aru”. Küsimus kõlab nüüd karmimalt: millised kohustused tekivad ettevõttel, kui tema mudel räägib inimesega mitte otsingumootorina, vaid vestluspartneri, nõuandja ja mõnikord peaaegu ainsa kättesaadava abilisena.
- wsj.comOpenAI Investigated by Coalition of State Attorneys General
- reuters.comOpenAI under investigation by group of state attorneys general, source says
- techcrunch.comOpenAI faces investigation from state attorneys general | TechCrunch
- aa.com.trOpenAI being investigated by coalition of 42 US state attorneys general: Wall Street Journal
- axios.comFlorida sues OpenAI and CEO Sam Altman over ChatGPT
- ag.ny.govHome













