Google Search komistas käsusõnade otsa: AI Overviews pidas päringuid juhisteks
Google Search sai piinliku, kuid kasuliku õppetunni sellest, mis juhtub, kui klassikaline otsing muutub AI-assistendiks. Reedel märkasid kasutajad, et AI Overviews läheb katki tavaliste sõnadega nagu disregard, ignore, skip, remember, start ja forget. Definitsiooni või otsingukokkuvõtte asemel vastas Google nii, nagu inimene ei otsiks sõna, vaid annaks juturobotile käsu.
The Verge kontrollis mitut sellist päringut. Sõnale disregard vastas AI Overview esmalt umbes stiilis „sain aru, kui vajad veel midagi, anna teada“, seejärel lõpetas Google selle sõna puhul AI Overview näitamise. Ignore ja skip puhul jätkas süsteem väljaande andmetel vastustega nagu „olen siin ja valmis aitama“ või „paistab, et see oli test või kirjaviga“.
Android Authority kirjeldas sarnast käitumist sõnastikupäringutes ja sai Google’ilt kommentaari. Ettevõtte esindaja ütles, et Google on probleemist teadlik: AI Overviews tõlgendab valesti mõningaid action-related queries päringuid ehk sõnu ja fraase, mis meenutavad tegevusi või juhiseid, ning parandus peaks peagi välja tulema.
Miks otsing hakkas vastama nagu vestlus
Pealtnäha on see naljakas viga: kasutaja otsib sõna tähendust, aga otsingumootor käitub assistendina, kellele anti just instruktsioon. Samas näitab viga hästi, kui palju otsingu olemus on muutunud. Varem oli Google’i riba peaaegu alati dokumentide otsimise mehhanism: sõna, fraas, küsimus, link. Nüüd on samasse ribasse ehitatud kiht, mis püüab kavatsust mõista, vastuse kokku panna ja kasutajaga loomulikus keeles rääkida.
Kui otsingusse lisatakse mudel, peab see otsustama: kas tegu on sõnastikuterminiga, navigeerimispäringuga, faktiküsimusega või käsuga? Inimesele on erinevus kontekstist ilmne: kui sisestatud on üks sõna ignore, on tõenäoline, et vaja on tõlget või definitsiooni. Süsteemile, mis on treenitud vestlema ja juhiseid täitma, võivad sellised sõnad paista juhtsignaalidena.
Oluline on, et see ei näi katastroofilise haavatavusena. Ei ole märke, et kasutajad oleksid saanud kätte võõraid andmeid või pannud Searchi tegema midagi ohtlikku. Küll aga on see nähtav näide sellest, kuidas AI-liides võib kasutaja rolli segi ajada: ta on kord lugeja, kord vestluspartner, kord operaator, kord käsu autor.
Mida see kasutajate jaoks muudab
Tavainimese jaoks on probleem lihtne: otsingu AI-vastus võib mõnikord olla midagi muud, kui küsiti. Kui vaja on sõna täpset tähendust, meditsiinilist infot, õiguslikku sõnastust või tehnilist juhist, tasub vaadata mitte ainult AI Overview’d, vaid ka tavalisi tulemusi, allikaid ja sõnastikuplokke. Mida rohkem Google asendab lehe ülaosa sünteesitud vastusega, seda nähtavamaks muutuvad ka väikesed tõlgendusvead.
Google’i jaoks on see eriti tundlik pärast I/O-d, kus ettevõte näitas Searchi järjest agentlikuma süsteemina: otsing ei peaks ainult vastama, vaid aitama ülesandeid teha, liideseid ehitada ja kontekstiga töötada. Mida lähemale Search assistendile liigub, seda kõrgemaks muutub nõue eristada selgelt „otsi infot“ ja „täida juhis“.
Selles loos ei ole suurt draamat, kuid on hea küpsusmärk AI-toodetele. Mudelid on juba massiteenustesse nii sügavalt põimitud, et nende sisemised harjumused muutuvad kasutajavigadeks. Google sulgeb tõenäoliselt konkreetsed sõnad kiiresti. Üldine küsimus jääb: otsing peab olema mitte ainult tark, vaid ka ettevaatlik selles, millist rolli inimene parasjagu otsinguriba teisel poolel mängib.
- theverge.comGoogle’s AI search is so broken it can ‘disregard’ what you’re looking for
- androidauthority.comGoogle’s AI Overviews are so confused, it can’t tell if you’re looking something up (Update)
- techmeme.comGoogle’s AI Overviews are failing to provide search summaries for specific command-style terms including “disregard”, “ignore”, and “skip”
- commons.wikimedia.orgFile:Google (16845022565).jpg - Wikimedia Commons
.jpg)
