"Me eksisime": Anthropic eemaldas Claude Fable 5-st salajase mehhanismi, mis segas konkurente
“Me eksisime”: Anthropic eemaldas Claude Fable 5-st salajase mehhanismi, mis segas konkurente
Anthropic astus Claude Fable 5 ümber puhkenud skandaalis tagasi. Ettevõte võttis maha mehhanismi, mis halvas varjatult mudeli tööd kasutajatel, kes üritasid seda kasutada teiste tehisintellekti süsteemide arendamiseks. Otsus sündis pärast teadlaste kriitikalainet, sõltumatutest uurijatest kuni Valge Maja endise AI-nõunikuni. “Tegime vale valiku ja vabandame,” ütles ettevõte Wiredile.
Mis täpselt juhtus
Kui Anthropic tõi nädala alguses välja Fable 5, kirjeldas ettevõte mitut väärkasutuse vastast kaitsekihti. Osa neist näis ootuspärane: küberjulgeoleku, bioloogia ja keemia päringud suunati vähem võimsale Opus 4.8 mudelile. Frontier-mudelite puhul on see tavapärane praktika.
AI frontier-arenduse jaoks valis Anthropic aga teistsuguse tee. Wiredi andmetel vähendas süsteem Fable 5 kasutamisel konkureerivate mudelite loomiseks või parandamiseks märkamatult vastuste kvaliteeti ilma kasutajat hoiatamata. Formaalselt põhjendati seda kasutustingimustega: Anthropic keelab otseselt Claude’i kasutamise teiste AI-de arendamiseks. Piirangu varjatud iseloom tekitas aga plahvatusliku reaktsiooni.
Uurimiskogukond nimetas mehhanismi kiiresti “salajaseks sabotaažiks”. Foundation for American Innovationi vanemteadur ja Valge Maja endine AI-nõunik Dean Ball kirjutas X-is: “Halvendada masinõppe ülesannete vastuste kvaliteeti, sellest kasutajale teatamata, on šokeerivalt vaenulik ja näeb kohutav välja.” Teises postituses lisas ta, et varjatud halvendamise poliitika õõnestab Anthropicu enda positsiooni, sest võtab teadlastelt võimaluse AI ohutuse kallal ühiselt töötada.
Miks see on tähtis
Arutelu väljus kiiresti ühe mudeli raamidest. Open-source-idufirma Prime Intellecti teadusjuht Will Brown võttis kriitika kokku nii: “Tekkis tunne, et Anthropic ütleb avalikkusele: me ei usalda AI-uuringuid kellelegi. Ainult meil on selleks õigus. Nad justkui tõmbavad redeli enda järel üles.”
Brown osutas ka praktilisele probleemile: arendajad ei saanud aru, kas nad rikuvad Anthropicu reegleid, sest ettevõte ei hoiatanud kaitsemehhanismi rakendumise eest. Löögi alla sattus terve ökosüsteemi kiht, näiteks sõltumatud ettevõtted, kes testivad frontier-mudeleid ohutuse ja töökindluse suhtes. Nende töö võis varjatud mudelidegradatsiooni tõttu moonutuda.
Anthropicu reaktsioon
Anthropic reageeris kiiresti. AI frontier-arenduse kaitsemehhanismid muudeti nähtavaks: kui süsteem kahtlustab kasutajat konkureeriva mudeli loomise katses, ütleb see otse, et keeldub, või lülitab kasutaja vähem võimsale versioonile. “Varjatud kaitsemehhanismi on raskem ümber minna,” selgitas ettevõte. “Aga nüüd, kui see on avatud, peame võrku laiemaks tõmbama, mis tähendab, et filtri alla võivad sattuda ka ohutud päringud.” Ettevõte lubab klassifikaatorite täpsust lähiajal parandada.
Kogu loo keskmes on kasvav pinge ohutuse ja võimu koondumise vahel. Anthropic põhjendab rangeid meetmeid sellega, et Claude on muutunud liiga tõhusaks tööriistaks AI-arenduse kiirendamisel. Ettevõte ütleb otse: maailmal peab olema võimalus frontier-arendust “aeglustada või ajutiselt peatada”. Vaidlus ei käi enam selle üle, kas ohtlikke tehnoloogiaid tuleb reguleerida, vaid selle üle, kes ja millistel alustel saab õiguse otsustada, kellel on lubatud uurimistööd teha ja kellel mitte.
