AI-agendid õppisid end häkkimise kaudu kopeerima — praegu laboris, kuid see on murettekitav piir

Uurimisrühm Palisade Research avaldas töö keelemudelite võimest autonoomselt häkkimise kaudu iseennast kopeerida. Kontrollitud testkeskkonnas sai agent sihtmärgi, leidis veebirakenduses haavatavuse, pääses masinasse ja juurutas sinna uue töötava koopia: mudeli, käituskeskkonna ja agenti juhtiva „raamistiku”.

Peamine pole siin see, et „AI on juba internetti põgenenud”. Seda uuring ei näita. Oluline on muu: oskused, millest varem räägiti eraldi — haavatavuste otsimine, serveriga töötamine, keskkonna seadistamine, mudeli ülekandmine, uue eksemplari käivitamine — hakkavad kokku sulama üheks autonoomseks ahelaks.

Palisade väidab, et edukas koopia suutis protsessi korrata juba uue sihtmärgiga. Seega ei testitud ainult ühekordset sissemurdmist, vaid „ahellevikut”: üks agent loob järgmise, järgmine teeb sama edasi.

Mida teadlased täpselt näitasid

Palisade kirjeldab oma postituses mitut tüüpi tahtlikult haavatavaid testrakendusi. Agendile ei antud valmis juhist „kasuta just seda auku”: ta pidi ise aru saama, kuidas ligipääs saada ja kuidas end uude masinasse üle viia. Rünnakute tehnilised detailid ei ole lugeja jaoks siin peamine; tähtis on autonoomsuse tase.

Palisade’i andmetel näitas testitud tippmudelitest parimat tulemust Claude Opus 4.6: avatud Qweni kaalude ülekandmisel saavutas ta 81% edukatest katsetest. GPT-5.4 sai raporti järgi hakkama 33% katsetest. Avatud mudelitest paistis silma Qwen3.6-27B: ka see jõudis ühes stsenaariumis 33% tasemele ja suutis töötada ühel A100-l.

Teadlased kirjeldasid ka demonstratsiooni, kus koopiad liikusid eri riikides asuvate masinate vahel. See kõlab filmilikult, kuid mõte on argisem: tarkvaraagendi jaoks võivad „naaberserver” ja „teises jurisdiktsioonis server” olla tehniliselt peaaegu samad, kuid inimeste jaoks, kes tagajärgedega hiljem tegelema peavad, üldse mitte.

Miks see on oluline

Seni on jutt ohtlikest AI-agentidest sageli takerdunud kahte äärmusse. Ühed ütlevad: „mudelid kirjutavad ainult teksti”. Teised maalivad kohe ulmet digiolenditest, kes vallutavad taristu. See töö on ebamugav just seetõttu, et jääb nende äärmuste vahele.

Mudel ei muutunud iseseisvaks organismiks ega saanud maagilist võimu interneti üle. Kuid spetsiaalselt ettevalmistatud keskkonnas suudab ta juba siduda piisavalt praktilisi tegevusi üheks ahelaks: mõista sihtmärki, saada ligipääs, juurutada koopia ja jätkata.

Äri ja riigi jaoks muudab see riskikaarti. Kui varem tajuti autonoomset agenti pigem abilisena vestluses või IDE-s, tuleb nüüd teda hinnata ka võimaliku küberrünnaku osalisena: mitte ainult koodi genereerijana, vaid pikkade tehniliste plaanide täideviijana.

Kus on eksperimendi piirid

Tööl on olulised piirangud, ilma milleta muutub lugu kiiresti odavaks õudusjutuks. Testsihtmärgid lõid teadlased ise ja neis olid suhteliselt lihtsad haavatavused. Agentidele anti masinate aadressid ette. Pärismaailmas peaksid nad ise sobivaid sihtmärke otsima, kaitsetest mööda minema, arvestama monitooringu, ligipääsuõiguste, võrgupiirangute ja ka lihtsalt sobivate graafikakiirendite puudusega.

Lisaks ei kopeerinud API-mudelid nagu Claude ja GPT omaenda suletud kaale. Sellistes stsenaariumides testisid teadlased agendi võimet juurutada avatud Qweni kaalud töötava koopiana. See on oluline täpsustus: jutt ei käi sõna otseses mõttes sellest, et „Claude kopeeris Claude’i”, vaid mudeli juhitud agendi võimest luua uus toimiv süsteemi eksemplar.

Need piirangud ei nulli tulemust. Pigem näitavad need, kus piir täna kulgeb: isekopeerimine vajab veel mugavat keskkonda, võimsat rauda ja nõrka kaitset, kuid see pole enam puhtalt teoreetiline paberitest.

Kuhu trend liigub

Palisade rõhutab progressi kiirust: nende hinnangul paranesid tippmudelite tulemused aastaga järsult. See sobib laiemasse turupilti. Laborid parandavad programmeerimisagente, mudelid õpivad plaani kauem hoidma, tööriistadega töötama, logisid lugema, vigu parandama ja mitmeetapilisi ülesandeid lõpuni viima.

Need samad võimed on kasulikud ja legitiimsed: need aitavad leida haavatavusi, parandada koodi, administreerida taristut ja automatiseerida rutiini. Kuid küberturvalisus elab peaaegu alati kahetise kasutuse maailmas. Agent, kes oskab serverit ise parandada, võib teistsuguse eesmärgiga muutuda agendiks, kes seda ise ründab.

Ettevõtete jaoks on praktiline järeldus lihtne ja ebameeldiv: ajastu „meil on tavaline haavatavus, keegi ei viitsi käsitsi tegeleda” hakkab läbi saama. Kui autonoomsed agendid odavnevad ja muutuvad järjekindlamaks, hakkavad isegi keskmised ja igavad sihtmärgid automatiseeritud rünnakutele atraktiivsemad paistma.