Meta peatas töötajate ekraanide ja klahvivajutuste kogumise tehisintellekti treenimiseks
Meta pani pausile sisemise andmekogumisprogrammi töötajate tööarvutitelt pärast turvaviga. Wiredi andmetel kogus Model Capability Initiative nimeline algatus USA töötajate klahvivajutusi, klikke, hiire liikumist ja ekraanide sisu, et treenida tehisintellekti mudeleid paremini mõistma inimeste tegelikke tegevusi tarkvaras.
Probleem ei olnud abstraktne. Programmi potentsiaalselt tundlikud andmed muutusid ettevõttes liiga laiale ringile kättesaadavaks. Wired kirjutab, et töötajad olid juba varem riskide eest hoiatanud ning pärast intsidenti teatas Meta, et peatab programmi ajutiselt ja uurib, mis valesti läks. Ka Business Insider teatab, et tegemist oli sisemise andmelekkega töötajate tehisintellekti jälgimisest.
Miks see on laiem kui üks skandaal
Suured tehisintellekti ettevõtted vajavad enamat kui internetitekste. Et ehitada agente, kes oskavad töötada brauseris, tabelites, ettevõttesüsteemides ja koodiredaktorites, on neil vaja näiteid inimtegevustest: kuhu inimene vajutab, mida kopeerib, kuidas viga parandab, millal akende vahel vahetab.
Töökoht muutub selliste andmete loomulikuks allikaks. Kuid just seetõttu on konflikt terav. Töötaja võib kirjutada isiklikku sõnumit, arutada tulemuslikkuse hindamist, vaadata sisedokumenti või töötada teiste isikuandmetega. Isegi kui eesmärk on tehisintellekti täiustamine, muutub toores tegevuste voog kiiresti inimese ja ettevõtte kaardiks.
Mis on nüüd ettevõtetele oluline
Meta lugu näitab piiri kasuliku telemeetria ja jälgimise vahel. Ettevõtte agendid võivad tõepoolest paremaks muutuda, kui nad õpivad reaalsetest tööprotsessidest. Kuid see nõuab selgeid reegleid: milliseid andmeid kogutakse, kas on võimalik keelduda, kuidas neid puhastatakse, kellel on juurdepääs ja kui kiiresti viga avastatakse.
Tavalugejale on järeldus lihtne: tehisintellekt tööl ei õpi kuskil kaugel, vaid üha lähemal töötajate igapäevastele tegevustele. Küsimus pole enam ainult selles, kas tehisintellekt asendab osa ülesandeid. Küsimus on selles, kes saab nende ülesannete salvestise enne, kui tehisintellekt õpib neid täitma.
- wired.comMeta Pauses Employee-Tracking Program Following Internal Data Leak
- wired.comMeta Exposed Data Internally From Its Controversial Employee-Tracking Program
- techmeme.comMeta says it is pausing its employee input tracking program after internal security issues exposed potentially sensitive data meant to train AI models
- businessinsider.comMeta pauses an AI training program that tracks employees' keystrokes after an internal leak
- commons.wikimedia.orgFile:Backlit keyboard.jpg - Wikimedia Commons













