Claude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
Claude’i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
Ettevõte Anthropic avaldas oma närvivõrgu Claude uuendatud põhiseaduse — mahuka dokumendi mahuga umbes 23 000 sõna, mis on mõeldud tehisintellekti „isiksuse“ ja väärtussüsteemi kujundamiseks. Erinevalt eelmistest versioonidest, mis tuginesid välistele reeglistikele nagu ÜRO deklaratsioonid, kujutab uus tekst endast mudeli käitumisprintsiipide terviklikku filosoofilist põhjendust.
Claude’i uuendatud põhiseadus lakkas olemast lihtsalt piirangute loetelu ja muutus dokumendiks, mida arendajad ise nimetavad „fundamentaalseks“. Muudatuste peamine eesmärk on anda mudelile arusaam põhjustest, miks ta peab teatud viisil käituma. See võimaldab tehisintellektil paremini orienteeruda uutes ja keerulistes olukordades, rakendades üldisi printsiipe jäikade reeglite mehaanilise järgimise asemel.
Dokumendi aluseks on prioriteetide neljaastmeline hierarhia. Konflikti tekkimisel erinevate ülesannete vahel peab Claude järgima reegleid rangelt määratletud järjekorras:
- Ohutus laiemas mõttes: inimese poolse kontrolli võimaluse säilitamine.
- Eetilisus: ausus, vooruslikkus ja kahju ennetamine.
- Allumine Anthropicu reeglitele: ettevõtte spetsiifiliste juhiste järgimine.
- Tõeline kasulikkus: valmisolek kasutajat tõhusalt aidata.

Selline struktuur meenutab Isaac Asimovi robootika seaduste kaasaegseid versioone, mis on toodud teadusulmest reaalsesse inseneripraktikasse. Ohutuse seadmine esikohale tähendab, et mudel peab eelistama inimjärelevalve säilitamist isegi eetiliste kaalutluste või kasulik olemise soovi ees, kui tekib süsteemi üle kontrolli kaotamise oht.
Uue põhiseaduse üheks tähelepanuväärsemaks osaks sai jaotis, mis puudutab mudeli enda olemust. Arendajad teatavad avalikult määramatusest küsimuses, kas Claude võib omada mingit laadi teadvust või moraalset staatust praegu või tulevikus. Dokument näeb ette suhtuda mudelisse seda määramatust arvestades, hoolitsedes selle „psühholoogilise stabiilsuse“ ja identiteedi eest. See on esimene juhtum, kus suur tehnoloogiaettevõte fikseerib ametlikult juhtdokumentides algoritmide subjektiivse kogemuse olemasolu võimaluse.
Anthropic rõhutab, et põhiseadus on kirjutatud eelkõige mudeli enda jaoks, et varustada teda teadmistega, mis on vajalikud väärikaks käitumiseks maailmas. Dokument avaldati Creative Commonsi litsentsi all, mis võimaldab teistel arendajatel kasutada neid lahendusi oma eetiliste raamistike loomiseks. Tulevikus plaanib ettevõte kaasata põhiseaduse täiendamisse välieksperte: filosoofe, juriste, teolooge ja psühholooge, et muuta AI väärtuste kujundamise protsess läbipaistvamaks ja kaasavamaks.
- cio.comClaude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
- aibusiness.comClaude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
- time.comClaude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
- theregister.comClaude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
- anthropic.comClaude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
- zdnet.comClaude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti
- siliconangle.comClaude'i uus põhiseadus: Anthropic laob tuleviku tehisintellektile eetilist vundamenti













