OpenAI ja Anthropic paluvad DNA tellimusi AI-biorelva riski tõttu kontrollida
Suurimate AI-ettevõtete juhid toetasid kirja USA seadusandjatele palvega karmistada sünteetilise DNA ja RNA müügi kontrolli. Wiredi andmetel on allkirjastajate seas Sam Altman OpenAI-st, Dario Amodei Anthropicust, Demis Hassabis Google DeepMindist ja Mustafa Suleyman Microsoft AI-st. Nad kutsuvad vastu võtma reegleid, mis kohustaksid geneetiliste järjestuste tarnijaid kontrollima mitte ainult kliente, vaid ka tellimusi ennast.
Algatuse mõte ei ole selles, et vestlusrobot looks juba ise bioloogilist relva. Hirm on peenem: tugevad mudelid võivad vähendada barjääri ohtlike bioloogiliste ideede leidmiseks, näidata, kust fragmente tellida, või aidata päringut ümber sõnastada nii, et tavalised filtrid seda halvemini tabaksid. Siis ei ole nõrk koht üks API, vaid kogu ahel mudeli, inimese ja kommertslabori vahel.
Mida tahetakse muuta
Sünteetilist DNA-d kasutatakse ammu normaalses teaduses: uuringutes, diagnostikas, ravimite arenduses ja biotehnoloogilistes toodetes. Kommertsettevõtted saavad vajalikke järjestusi “printida” ja tellijale saata. Paljud tarnijad kontrollivad juba kliente ja otsivad tellimustest muret tekitavaid järjestusi, kuid need praktikad on ebaühtlased ega ole kõikjal kohustuslikud.
Institute for Progressi ja Foundation for American Innovationi korraldatud kiri pakub kontrolli süsteemsemaks muutmist. Jutt käib ostjate, sünteetilise DNA ja RNA tellimuste ning selliseid materjale USA-s müüvate ettevõtete reeglite kontrollist. Wired meenutab ka vana murettekitavat näidet: 2017. aastal taastasid Kanada teadlased väljasurnud horsepox-viiruse, tellides DNA-d posti teel umbes 100 000 dollari eest. Kriitikud hoiatasid juba siis, et sarnane lähenemine võib teoreetiliselt lähendada ka palju ohtlikumate viiruste taastamist.
Miks AI siia ilmus
Kuni viimase ajani oli üks barjäär ekspertiis: ohtliku bioloogilise konstruktsiooni väljamõtlemiseks ja kokkupanekuks on vaja teadmisi, seadmeid ja ligipääsu materjalidele. AI-mudelid muudavad just barjääri esimest osa. Isegi kui päristööks on endiselt vaja bioloogilist ettevalmistust, võib mudel kiirendada ideede otsimist, selgitada protseduuri või aidata halvasti seadistatud kontrollist mööda minna.
Wiredi artiklis ütleb Stanford University bioohutuse ekspert David Relman, et AI-tööriistad võivad kiiresti soovitada, kust järjestusi ilma kontrollita tellida, ning õige päringu korral ka seda, kuidas tellimust muuta nii, et olemasolevad süsteemid mõistaksid halvemini, mida kasutaja teha püüab. See ei ole ulmestsenaarium, vaid tavaline turvaprobleem: filter muutub kasutuks, kui süsteem ei näe muudetud vormi taga eesmärki.
Eraldi riski näitas Microsofti töö, mis avaldati ajakirjas Science: AI-valgudisaini tööriistad võisid genereerida potentsiaalselt ohtlikke järjestusi, mis pääsesid mõnest screening-süsteemist mööda. See ei tähenda, et sellised mudelid loovad automaatselt töötava patogeeni. Regulaatorite jaoks on tähtis teine järeldus: ainult tuntud ohtlike fragmentide kontrollimisest enam ei piisa, kui mudelid oskavad pakkuda sarnaseid struktuure.
Mida see AI-ohutuse jaoks tähendab
Lugu on tähtis, sest viib AI-riskide arutelu harjumuspärasest “keelame halva vestlusroboti vastuse” tsoonist füüsilisse taristusse. Kui mudel aitab biodisainiga, võib viimane kaitseliin olla sünteetilise DNA tarnija, maksesüsteem, labor või regulaator, mitte ainult mudeli arendaja.
USA-s on juba föderaalne raamistik: föderaalrahastuse saajad peavad tellima sünteetilisi geneetilisi järjestusi tarnijatelt, kes teevad screening’ut. Senatis on arutatud ka kaheparteilist seaduseelnõu laiemate tarnijareeglite kohta. Uus kiri panustab sellele, et vabatahtlikest praktikatest jääb väheks, kui ligipääs arenenud AI-tööriistadele laieneb kiiremini kui bioohutus ja hankekorrad uuenevad.
Tavalise lugeja jaoks on järeldus lihtne: AI-ohutus hakkab üha sagedamini välja nägema mitte ühe suure väljalülitusnupuna, vaid kontrollide kogumina pärismaailma eri kohtades. Mudel võib olla üks riski osa, kuid materjalide tellimine, kliendi kontroll, laboridistsipliin ja tarnija vastutus muutuvad sama tähtsaks.
.jpg)
