ИИ-модель, обученная на ДНК, «изобрела» 16 новых вирусов: биобезопасность перестала быть теорией
ИИ-модель, обученная на ДНК, «изобрела» 16 новых вирусов
Учёные Стэнфорда обучили генеративную модель OpenAI Evo на миллионах геномов, и она с нуля спроектировала вирусные геномы, которых нет в природе. Когда синтезированную в лаборатории ДНК проверили, 16 из созданных вирусов успешно заразили кишечную палочку — в ряде случаев обойдя её естественную защиту.
Как это работает
Принцип тот же, что у языковых моделей: Evo учили на огромных массивах ДНК, и она уловила эволюционные ограничения, которые формируют последовательности в природе. Затем модель написала собственные «рецепты» новых вирусов. Полученные геномы отличаются от всего, что встречается в природе.
Авторы сознательно исключили из обучения патогены человека, поэтому созданные вирусы не способны заражать людей. Но сам факт, что модель может проектировать функциональные вирусы с нуля, стал наглядной демонстрацией двойного назначения ИИ в биологии.
Почему это важно
Эксперты по биобезопасности из Центра здоровья Джонса Хопкинса назвали работу доказательством того, что ИИ уже способен «изобретать» опасное биологическое оружие. Они призвали сделать незаконным применение подобных генеративных методов к патогенам человека, животных и сельхозкультур. «Можно сказать: „геномная языковая модель, сделай мне геном гриппа, который передаётся лучше или смертоноснее“», — пояснил один из авторов комментария.
Скептики возражают: созданные вирусы — «самые маленькие и простые геномы», и собрать оружие против человека так легко не выйдет. Ограничение доступа к генетическим данным могло бы сильно снизить риск.
Что это значит для обычного читателя
Речь не о фантастике, а о том, что ИИ перешёл от текста к проектированию живых систем. Та же технология, что пугает биобезопасность, обещает лекарства от устойчивых к антибиотикам бактерий: вместо поиска вируса в природе учёные смогут генерировать терапию под конкретную инфекцию. Вопрос теперь не в том, возможно ли это, а в том, кто и как будет контролировать доступ к таким моделям.
