ИИ помог незаметно менять цифровые ДНК-улики: криминалисты нашли старую слепую зону
ИИ помог незаметно менять цифровые ДНК-улики: криминалисты нашли старую слепую зону
Исследователи показали, что данные, полученные с широко используемых криминалистических машин для анализа ДНК, можно было незаметно изменять с помощью кода, написанного при поддержке ИИ. Об этом пишет Wall Street Journal; Techmeme вынес историю как пример того, как AI-assisted code превращает старые форматы данных в новую проблему доверия.
Речь не о том, что ИИ «создаёт ДНК» или подменяет пробирку в лаборатории. Уязвимость находится в цифровом слое: прибор делает скан физического образца, затем результат превращается в файл, с которым работают эксперты, адвокаты и суды. Если такой файл можно изменить без явного следа, страдает вся цепочка доказательства.
Почему это опасно
Криминалистика держится на процедуре: кто взял образец, где он хранился, кто получил доступ, как результат проверяли. Но эта логика исторически сильнее смотрела на физическую сторону доказательств, чем на формат файлов, программное обеспечение и машинные логи.
ИИ меняет стоимость атаки. То, что раньше требовало узкого знания формата и ручного реверс-инжиниринга, теперь можно ускорить генератором кода. Даже если исследователи действовали в контролируемом тесте, сам сценарий важен: злоумышленнику не обязательно ломать всю лабораторию, если достаточно изменить цифровой след так, чтобы он выглядел правдоподобно.
Что теперь придётся проверять
Главный вопрос для судов не в том, сколько дел уже пострадало. Публичных данных для такого вывода нет. Вопрос в другом: как доказать, что старые и новые цифровые ДНК-файлы не менялись после создания.
Лабораториям понадобятся более жёсткие контрольные суммы, подписи файлов, независимые журналы действий и процедуры повторной проверки. Адвокатам и судьям придётся лучше понимать, где заканчивается биологический образец и начинается программная инфраструктура.
Для обычного читателя это ещё один урок AI-эпохи. ИИ опасен не только тогда, когда «придумывает» текст или изображение. Он становится усилителем для тихих технических атак на системы, которым общество привыкло доверять почти автоматически.
- techmeme.comResearchers used AI-assisted code to undetectably tamper with data from computerized scans of physical DNA evidence produced by widely used crime-lab machines
- wsj.comSecurity Flaw Placed 30 Years of DNA Evidence at Risk of Hacking
- commons.wikimedia.orgFile:DNA-Sequencers from Flickr 57080968.jpg - Wikimedia Commons
