Назад
18 ноября 2026 г. в 14:55 GitHub Open Source AI Security Developer Tools Источник

GitHub отсеял 9 791 AI-находку до 99 отчётов для open source

GitHub отсеял 9 791 AI-находку до 99 отчётов для open source

GitHub отсеял 9 791 AI-находку до 99 отчётов для open source

AI-сканер способен завалить мейнтейнера тысячами подозрений — и этим скорее навредить, чем помочь. В совместном пилоте GitHub и Microsoft система Codename MDASH нашла 9 791 возможную проблему в шести open-source-проектах, но до их авторов дошли лишь 99 приватных отчётов с предложениями исправлений.

К 15 ноября мейнтейнеры исправили 55 из этих проблем, а 14 исправлений уже попали в релизы. Это важнее красивого числа «найденных уязвимостей»: ценность автоматизации здесь измеряется не объёмом тревог, а тем, сколько из них человек может проверить и принять.

Триаж между моделью и человеком

MDASH использовал модель MAI Cyber для сканирования, затем отсеивал результаты с помощью AI-триажа. После этого семь исследователей Microsoft FORGE Lab вручную проверяли оставшиеся находки. В пилоте участвовали AutoGPT, Caddy, Express, FastMCP, ImageMagick и Netty; каждый проект заранее согласился на сканирование и получал отчёты непублично.

Схема результатов пилота Codename MDASH: от 9 791 возможной проблемы к 99 приватным отчётам

График: GitHub Blog.

GitHub подчёркивает, что сырые сигналы моделей и сканеров часто дублируются или не оказываются уязвимостями. Поэтому отчёт без контекста и патча превращает безопасность в дополнительную очередь работы. В этой схеме модель не заменяла ревью: она сокращала шум, а исследователи и мейнтейнеры решали, что действительно требует исправления.

Ранний результат, а не готовый рецепт

Шесть проектов — маленькая выборка, и GitHub прямо предлагает считать выводы пилота предварительными. Нельзя переносить процент исправлений на весь open source: проекты согласились участвовать, а находки проходили человеческую проверку.

Но практический урок уже понятен командам, которые запускают AI-поиск багов. Полезно заранее договориться с мейнтейнерами, отправлять отчёты приватно, прикладывать понятный сценарий и возможное исправление, а не публиковать длинный список «возможных» проблем. Иначе дешёвый поиск становится дорогой работой для тех, кто поддерживает код.

Источник: GitHub Blog.

Ещё новости

AWS добавила в Textract ИИ-проверку полей по страницам документа
21 ноября 2026 г.
AWS добавила в Textract ИИ-проверку полей по страницам документа

Amazon Textract Insights извлекает поля из смешанных пакетов документов и возвращает для каждого значения оценку уверенности и привязку к странице. AWS позиционирует сервис как способ автоматизировать обработку без отказа от проверки человеком.

Математик Anthropic заявил о доказательстве гипотезы Римана с Claude
20 ноября 2026 г.
Математик Anthropic заявил о доказательстве гипотезы Римана с Claude

Математик Anthropic Левент Альпёге заявил, что вместе с Claude получил формальное доказательство гипотезы Римана и её обобщения. Код на Lean уже скомпилировался у независимого математика, но математическому сообществу ещё предстоит разобрать и подтвердить сам результат.

Signal блокирует захват экрана, чтобы ИИ-агенты не читали чаты
20 ноября 2026 г.
Signal блокирует захват экрана, чтобы ИИ-агенты не читали чаты

Signal вводит защиту от захвата экрана на iOS 27 и при обнаружении ИИ-помощника на Android. Мессенджер предупреждает: мера не закрывает все пути доступа и на macOS пока не работает.

В отчёте Reco — восемь захваченных аккаунтов Microsoft 365 за минуты
20 ноября 2026 г.
В отчёте Reco — восемь захваченных аккаунтов Microsoft 365 за минуты

В отчёте Reco описан инцидент с восемью захваченными аккаунтами Microsoft 365: после кражи сессии злоумышленники быстро меняли правила почты. Компания не утверждает, что атаку выполнил ИИ — и это важная граница для интерпретации.

DeepMind описал четыре пути от AGI к сверхинтеллекту
20 ноября 2026 г.
DeepMind описал четыре пути от AGI к сверхинтеллекту

Исследователь Google DeepMind Тим Генвейн предлагает смотреть на переход от человеческого уровня ИИ к сверхинтеллекту как на набор проверяемых технических сценариев. Это не прогноз сроков, а карта возможных ускорителей и ограничений.

Google выпустила Gemini 4 Neon: скорость Carbon за 60% цены
19 ноября 2026 г.
Google выпустила Gemini 4 Neon: скорость Carbon за 60% цены

Google представила Gemini 4 Neon — модель для сложных задач в коде, офисной работе и науке. Компания заявляет качество уровня Gemini 4 Carbon при трёхкратной скорости и 60% стоимости; проверять это стоит на собственных задачах.

GitHub открыла протокол для сессий AI-агентов между устройствами
19 ноября 2026 г.
GitHub открыла протокол для сессий AI-агентов между устройствами

GitHub описала открытый Agent Host Protocol: он сохраняет состояние AI-агента при переходе между VS Code, Copilot, телефоном и облаком. Это не новый агент, а общий способ подключать клиентов к уже работающей сессии.

Google представила Stitch Loop для непрерывной доработки приложений
19 ноября 2026 г.
Google представила Stitch Loop для непрерывной доработки приложений

Google Labs открыла лист ожидания Stitch Loop — агента, который подключается к коду и рабочим метрикам, находит проблемы и готовит pull request’ы. Сливать изменения без проверки человека сервис не должен.

OpenAI пустит четыре внешние команды внутрь своих систем безопасности
18 ноября 2026 г.
OpenAI пустит четыре внешние команды внутрь своих систем безопасности

OpenAI запускает первую фазу встроенных независимых оценок: Apollo Research, METR, Transluce и Goodfire получат доступ к части внутренних моделей, данных и процессов. Формат обещает больше прозрачности, но независимость публикаций ограничена правом компании скрывать конфиденциальные детали.

Microsoft выпустила MAI Code 2 для GitHub Copilot и Foundry
18 ноября 2026 г.
Microsoft выпустила MAI Code 2 для GitHub Copilot и Foundry

Microsoft представила MAI Code 2 и более быструю MAI Code 2 Flash — собственные модели для повседневной работы с кодом. Основная версия уже доступна в GitHub Copilot и Azure AI Foundry, а Flash в Foundry пока остаётся в ограниченном предпросмотре.

GPT‑6.2 Astra прибавила пять пунктов, но лидером рейтинга остаётся Claude
17 ноября 2026 г.
GPT‑6.2 Astra прибавила пять пунктов, но лидером рейтинга остаётся Claude

В независимом сводном рейтинге Artificial Analysis GPT‑6.2 Astra получила 62 из 100 — на пять пунктов больше, чем GPT‑6 Astra. Это заметный скачок OpenAI, но первое место остаётся у Claude Fable 5.2 Max с 65 баллами; Sol выросла с 55 до 57.

OpenAI даст 200 000 учёных бесплатный доступ к своим моделям
17 ноября 2026 г.
OpenAI даст 200 000 учёных бесплатный доступ к своим моделям

OpenAI расширяет программу ChatGPT for Academic Researchers: бесплатный доступ к передовым моделям получат 200 000 исследователей по всему миру.