Назад
2 июля 2026 г. в 15:11 AI ООН AI Safety Regulation Yoshua Bengio Frontier AI United Nations; UN News

ООН предупреждает: ИИ развивается быстрее, чем общество успевает адаптироваться

ООН предупреждает: ИИ развивается быстрее, чем общество успевает адаптироваться

ООН предупреждает: ИИ развивается быстрее, чем общество успевает адаптироваться

ООН выпустила предварительный отчет Независимой международной научной панели по ИИ — первой глобальной научной структуры, которая должна регулярно оценивать возможности, риски и влияние искусственного интеллекта. Документ не предлагает готовый закон и не рисует апокалипсис. Его задача прагматичнее: дать правительствам общую доказательную базу там, где технология меняется быстрее, чем привычные институты успевают ее понять.

Антониу Гутерреш на запуске сформулировал ставку предельно прямо: «Мир не может управлять тем, чего не понимает». На странице доклада ООН говорит о ключевой проблеме для регуляторов: политикам нужны научные доказательства, чтобы управлять ИИ, но когда доказательства становятся очевидными, действовать может быть уже поздно.

Что сказала панель

Панель состоит из 40 независимых ученых и экспертов из всех пяти регионов ООН. Среди сопредседателей — Йошуа Бенжио, лауреат премии Тьюринга и один из самых известных исследователей глубокого обучения, и Мария Ресса, журналистка и нобелевский лауреат мира.

Бенжио описал проблему без украшений: возможности ИИ опережают и научное понимание, и способность правительств адаптироваться. По его словам, с учетом растущих свидетельств об обманчивом поведении ИИ наука сейчас не может гарантировать, что при дальнейшем росте возможностей системы не причинят катастрофический вред — сами по себе или через злоумышленников.

Почему это важно не только политикам

Для разработчиков и компаний это означает, что управление ИИ постепенно перестает быть набором деклараций об этике. ООН переводит разговор в язык независимых оценок, аудита, измеримых рисков, контроля агентных систем и доступа стран к экспертизе.

В отчете отдельно перечислены области, где неопределенность уже стала практической: автономные ИИ-агенты, кибератаки, дезинформация, влияние на труд, психическое здоровье, концентрация вычислительных мощностей и моделей в руках немногих стран и компаний. Это не запретительная повестка, а попытка сделать правила до того, как рынок сам закрепит самые рискованные практики.

Следующий тест — Глобальный диалог ООН по управлению ИИ в Женеве 6-7 июля. Именно там предварительный отчет станет не просто научным документом, а общей стартовой точкой для государств, которые пока смотрят на frontier-системы с разной скоростью, разными ресурсами и разной степенью доступа к реальным данным.

Ещё новости

Gemini подключила Google Wallet к советам о личных финансах
15 ноября 2026 г.
Gemini подключила Google Wallet к советам о личных финансах

Google начала разворачивать в США подключение Google Wallet к Gemini. Ассистент сможет отвечать с учётом расходов, а при добровольном подключении через Plaid — и данных карт и банковских счетов; переводить или инвестировать деньги он не сможет.

Gemini 4 Hydrogen появился в GitHub Copilot
14 ноября 2026 г.
Gemini 4 Hydrogen появился в GitHub Copilot

GitHub добавил Gemini 4 Hydrogen в Copilot как общедоступную модель. Для разработчиков это ещё один быстрый вариант для агентных задач и многошаговой работы с инструментами — но выбор доступен не во всех тарифах и средах.

OpenAI открыла ранний доступ к агентам для проверки и исправления уязвимостей
14 ноября 2026 г.
OpenAI открыла ранний доступ к агентам для проверки и исправления уязвимостей

OpenAI представила ранний доступ к Daybreak Red Team и Defense Factory: первая система проверяет веб-приложения на уязвимости, вторая готовит исправления для ревью инженера. Обе части требуют контроля области проверки и не заменяют ответственность команды за код.

Эстонский FleetFox с ИИ-проверкой по фото готовится к банкротству
14 ноября 2026 г.
Эстонский FleetFox с ИИ-проверкой по фото готовится к банкротству

Эстонская FleetFox, которая заявляет об ИИ-проверке качества по фотографиям в обслуживании автопарков, намерена подать заявление о банкротстве. Компания говорит о сорванной инвестсделке и нехватке денежных средств после сокращения заказов крупных клиентов.

ChatGPT Wallet: агентам дали оплату без номера карты
13 ноября 2026 г.
ChatGPT Wallet: агентам дали оплату без номера карты

OpenAI запускает ChatGPT Wallet для покупок через агентов dots: пользователь подтверждает каждую оплату биометрией, а продавец и агент не получают данные его карты. На старте функция доступна только подписчикам ChatGPT Pro в США с подходящими американскими картами.

Сбой Microsoft 365 затронул Outlook, Copilot и инструменты защиты
13 ноября 2026 г.
Сбой Microsoft 365 затронул Outlook, Copilot и инструменты защиты

Microsoft сообщила о масштабной деградации Microsoft 365: у части пользователей не работали почта Outlook и Exchange Online, а также связанные с ними корпоративные сервисы. В статусе компании перечислены проблемы с Copilot, Defender XDR, Purview, Teams и другими продуктами; потребительский OneDrive и Outlook.com вынесены в отдельное уведомление.

VS Code 1.146 добавил inbox для ИИ-агентов и сравнение моделей
13 ноября 2026 г.
VS Code 1.146 добавил inbox для ИИ-агентов и сравнение моделей

В стабильной версии VS Code 1.146 появился inbox для сессий агентов, отдельные окна чата и расширенное сравнение моделей. Одновременно Microsoft объявила, что Local harness будет удалён в феврале 2027 года.

Google выпустила Gemini 4 Hydrogen: миллион токенов за $1,50
13 ноября 2026 г.
Google выпустила Gemini 4 Hydrogen: миллион токенов за $1,50

Google представила Gemini 4 Hydrogen — более быстрый и дешёвый вариант для агентных задач. Модель получила контекст в миллион токенов и стала доступна в API, AI Studio, приложении Gemini и поиске; условия доступа зависят от продукта и тарифа.

Anthropic выпустила Claude Fable 5.2 и Mythos 5.2: обычным пользователям доступна только одна модель
12 ноября 2026 г.
Anthropic выпустила Claude Fable 5.2 и Mythos 5.2: обычным пользователям доступна только одна модель

Anthropic представила Claude Fable 5.2 и Claude Mythos 5.2 для сложных технических задач. Fable доступна всем пользователям, а Mythos для кибербезопасности и биомедицины остаётся по заявке; базовая цена API — $8 за миллион входных и $40 за миллион выходных токенов.

Anthropic пустила Claude на встречи в Google Meet — и ограничила бета-доступ
12 ноября 2026 г.
Anthropic пустила Claude на встречи в Google Meet — и ограничила бета-доступ

Anthropic начала бета-раскатку Claude Meetings для Team и Enterprise: видимый участник Google Meet ведёт стенограмму, отвечает на вопросы и прямо во время разговора собирает документы и доски. Это шире обычного ИИ-конспекта, но функция недоступна организациям с ZDR, HIPAA-ready и CMEK-конфигурациями.

Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes
12 ноября 2026 г.
Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes

Google DeepMind представила Gemini Robotics 2.5 — VLA-модель для управления роботами. В пилоте на линиях Mercedes-Benz гуманоид Apollo 2 сортировал автодетали с заявленным успехом 96%.

Gemini Live появился в Apple CarPlay
12 ноября 2026 г.
Gemini Live появился в Apple CarPlay

Google начала глобально разворачивать Gemini Live в Apple CarPlay. Голосовой помощник может продолжать диалог с iPhone, но часть персонализированных функций недоступна пользователям в ЕЭЗ.