Назад
2 июля 2026 г. в 15:11 AI ООН AI Safety Regulation Yoshua Bengio Frontier AI United Nations; UN News

ООН предупреждает: ИИ развивается быстрее, чем общество успевает адаптироваться

ООН предупреждает: ИИ развивается быстрее, чем общество успевает адаптироваться

ООН предупреждает: ИИ развивается быстрее, чем общество успевает адаптироваться

ООН выпустила предварительный отчет Независимой международной научной панели по ИИ — первой глобальной научной структуры, которая должна регулярно оценивать возможности, риски и влияние искусственного интеллекта. Документ не предлагает готовый закон и не рисует апокалипсис. Его задача прагматичнее: дать правительствам общую доказательную базу там, где технология меняется быстрее, чем привычные институты успевают ее понять.

Антониу Гутерреш на запуске сформулировал ставку предельно прямо: «Мир не может управлять тем, чего не понимает». На странице доклада ООН говорит о ключевой проблеме для регуляторов: политикам нужны научные доказательства, чтобы управлять ИИ, но когда доказательства становятся очевидными, действовать может быть уже поздно.

Что сказала панель

Панель состоит из 40 независимых ученых и экспертов из всех пяти регионов ООН. Среди сопредседателей — Йошуа Бенжио, лауреат премии Тьюринга и один из самых известных исследователей глубокого обучения, и Мария Ресса, журналистка и нобелевский лауреат мира.

Бенжио описал проблему без украшений: возможности ИИ опережают и научное понимание, и способность правительств адаптироваться. По его словам, с учетом растущих свидетельств об обманчивом поведении ИИ наука сейчас не может гарантировать, что при дальнейшем росте возможностей системы не причинят катастрофический вред — сами по себе или через злоумышленников.

Почему это важно не только политикам

Для разработчиков и компаний это означает, что управление ИИ постепенно перестает быть набором деклараций об этике. ООН переводит разговор в язык независимых оценок, аудита, измеримых рисков, контроля агентных систем и доступа стран к экспертизе.

В отчете отдельно перечислены области, где неопределенность уже стала практической: автономные ИИ-агенты, кибератаки, дезинформация, влияние на труд, психическое здоровье, концентрация вычислительных мощностей и моделей в руках немногих стран и компаний. Это не запретительная повестка, а попытка сделать правила до того, как рынок сам закрепит самые рискованные практики.

Следующий тест — Глобальный диалог ООН по управлению ИИ в Женеве 6-7 июля. Именно там предварительный отчет станет не просто научным документом, а общей стартовой точкой для государств, которые пока смотрят на frontier-системы с разной скоростью, разными ресурсами и разной степенью доступа к реальным данным.

Ещё новости

Google показала Gemini 4 Argon, но пока не отдаёт её разработчикам
1 октября 2026 г.
Google показала Gemini 4 Argon, но пока не отдаёт её разработчикам

Google представила Gemini 4 Argon — новую флагманскую модель для программирования, корпоративных задач и киберзащиты. Но первый доступ получили только доверенные защитники в программе Fairwind: публичный API и приложение Gemini пока не открыты.

Airbnb добавляет ИИ-поиск: голосом, своими словами и с сравнением жилья
30 сентября 2026 г.
Airbnb добавляет ИИ-поиск: голосом, своими словами и с сравнением жилья

Airbnb запустила в США ИИ-инструменты для планирования поездки: поиск и фильтры обычным языком, краткие описания объявлений и сравнение сохранённых вариантов. Для европейских пользователей важная оговорка: в анонсе эти функции не обещаны, зато доставка еды и продуктов расширяется в Европе лишь в отдельных городах.

OpenAI Dots: агент в ChatGPT, которому дают работать между сообщениями
30 сентября 2026 г.
OpenAI Dots: агент в ChatGPT, которому дают работать между сообщениями

OpenAI представила Dots — платный агентный продукт внутри ChatGPT. Его идея не в одиночном ответе, а в непрерывной рабочей переписке, где задача может продолжаться в фоне.

OpenAI превращает ChatGPT в рабочую платформу для людей и агентов
29 сентября 2026 г.
OpenAI превращает ChatGPT в рабочую платформу для людей и агентов

На DevDay 2026 OpenAI описала ChatGPT как общую рабочую поверхность для людей, агентов и нативных приложений разработчиков. В самом recap нет условий доступа к отдельным продуктам, поэтому их нельзя считать доступными всем пользователям.

Grok 4.7 появилась в Amazon Bedrock: для Европы — только глобальный маршрут
29 сентября 2026 г.
Grok 4.7 появилась в Amazon Bedrock: для Европы — только глобальный маршрут

Amazon Bedrock добавил Grok 4.7 от xAI. Для европейских клиентов модель доступна лишь через глобальный межрегиональный профиль: это даёт доступ к 500-тысячному контексту, но не позволяет закрепить обработку в одной европейской зоне.

Anthropic выпустила Claude Sonnet 5.5 с киберзащитой уровня Opus
29 сентября 2026 г.
Anthropic выпустила Claude Sonnet 5.5 с киберзащитой уровня Opus

Anthropic представила Claude Sonnet 5.5 — более быструю и экономичную модель для повседневных агентных задач, кодинга и работы с документами. Компания заявляет заметный прирост на тестах, но оставляет Opus 5.5 выбором для сложной открытой работы.

Anthropic идёт к IPO с убытком $42 млрд и планом потратить $518 млрд на ИИ
29 сентября 2026 г.
Anthropic идёт к IPO с убытком $42 млрд и планом потратить $518 млрд на ИИ

Reuters ознакомилось с конфиденциальным проспектом Anthropic перед IPO: при выручке $4,6 млрд за 2025 год компания показала чистый убыток $42 млрд и описала план расходов на вычисления и инфраструктуру в $518 млрд на 2027 год. Большая часть убытка — бухгалтерская переоценка инструментов, связанных с будущими акциями; откуда возьмутся деньги на заявленный план, в материале не раскрывается.

Manus даёт личному ИИ-агенту почту, телефон и кошелёк
29 сентября 2026 г.
Manus даёт личному ИИ-агенту почту, телефон и кошелёк

Manus представила Manus 2.0 и приложение Cue, где персональному агенту обещают собственные email, телефон, кошелёк и компьютер. Для бизнеса это переносит главный вопрос от качества ответов к управлению учётными записями, деньгами и журналом действий.

NVIDIA открыла платформу безопасности для ИИ-агентов
28 сентября 2026 г.
NVIDIA открыла платформу безопасности для ИИ-агентов

NVIDIA представила Open Agent Safety Platform — набор открытых компонентов и эталонную архитектуру для контроля действий ИИ-агентов. Ключевая идея: критические ограничения должны проверяться вне самой модели.

NYT: правительства всё сильнее отстают от развития ИИ
28 сентября 2026 г.
NYT: правительства всё сильнее отстают от развития ИИ

The New York Times пишет, что разрыв между скоростью развития ИИ и скоростью выработки правил стал шире, чем когда-либо. Пока модели и агенты быстро выходят за пределы лабораторий, у мира нет общего механизма, который определял бы допустимый риск и ответственность.

Bloomberg: Китай расширил ограничения на поездки семей AI- и чип-специалистов
28 сентября 2026 г.
Bloomberg: Китай расширил ограничения на поездки семей AI- и чип-специалистов

Bloomberg сообщает, что Китай распространил ограничения на зарубежные поездки ключевых сотрудников частных AI- и полупроводниковых компаний на членов их семей. Публикация не подтверждает появление отдельной системы «выездных виз»: речь идёт о мерах контроля поездок, а не о визе, которую выдаёт другая страна.

Meta добавит в WhatsApp говорящий аватар для звонков с очков
26 сентября 2026 г.
Meta добавит в WhatsApp говорящий аватар для звонков с очков

Meta готовит Hologram — цифровое изображение лица для звонков из очков Meta Ray-Ban Display. Аватар будет реагировать на голос, но первый запуск ограничен ранним доступом в США.