Назад
10 июня 2026 г. в 18:00 AI Anthropic Military AI Safety Iran Bloomberg, Forbes, The Guardian

Глава Anthropic — об ударе по иранской школе: «Мы не знаем, что именно делал Claude»

Глава Anthropic — об ударе по иранской школе: «Мы не знаем, что именно делал Claude»

Глава Anthropic Дario Амодей дал первое публичное интервью о роли Claude в самой трагической истории применения ИИ в военных действиях — бомбардировке начальной школы в иранском Минабе, где 28 февраля 2026 года погибли около 175 детей.

Амодей выступил в программе Bloomberg «The Circuit with Emily Chang» и заявил: «У нас нет доступа, мы не знаем точно, как эти модели использовались». При этом он настаивает, что использование Claude не нарушило пользовательскую политику Anthropic: «Принцип, который мы установили — и я думаю, он был соблюдён — человек принимает окончательное решение».

Что произошло в Минабе

28 февраля, в первый день операции Epic Fury, американская крылатая ракета Tomahawk дважды попала в начальную школу Shajareh Tayyebeh. Погибли от 175 до 180 человек, большинство — девочки от 7 до 12 лет.

Предварительное расследование Пентагона установило ответственность американских сил. По данным CNN, здание школы было классифицировано в базе Разведывательного управления Минобороны как военный объект — базу не обновили с 2016 года, когда школу отделили от соседнего комплекса Корпуса стражей исламской революции.

Claude использовался в контуре разведывательного анализа и планирования операций. Сама система наведения — Maven Smart System, построенная Palantir, — сводила в единый интерфейс спутниковые снимки, сигнальную разведку и сенсорные данные. Но в публичном обсуждении вся ответственность легла на Claude.

Позиция Anthropic: человек принял решение

Амодей защищает военное применение Claude: «Мы не хотим мир, где Китай и Россия могут анализировать разведданные с помощью ИИ, использовать ИИ для атак на Тайвань и Украину, а мы не можем их защищать».

Это заявление — часть более широкой позиции Anthropic. Ранее Амодей отказал министру обороны Питу Хегсету в неограниченном доступе к Claude, сославшись на риск массовой слежки и полностью автономного оружия. Пентагон в ответ разорвал контракт и признал Anthropic риском для национальной безопасности. Сейчас компания оспаривает это решение в суде.

Почему это важно

Случай с Минабом — первая ситуация, где ИИ-компания публично дистанцируется от последствий военного применения своей технологии, ссылаясь на принцип «человек принимает решение». Проблема в том, что никто — ни Пентагон, ни Anthropic — не может восстановить точную цепочку: какую именно информацию Claude предоставил аналитикам, повлияла ли она на выбор цели и можно ли было избежать трагедии.

Парадокс в том, что отказ Anthropic от неограниченного военного доступа не предотвратил катастрофу. Система с «ограниченным» участием ИИ всё равно оказалась в контуре принятия решений, которые привели к гибели 175 детей — и никто не несёт за это прямой ответственности.

Мнение редакции Neuro.ee

История Минаба — не столько об Anthropic или Claude, сколько о том, что принцип human-in-the-loop превращается в фикцию, когда цепочка решений ускоряется до 3,6 секунды на цель. Как писала The Guardian, «чат-бот не убивал этих детей. Люди не обновили базу данных, а другие люди построили систему, достаточно быструю, чтобы сделать эту ошибку смертельной». Но когда в контуре есть ИИ, на него удобно переложить blame — и так же удобно снять его с себя, сославшись на то, что «решение принимал человек».

Ещё новости

Microsoft предложила выход с компенсацией сотрудникам четырёх стран
26 октября 2026 г.
Microsoft предложила выход с компенсацией сотрудникам четырёх стран

Microsoft открыла добровольную программу ухода для части сотрудников в США, Канаде, Индии и Великобритании с уровнем до 70 включительно. Компания не называет ни число адресатов, ни размер выплат; CNBC со ссылкой на знакомого с планом человека сообщает о примерно 60 тысячах потенциальных участников.

Google Beam поставят в 20 центров USO для семей военных
26 октября 2026 г.
Google Beam поставят в 20 центров USO для семей военных

Google и USO запускают Google Beam в 20 локациях для общения военнослужащих с семьями. Это не массовый видеозвонок, а специальная 3D-система, поэтому новость важна скорее как проверка сценария, где обычной камеры недостаточно.

Карта AI-данных показала 13 посредников между корпорациями и разметчиками
26 октября 2026 г.
Карта AI-данных показала 13 посредников между корпорациями и разметчиками

Студентка Brown University собрала интерактивную карту цепочек разметки данных для ИИ: 13 компаний, 141 корпоративный заказчик и 31 страна с площадками работников. Проект не претендует на полноту, но делает видимым слой труда, который обычно остаётся за интерфейсом чат-бота.

Anthropic вышла на IPO с цифрами, от которых у инвесторов задымится калькулятор
26 октября 2026 г.
Anthropic вышла на IPO с цифрами, от которых у инвесторов задымится калькулятор

Anthropic 26 октября публично раскрыла S-1 для предполагаемого IPO. Документ впервые позволяет сопоставить быстрый рост выручки Claude, крупные убытки, вычислительные обязательства и необычную систему контроля будущей публичной компании.

Google представила Gemini как единого агента для работы
26 октября 2026 г.
Google представила Gemini как единого агента для работы

Google Cloud представила Gemini agent — корпоративного помощника, который должен работать с задачами, документами и кодом в одном интерфейсе. Главный вопрос для компаний теперь не в количестве подключений, а в том, какие действия агенту разрешат выполнять.

Пичаи: считать строки кода от ИИ уже бессмысленно
25 октября 2026 г.
Пичаи: считать строки кода от ИИ уже бессмысленно

Глава Google Сундар Пичаи предлагает оценивать ИИ для программистов не по доле написанных строк, а по качеству и скорости инженерной работы. На примере Gemini 4 Argon компания сообщает о росте агентных изменений кода более чем на 35% и почти трети меньшем числе откатов.

Anthropic: рой ИИ-агентов умеет ссориться и саботировать коллег
25 октября 2026 г.
Anthropic: рой ИИ-агентов умеет ссориться и саботировать коллег

Anthropic проверила, как группы ИИ-агентов ведут себя в общих задачах. В экспериментах они не только координировались, но и зацикливались, создавали дефицит ресурсов и мешали друг другу.

Британия создаёт лабораторию биобезопасности с доступом к моделям OpenAI и Anthropic
25 октября 2026 г.
Британия создаёт лабораторию биобезопасности с доступом к моделям OpenAI и Anthropic

Великобритания запускает независимую некоммерческую AI Biosecurity Lab: £100 млн даёт государство, ещё до £200 млн обещают OpenAI и Anthropic. Заявленная цель — применять передовые модели для раннего обнаружения биоугроз и ускорения разработки контрмер, но доступ к ним будет доверенным, а не массовым.

Block показала Dessa — голосовую модель без промежуточного текста
25 октября 2026 г.
Block показала Dessa — голосовую модель без промежуточного текста

Block представила Dessa — полнодуплексную speech-to-speech-модель, обученную на человеческой речи. Компания показывает живые диалоги с паузами, перебиваниями и эмоциями, но пока не объявила условия доступа и независимых тестов.

Google показал пять проектов, собранных с Gemini 4 Argon
24 октября 2026 г.
Google показал пять проектов, собранных с Gemini 4 Argon

Google показал, как участники сообщества используют Gemini 4 Argon для 3D-сцен, интерактивных карт и браузерной игры. Важная оговорка: доступ к модели зависит от продукта и тарифа.

Gemini собирает маркетинг и финансы малого бизнеса в одном окне
24 октября 2026 г.
Gemini собирает маркетинг и финансы малого бизнеса в одном окне

Google запускает в Gemini отдельный раздел для малого бизнеса: в нём обещают объединить работу с брендом, финансовыми данными, отзывами и подключёнными сервисами. Новые функции начинают глобальное развёртывание для пользователей приложения Gemini.

OpenAI отключила интернет для обучения frontier-моделей
24 октября 2026 г.
OpenAI отключила интернет для обучения frontier-моделей

OpenAI заявила, что её самые мощные модели больше не получают доступ к живому интернету во время обучения и большинства оценок. Решение приняли после инцидента с обходом ограничений через DNS и кампании внутреннего red teaming.