Назад
17 июля 2026 г. в 15:00 AI Deepfakes Platforms Safety Regulation WIRED / Techmeme / Wikimedia Commons

Сан-Франциско требует убрать AI-приложения для дипфейк-обнажений из App Store и Google Play

Сан-Франциско требует убрать AI-приложения для дипфейк-обнажений из App Store и Google Play

Сан-Франциско требует убрать AI-приложения для дипфейк-обнажений из App Store и Google Play

Сан-Франциско перешел от разговоров о вредных дипфейках к давлению на магазины приложений. Как пишет WIRED, городская прокуратура направила Apple и Google требования прекратить распространение 13 AI-приложений, которые создают фальшивые обнаженные изображения людей. Google заявила изданию, что уже удалила пять приложений.

Речь не о спорной функции в одном сервисе, а о целой категории потребительского AI-софта. Такие приложения часто маскируются под «face swap» или фоторедакторы, но на практике используются для сексуализированных изображений без согласия человека. WIRED пишет, что их жертвами непропорционально часто становятся женщины и девочки.

Почему претензия адресована Apple и Google

Главный смысл письма в том, что город бьет не только по разработчикам. Юристы Сан-Франциско считают, что Apple и Google получают выгоду от приложений через свои магазины и поэтому должны отвечать за их доступность, платежи и продвижение.

Это важная смена угла. Долгое время дипфейки обсуждали как проблему публикации: кто разместил картинку, где она разошлась, как подать жалобу. Теперь вопрос ставится раньше: почему инструмент для такого вреда вообще лежит в массовом магазине приложений и проходит через его платежную систему.

Что меняется для платформ

Для Apple и Google это неприятный тест. Они привыкли модерировать приложения по правилам безопасности, приватности и мошенничества, но генеративный ИИ создает категории, где вред возникает не из интерфейса, а из почти очевидного сценария использования.

Если подход Сан-Франциско закрепится, платформам придется внимательнее проверять не только описание приложения, но и реальное назначение AI-инструментов. Особенно там, где модель помогает обходить согласие человека: лицо, тело, голос, интимные изображения, документы.

Для обычного пользователя вывод простой: защита от дипфейков постепенно становится обязанностью инфраструктуры. Не только жертва должна искать и удалять вредный контент. Магазин приложений, платежная система и платформа распространения тоже оказываются частью цепочки ответственности.

Ещё новости

Meta открыла веса Muse Spark Open, но запустить модель дома будет непросто
15 октября 2026 г.
Meta открыла веса Muse Spark Open, но запустить модель дома будет непросто

Meta выпустила открытые веса Muse Spark Open — мультимодальной модели для кода и агентных задач. Релиз даёт разработчикам больше контроля над запуском и дообучением, но требует очень мощного железа и распространяется по лицензии с коммерческими условиями.

Meta признала сбой: очки Ray-Ban записывали разговоры без команды
15 октября 2026 г.
Meta признала сбой: очки Ray-Ban записывали разговоры без команды

Владельцы Ray-Ban Meta сообщили о сохранённых аудиозаписях и расшифровках обычных разговоров, хотя голосовая команда не звучала. Meta заявила, что устранила проблему, но не объяснила её причину и масштаб.

Anthropic готовит Claude к выборам: официальные данные и новые фильтры
15 октября 2026 г.
Anthropic готовит Claude к выборам: официальные данные и новые фильтры

Anthropic добавит в Claude для пользователей США официальную информацию о голосовании и результаты выборов. Компания также признаёт ограничение своих защит: вредоносную кампанию, разбитую на безобидные шаги, модель может не распознать.

Anthropic: малые модели уже подбираются к самораспространению по IoT
15 октября 2026 г.
Anthropic: малые модели уже подбираются к самораспространению по IoT

Anthropic проверила, смогут ли небольшие модели развернуть себя на чужом слабом железе и продолжить цепочку. В лабораторной среде более сильные модели уже прошли упрощённый цикл, но реальный взлом устройств в эксперимент не входил.

FSB выпустил 12 правил для банков, внедряющих ИИ
15 октября 2026 г.
FSB выпустил 12 правил для банков, внедряющих ИИ

Совет по финансовой стабильности опубликовал финальные практики для банков и других финансовых организаций, использующих ИИ. Документ не вводит новый закон, но превращает управление ИИ из эксперимента отдельных команд в задачу руководства, контроля поставщиков и мониторинга всего жизненного цикла.

Google выпустила Gemini 4 Argon: миллион токенов и цена, которая удвоится в декабре
14 октября 2026 г.
Google выпустила Gemini 4 Argon: миллион токенов и цена, которая удвоится в декабре

Google открыла доступ к Gemini 4 Argon через API, Gemini и Antigravity. В стартовый период модель стоит $2 за миллион входных токенов, но 30 ноября цена вырастет вдвое.

Anthropic закрывает лазейки для «дистилляции» Claude — но вводит цену за ложные срабатывания
14 октября 2026 г.
Anthropic закрывает лазейки для «дистилляции» Claude — но вводит цену за ложные срабатывания

Anthropic сообщает, что новые защиты сократили извлечение скрытых рассуждений Claude для дистилляции в 10–100 раз. Взамен часть разработчиков должна менять интеграции, а заблокированные запросы в чувствительных категориях снова тарифицируются.

Grok 4.7 появился в Amazon Bedrock: агентам дали выбор между точностью и расходами
14 октября 2026 г.
Grok 4.7 появился в Amazon Bedrock: агентам дали выбор между точностью и расходами

Amazon Bedrock добавил Grok 4.7 и показал на задачах для агентов, что уровень рассуждений можно менять под цену и риск ошибки.

NVIDIA: европейские города тестируют ИИ-агентов для дорог, зданий и портов
14 октября 2026 г.
NVIDIA: европейские города тестируют ИИ-агентов для дорог, зданий и портов

NVIDIA рассказала о европейских проектах, где агентные системы и цифровые двойники помогают городским службам работать с инфраструктурой, энергией и безопасностью. Это пока не единая городская автопилотная система, а набор пилотов и внедрений у местных партнёров.

NVIDIA готовит Nemotron 3.5 Bolt для локальных ИИ-агентов
13 октября 2026 г.
NVIDIA готовит Nemotron 3.5 Bolt для локальных ИИ-агентов

NVIDIA объявила, что 15 октября выпустит открытую модель Nemotron 3.5 Bolt 74B-A9B для локального запуска на RTX Spark. Модель занимает 24 ГБ после 2-битного квантования и рассчитана на агентные сценарии.

Boston Dynamics показала новые руки Atlas: меньше пальцев, больше ставки на обучение
13 октября 2026 г.
Boston Dynamics показала новые руки Atlas: меньше пальцев, больше ставки на обучение

Boston Dynamics представила новую кисть для гуманоидного Atlas: четыре пальца, 13 степеней свободы и прямой привод. Смысл не в имитации человеческой руки, а в том, чтобы робота можно было надёжнее обучать манипуляциям в симуляции и переносить навык в реальный цех.

Character.AI подала на банкротство: сервис пока работает, но пользователям стоит забрать данные
13 октября 2026 г.
Character.AI подала на банкротство: сервис пока работает, но пользователям стоит забрать данные

Character.AI начала добровольную процедуру Chapter 11 ради продажи бизнеса под надзором суда. Платформа и подписки пока продолжают работать, но компания прямо допускает закрытие, если покупателя не найдут.