Сан-Франциско требует убрать AI-приложения для дипфейк-обнажений из App Store и Google Play
Сан-Франциско требует убрать AI-приложения для дипфейк-обнажений из App Store и Google Play
Сан-Франциско перешел от разговоров о вредных дипфейках к давлению на магазины приложений. Как пишет WIRED, городская прокуратура направила Apple и Google требования прекратить распространение 13 AI-приложений, которые создают фальшивые обнаженные изображения людей. Google заявила изданию, что уже удалила пять приложений.
Речь не о спорной функции в одном сервисе, а о целой категории потребительского AI-софта. Такие приложения часто маскируются под «face swap» или фоторедакторы, но на практике используются для сексуализированных изображений без согласия человека. WIRED пишет, что их жертвами непропорционально часто становятся женщины и девочки.
Почему претензия адресована Apple и Google
Главный смысл письма в том, что город бьет не только по разработчикам. Юристы Сан-Франциско считают, что Apple и Google получают выгоду от приложений через свои магазины и поэтому должны отвечать за их доступность, платежи и продвижение.
Это важная смена угла. Долгое время дипфейки обсуждали как проблему публикации: кто разместил картинку, где она разошлась, как подать жалобу. Теперь вопрос ставится раньше: почему инструмент для такого вреда вообще лежит в массовом магазине приложений и проходит через его платежную систему.
Что меняется для платформ
Для Apple и Google это неприятный тест. Они привыкли модерировать приложения по правилам безопасности, приватности и мошенничества, но генеративный ИИ создает категории, где вред возникает не из интерфейса, а из почти очевидного сценария использования.
Если подход Сан-Франциско закрепится, платформам придется внимательнее проверять не только описание приложения, но и реальное назначение AI-инструментов. Особенно там, где модель помогает обходить согласие человека: лицо, тело, голос, интимные изображения, документы.
Для обычного пользователя вывод простой: защита от дипфейков постепенно становится обязанностью инфраструктуры. Не только жертва должна искать и удалять вредный контент. Магазин приложений, платежная система и платформа распространения тоже оказываются частью цепочки ответственности.
- wired.comSan Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores
- techmeme.comSan Francisco sends legal notices to Apple and Google, demanding they take down 13 AI apps used to make deepfake nude images; Google says it deleted five apps
- commons.wikimedia.orgFile:San Francisco City Hall September 2013 panorama 3.jpg - Wikimedia Commons













