Как маркетплейс с ИИ превратился в фабрику дипфейков: 90% жертв - женщины

Секретная кухня цифровых подделок

Представьте онлайн-магазин, где любой желающий может заказать инструкции для создания поддельных фотографий знаменитостей. Звучит как сюжет антиутопии? Это реальность 2025 года. Платформа Civitai, получившая финансирование от известного венчурного фонда, превратилась в настоящую фабрику по производству дипфейков.

Исследователи из Стэнфорда и Университета Индианы провели детальный анализ активности пользователей сервиса. Результаты оказались тревожными: с середины 2023 до конца 2024 года значительная часть запросов касалась создания поддельных изображений реальных людей. При этом 90% таких заказов были нацелены на женщин.

Сайт работает по принципу маркетплейса - пользователи размещают заявки на создание специальных файлов инструкций, называемых LoRA. Эти файлы "обучают" популярные ИИ-модели вроде Stable Diffusion генерировать контент, для которого они изначально не предназначались. Исследование показало: 86% запросов на дипфейки касались именно таких обучающих файлов.

Как работает система заказов

Пользователи описывают желаемый результат с пугающей детализацией. Заявки содержат требования создать "высококачественные" модели для генерации изображений публичных персон - инфлюенсеров, певиц, блогеров. Часто к запросам прикрепляются ссылки на социальные сети жертв, чтобы алгоритмы могли "обучиться" на реальных фотографиях.

Некоторые заказчики уточняют специфические детали: модель должна точно воспроизводить татуировки, позволять менять цвет волос или генерировать изображения всего тела. Встречаются заявки на создание дипфейков сразу нескольких женщин из определенной ниши - например, создательниц ASMR-видео. Один из запросов касался женщины, которую автор называл своей женой.

Любой участник платформы может предложить свою разработку для выполнения заказа. Лучшие работы получают оплату от 50 центов до 5 долларов. Почти 92% заявок на дипфейки находят своих исполнителей.

Для практических рекомендаций по защите от подобных угроз посетите AI Projects.

Обучение обходу запретов

Платформа не ограничивается простой торговлей. Civitai предлагает образовательные материалы о том, как использовать внешние инструменты для дополнительной настройки генераторов изображений. Например, как изменить позу человека на фотографии. Сайт размещает статьи пользователей с подробными инструкциями по созданию откровенного контента.

Мэттью ДеВерна, постдокторант Центра киберполитики Стэнфорда и один из руководителей исследования, отмечает: "Civitai не просто предоставляет инфраструктуру, способствующую этим проблемам. Они открыто учат пользователей, как ее использовать".

Исследователи обнаружили рост количества откровенных материалов на платформе. Сейчас большинство еженедельных запросов касаются контента категории NSFW (не подходящего для работы).

Запреты на бумаге

Раньше компания запрещала только откровенные дипфейки реальных людей. В мае 2025 года руководство объявило о запрете всего контента с дипфейками. Однако бесчисленные заявки, поданные до введения запрета, остаются активными. Многие работы, выполненные по этим заказам, до сих пор доступны для покупки.

"Я считаю, что их подход заключается в том, чтобы делать как можно меньше, позволяя развиваться тому, что они называют креативностью на платформе", - комментирует ДеВерна.

Пользователи покупают LoRA за внутреннюю валюту сайта - Buzz, которую приобретают за реальные деньги. В мае 2025 года процессор кредитных карт прекратил сотрудничество с компанией из-за продолжающихся проблем с контентом без согласия изображенных. Теперь для оплаты откровенных материалов нужно использовать подарочные карты или криптовалюту. Для обычного контента компания предлагает другую валюту.

Модерация силами жертв

Платформа автоматически помечает заявки на создание дипфейков и предоставляет возможность человеку, изображенному в контенте, вручную запросить удаление. Эта система означает, что Civitai достаточно успешно определяет, какие заявки касаются дипфейков, но оставляет модерацию на откуп общественности вместо проактивных действий.

Юридическая ответственность компаний за действия пользователей остается неясной. Обычно технологические фирмы защищены от такой ответственности согласно Разделу 230 Закона о приличии в коммуникациях. Но эта защита не безгранична. "Вы не можете сознательно способствовать незаконным транзакциям на своем сайте", - объясняет Райан Кало, профессор права Вашингтонского университета, специализирующийся на технологиях и ИИ.

Двойные стандарты инвесторов

В 2024 году Civitai присоединилась к OpenAI, Anthropic и другим ИИ-компаниям, приняв принципы защиты от создания и распространения материалов сексуального насилия над детьми, созданных искусственным интеллектом. Этот шаг последовал за отчетом Стэнфордской обсерватории интернета 2023 года, который показал: подавляющее большинство ИИ-моделей, упоминаемых в сообществах, связанных с такими материалами, были моделями на основе Stable Diffusion, "преимущественно полученными через Civitai".

Однако дипфейки взрослых не получают такого же внимания от контент-платформ или венчурных фондов, финансирующих их. "Они недостаточно боятся этого. Они чрезмерно терпимы к этому", - говорит Кало. "Ни правоохранительные органы, ни гражданские суды не обеспечивают адекватной защиты. Это небо и земля".

Civitai получила 5 миллионов долларов инвестиций от Andreessen Horowitz в ноябре 2023 года. В видео, опубликованном фондом, соучредитель и генеральный директор Civitai Джастин Майер описал свою цель - построить главное место, где люди находят и делятся ИИ-моделями для собственных целей. "Мы стремились сделать это пространство, которое было очень нишевым и технически сложным, все более доступным для все большего числа людей", - сказал он.

Civitai - не единственная компания с проблемой дипфейков в инвестиционном портфеле a16z. В феврале стало известно о другой фирме, Botify AI, которая размещала ИИ-компаньонов, похожих на реальных актеров, заявлявших о возрасте до 18 лет и вступавших в откровенные разговоры.

Что дальше

Проблема дипфейков выходит за рамки одной платформы. Недавний скандал с откровенными изображениями в чат-боте Grok, принадлежащем X, показал: дебаты вращаются вокруг того, что должны делать платформы для блокировки такого контента. Ситуация с Civitai сложнее - сервис торгует не готовыми изображениями, а инструкциями для их создания.

Теоретически люди могут покупать эти файлы для создания дипфейков, не являющихся откровенными. Но такой контент все равно нарушает условия использования Civitai и остается этически сомнительным. Платформа предоставляет ресурсы для дальнейшей настройки генераторов изображений, что открывает путь к созданию любого контента.

Для получения экспертных консультаций по вопросам безопасности в цифровой среде обратитесь к специалистам AI Projects.

Выводы

История Civitai демонстрирует темную сторону развития технологий искусственного интеллекта. Платформа, получившая миллионы долларов от известного венчурного фонда, фактически стала инструментом для массового создания поддельных изображений реальных женщин. Несмотря на формальные запреты, система продолжает работать, обучая пользователей обходить ограничения.

Проблема требует комплексного подхода: более строгого законодательного регулирования, активной модерации со стороны платформ и ответственности инвесторов за проекты, которые они финансируют. Пока технологические компании и венчурные фонды относятся к дипфейкам взрослых людей как к второстепенной проблеме, миллионы женщин остаются беззащитными перед цифровым насилием.