Фабрика дипфейков с Уолл-стрит: как инвесторы Кремниевой долины спонсируют рынок порно-клонов знаменитостей

Когда на сцену выходят большие деньги, особенно деньги от титанов вроде венчурного фонда Andreessen Horowitz (a16z), жди драмы. И она не заставила себя ждать. В центре свежего скандала оказался маркетплейс Civitai — эдакий App Store для энтузиастов генеративного AI. Платформа, получившая солидное финансирование, оказалась местом, где можно запросто купить и продать «цифровые лекала» для создания дипфейков реальных женщин, включая знаменитостей. И, как вишенка на этом сомнительном торте, новое исследование от Стэнфорда и Университета Индианы показало, что значительная часть этих моделей заточена под генерацию порнографии, которая формально правилами сайта запрещена. Добро пожаловать в дивный новый мир AI, где хайп встречается с самой древней индустрией мира.

Давайте разберемся, что такое эти «файлы-инструкции». В экосистеме Stable Diffusion их чаще всего называют LoRA (Low-Rank Adaptation). Если по-простому, то это не полноценная нейросеть, а крошечный «патч», который на лету меняет стиль или объект генерации базовой модели. Хотите, чтобы нейросеть рисовала в стиле Ван Гога? Обучаете LoRA на его картинах. Хотите генерировать изображения конкретного человека? Скачиваете LoRA, обученную на его фотографиях. И вот тут начинается скользкая дорожка. Civitai стал центральной биржей для таких вот «патчей», где пользователи могут делиться, продавать и покупать готовые модели для генерации чего угодно. Включая, как выяснилось, точную цифровую копию Скарлетт Йоханссон для NSFW-сцен.

Самое пикантное в этой истории — не сам факт существования такого контента (интернет всегда был и будет интернетом), а участие в этом празднике жизни такого тяжеловеса, как a16z. Это не гаражный стартап, а один из столпов Кремниевой долины, инвестировавший в Airbnb, Facebook и Stripe. Их поддержка — это сигнал всему рынку: «здесь есть деньги, и мы в игре». И это ставит ребром главный вопрос всей AI-революции: где проходит грань между демократизацией технологий и пособничеством в создании потенциально вредоносного контента?

На одном полюсе у нас закрытые экосистемы вроде OpenAI с их DALL-E или Midjourney. Там драконовская модерация, цензура на каждое второе слово и попытка создать стерильную, безопасную среду. На другом — открытый и анархичный мир open-source, где правит Stable Diffusion. Civitai — это квинтэссенция второго подхода. Формально на сайте есть правила, запрещающие порнографию с реальными людьми. Но на практике модерация превращается в игру в кошки-мышки: модели называют кодовыми именами, а для обхода фильтров используются хитроумные промпты. Исследователи из Стэнфорда как раз и вскрыли эту двойную жизнь платформы, где фасад приличия едва скрывает бурлящий котел нелегального контента.

Ирония в том, что инвесторы, скорее всего, смотрят не на моральную сторону вопроса, а на метрики. Civitai — это «лопаты во время золотой лихорадки». Они не создают AI, они создают инфраструктуру для его использования. А что именно будут «копать» пользователи с помощью этих лопат — дело десятое. Пока растет аудитория и транзакции, модель работает. Это классическая дилемма хостинг-провайдеров и соцсетей, только теперь на стероидах из-за мощи генеративных моделей, способных создавать неотличимые от реальности изображения за секунды.

Наш вердикт: это не история про плохих парней из Civitai или циничных капиталистов из a16z. Это история про неизбежные болезни роста любой мощной и доступной технологии. В Кремниевой долине любят фразу «move fast and break things». Что ж, генеративный AI сейчас движется с невиданной скоростью и ломает не просто бизнес-модели, а фундаментальные понятия о личности, согласии и цифровом образе. Платформы вроде Civitai — это просто первый полигон, где мы в реальном времени наблюдаем, как общество пытается нащупать новые этические рамки. А пока юристы и законодатели продираются сквозь терминологию, дикий запад AI продолжит жить по своим правилам. И кто-то на этом очень хорошо заработает.