Правда больше не имеет значения: как AI-фейки меняют реальность, даже будучи разоблаченными

Кажется, мы все это время готовились не к той войне. Годами нас пугали «кризисом правды», рисовали картины будущего, где коварные дипфейки неотличимы от реальности, а общество тонет в болоте дезинформации. Что ж, можете выдыхать. Это будущее уже наступило, только оказалось оно куда более циничным и изощренным. Проблема не в том, что мы не можем отличить правду от лжи. Проблема в том, что это больше не имеет никакого значения.

На днях всплыла история: Министерство внутренней безопасности США (DHS) — та самая структура, что занимается миграцией — совершенно официально использует AI-генераторы от Google и Adobe для создания публичного контента. Это происходит на фоне агрессивной кампании в соцсетях в поддержку массовых депортаций, где появляются такие «шедевры», как видео о «Рождестве после депортаций». Но вишенкой на торте стала другая история: Белый дом опубликовал откровенно отредактированную фотографию арестованной на протесте женщины, сделав ее похожей на обезумевшую истеричку. На вопросы журналистов заместитель директора по коммуникациям с ухмылкой ответил: «Мемы продолжатся». Это уже не ошибка и не недосмотр. Это — декларация о намерениях.

Реакция публики на эти события оказалась еще более показательной. Одни пожали плечами: мол, чего вы ждали, вон телеканал MS Now тоже показал «улучшенную» с помощью AI фотографию какого-то эксперта. Другие и вовсе заявили, что раз СМИ тоже так делают, то и правительству можно. И в этом гениально простой трюк пропаганды: утопить конкретный, вопиющий случай государственной манипуляции в общем шуме, создав ложную эквивалентность. «Все лгут» — идеальный слоган для эпохи, в которой никто не верит никому, и особенно — официальным институтам.

И где же наши хваленые технологические спасители? Помните, сколько было шума вокруг Content Authenticity Initiative от Adobe, которую поддержали все гиганты индустрии? Нам обещали волшебные метки, которые будут показывать, кто, когда и как создал контент, и использовался ли AI. На деле эта инициатива оказалась бумажным тигром. Метки автоматически ставятся только на полностью сгенерированный контент. В остальных случаях — это добрая воля автора. Да и любая платформа вроде X (бывший Twitter) может просто вырезать эти метаданные. Что и произошло с фото от Белого дома, где правду восстановили лишь благодаря пользовательским заметкам.

Но самое тревожное даже не это. Свежее исследование, опубликованное в журнале Communications Psychology, наносит сокрушительный удар по нашей наивной вере в силу фактов. Участникам эксперимента показывали дипфейк, где человек «признавался» в преступлении. Затем им прямо говорили: «Это стопроцентная подделка, созданная нейросетью». И что вы думаете? Даже зная это, люди все равно подсознательно опирались на увиденное, вынося вердикт о виновности. Ложь, даже разоблаченная, оставляет эмоциональный шрам. Наш мозг фиксирует образ, и последующее логическое опровержение уже не может полностью его стереть.

Мы готовились к миру, где главной опасностью будет путаница. А оказались в мире, где главным оружием стало сомнение. Злоумышленникам больше не нужно создавать идеальный фейк, в который все поверят. Им достаточно создать такой поток противоречивого, эмоционально заряженного контента, чтобы у обычного человека опустились руки и он пришел к выводу: «Правды нет, все врут, буду верить тому, что мне приятнее». И в этой новой реальности фактчекинг и разоблачения бессильны. Они работают на уровне логики, в то время как битва идет за эмоции и подсознание.

Наш вердикт: Мы проспали настоящую угрозу. Мы строили сложные системы для обнаружения подделок, пока противник менял само поле боя. Сегодняшний кризис — это не кризис технологий, это кризис доверия, усугубленный доступностью мощных инструментов манипуляции. Цель новой пропаганды не в том, чтобы убедить вас во лжи, а в том, чтобы вы перестали верить в существование правды как таковой. И защитники этой самой правды, увы, уже катастрофически отстают.