AI-френология: нейросеть предсказывает зарплату по фото, и это плохие новости

Забудьте про резюме, сопроводительные письма и стрессовые собеседования. В дивном новом мире, который маячит на горизонте, все это может заменить один-единственный файл — ваша фотография. Группа ученых-энтузиастов заявила, что их AI-алгоритм способен предсказать ваш будущий карьерный и финансовый успех, просто проанализировав ваше лицо. Звучит как эпизод «Черного зеркала», но это исследование, опубликованное с целью «проинформировать регуляторную дискуссию». И вот этот последний пункт — самый важный во всей истории.

На первый взгляд, идея кажется соблазнительной. Нейросеть, обученная на огромном массиве данных, якобы научилась улавливать в чертах лица, мимике и даже фоне фотографии неуловимые «личностные маркеры», которые коррелируют с высоким доходом. Разработчики не раскрывают всех карт, но говорят об анализе таких качеств, как экстраверсия, добросовестность и открытость опыту. По их словам, модель способна заглянуть за вашу профессиональную маску и оценить врожденный потенциал. Это тот самый момент, когда адепты «Больших данных» должны аплодировать стоя, а все остальные — напрячься.

Давайте называть вещи своими именами: это френология 2.0. Наука, пытавшаяся в XIX веке определить характер человека по форме черепа, сегодня переродилась в виде строк кода. Только вместо штангенциркуля теперь — сверточные нейронные сети. Проблема в том, что алгоритм не «понимает» личность. Он просто находит статистические закономерности в данных, на которых его учили. Если в обучающей выборке у успешных людей были дорогие часы, идеальная улыбка и фото на фоне панорамного окна в небоскребе, то нейросеть решит, что именно эти признаки ведут к успеху. Она не отличит причину от следствия и с легкостью примет социальные маркеры за признаки врожденного таланта.

Это не первая попытка автоматизировать HR-процессы с помощью AI, и предыдущие закончились громкими провалами. Достаточно вспомнить печально известный проект Amazon, где нейросеть для отбора резюме научилась дискриминировать женщин. Система заметила, что большинство успешных кандидатов в прошлом были мужчинами, и начала штрафовать резюме, в которых встречались слова, связанные с женским полом, например, «женский шахматный клуб». Проект тихо свернули. Нынешнее исследование — еще один шаг в ту же пропасть, только теперь дискриминация может начаться еще до того, как вы отправите резюме.

Самое ироничное, что авторы исследования, похоже, это прекрасно понимают. Их цель — не выпустить на рынок ультимативный HR-инструмент, а продемонстрировать, насколько опасными могут быть такие технологии без должного контроля. Они буквально кричат: «Смотрите, какую антиутопию мы можем построить, если нас вовремя не остановить!». Это своего рода прививка от будущего, в котором ваш карьерный потолок определяет не ваш опыт и навыки, а то, насколько «успешно» вы выглядите в глазах бездушного алгоритма. Представьте, что такой инструмент попадет в руки банков, страховых компаний или рекрутеров. Отказ в кредите, повышенный страховой тариф или автоматическое попадание в «корзину» — и все из-за неудачного селфи.

Наш вердикт: Это не прорыв, а блестяще исполненная провокация. Ценность этой работы не в технологическом достижении, а в том, что она заставляет задуматься о этической стороне AI. Ученые создали маленького, но очень убедительного монстра, чтобы показать обществу и регуляторам, что с огнем лучше не играть. Это не инструмент для HR-отдела, а экспонат для музея цифровых антиутопий. И его главное предназначение — заставить нас написать правила, по которым подобные «френологические» алгоритмы никогда не станут мейнстримом. Потому что будущее, где нейросеть судит о книге по обложке, нам точно не нужно.