Безопасность вышла из чата: OpenAI распускает команду по контролю над AGI

Ну что, дождались. В корпоративной саге OpenAI новый сезон, и сюжет становится все мрачнее. Компания официально распустила команду Mission Alignment — элитный отряд, чьей задачей, без шуток, было предотвращение сценариев в духе «Скайнета» и «Терминатора». Тех самых ребят, которые должны были научить будущий сверхразум не истреблять человечество из соображений эффективности. Теперь их нет. Лидера команды повысили до красивой, но абсолютно непонятной должности «главного футуриста», а остальных инженеров и исследователей тихо «интегрировали» в другие проекты. Красивый корпоративный эвфемизм для слова «расформировали».

Этот шаг выглядит особенно цинично на фоне событий последних недель. Расформирование произошло сразу после того, как OpenAI покинули два столпа движения за безопасность ИИ — сооснователь и главный научный сотрудник Илья Суцкевер и его правая рука Ян Лейке, который как раз и возглавлял эту самую команду. Лейке, уходя, не стал играть в политес и хлопнул дверью так, что зазвенело по всей Кремниевой долине. В своем прощальном треде он прямым текстом обвинил руководство в том, что «культура безопасности отошла на второй план по сравнению с блестящими продуктами». Проще говоря, погоня за релизом нового GPT-4o и будущим GPT-5 оказалась куда важнее, чем нудные и медленные исследования о том, как бы этот самый GPT-5 однажды не решил оптимизировать планету, удалив с нее людей.

Команда Superalignment, частью которой была Mission Alignment, была создана меньше года назад с большой помпой. Сэм Альтман и ко клялись, что выделят на ее работу 20% всех вычислительных мощностей компании. Это был их главный козырь в ответ на критику: мол, мы не просто клепаем чат-ботов, мы серьезно думаем о последствиях. И вот, не прошло и года, как вся эта конструкция рушится. Ключевые люди уходят, а само подразделение, ответственное за наше с вами безопасное будущее, перестает сущеводить в прежнем виде. Это не просто «реструктуризация», как пытаются представить в OpenAI. Это тектонический сдвиг в приоритетах.

Вся эта история — ярчайший симптом лихорадки, охватившей AI-индустрию. OpenAI, начавшая как некоммерческая лаборатория с благородной миссией, превратилась в машину по зарабатыванию денег для Microsoft и других инвесторов. Гонка вооружений с Google, Anthropic и прочими гигантами не оставляет времени на рефлексию. Нужно выпускать продукты здесь и сейчас, впечатлять рынок новыми фичами, продавать API. А медленная, академическая работа по «согласованию ценностей» с гипотетическим AGI — это балласт, который мешает лететь к новым высотам капитализации. Зачем думать о проблемах 2035 года, если квартальный отчет нужно сдавать через месяц?

Назначение лидера распущенной команды «главным футуристом» — это вишенка на торте этого театра абсурда. В корпоративном мире такие должности часто создают для почетной ссылки. Это способ сохранить лицо, оставив в компании громкое имя, но лишив его реальных рычагов влияния на разработку. Теперь он сможет писать визионерские эссе о будущем, пока инженеры в соседних кабинетах будут форсировать создание того самого будущего, о рисках которого он должен был предупреждать. Это классический PR-ход, который мы видели десятки раз в других индустриях: когда проблему нельзя решить, ее можно возглавить. Или, в данном случае, назначить ответственного за мечты о ней.

Наш вердикт: Это не реорганизация, это капитуляция. OpenAI публично расписалась в том, что ее изначальная миссия по созданию «безопасного и полезного» AGI окончательно уступила место коммерческим интересам и давлению рынка. Расформирование команды по безопасности — это громкий и недвусмысленный сигнал: корабль взял курс на скорейший запуск сверхразума, а о шлюпках и спасательных жилетах будем думать потом. Возможно, когда уже будет поздно. Хайп-трейн несется вперед без тормозов, и машинисту, похоже, уже все равно, что там за поворотом.