New Relic построила на AWS корпоративного ассистента и сократила поиск данных на 95%

Пока мир с замиранием сердца следит за тем, как нейросети учатся рисовать котов в стиле Ван Гога и писать сонеты, в недрах корпораций идет тихая, но куда более значимая революция. IT-компания New Relic, пионер в области мониторинга приложений, столкнулась с до боли знакомой проблемой: ее инженеры тратили уйму времени, пытаясь найти нужный документ в хаосе из Confluence, GitHub, Salesforce и десятка других внутренних систем. Иногда этот квест затягивался на целый день. Вместо того чтобы в очередной раз увеличивать штат технических писателей, компания в партнерстве с AWS создала внутреннего AI-ассистента NOVA, который, по их словам, сократил время поиска информации на впечатляющие 95%.

Звучит как очередной маркетинговый булшит, но давайте копнем глубже. NOVA (New Relic Omnipresence Virtual Assistant) — это не просто «умный поиск» по базе знаний. Это полноценный productivity engine, который умеет не только находить информацию, но и выполнять действия. Например, сотрудник может попросить ассистента предоставить доступ к репозиторию или сбросить пароль. Система сама поймет намерение, найдет нужного агента и выполнит операцию. Все это происходит внутри привычного Slack, где NOVA обрабатывает более 1000 запросов ежедневно с заявленной точностью в 80%. Проект, к слову, развернули всего за восемь недель при поддержке Generative AI Innovation Center от AWS. Видимо, Амазон очень хотел показать, что их «песочница» для AI готова к серьезным задачам.

Под капотом у NOVA — целый зоопарк сервисов AWS. В качестве «мозгового центра» выступает Amazon Bedrock, который предоставляет доступ к разным фундаментальным моделям, включая собственную линейку Amazon Nova. За интеллектуальный поиск по корпоративным данным отвечают Amazon Kendra и Knowledge Bases для Bedrock, а в качестве хранилищ используются вечные Amazon S3 и DynamoDB. Архитектура построена на базе агентов: есть центральный «оркестратор», который классифицирует запрос пользователя и передает его специализированным субагентам. Один отвечает за поиск по Confluence, другой — по GitHub, третий умеет выполнять запросы к Salesforce. Такой подход позволяет системе быть гибкой и масштабируемой, добавляя новые «умения» без перестройки всего ядра.

Особого внимания заслуживает реализация RAG (Retrieval-Augmented Generation). Чтобы повысить релевантность ответов, New Relic не просто скормила модели свои документы. Они внедрили сложный процесс обогащения данных: иерархическая разбивка на чанки, добавление метаданных (автор, дата создания, краткое содержание) и кастомная обработка фрагментов кода для сохранения его структуры. Это именно та дьявольская деталь, которая отличает работающее enterprise-решение от демо-проекта «на коленке». Для оценки качества используется подход LLM-as-a-judge, где одна нейросеть оценивает ответы другой по шкале от 1 до 5, сверяясь с эталонными данными.

Вся эта история — не столько про прорыв New Relic, сколько про агрессивную экспансию AWS на поле корпоративного AI. Пока Microsoft делает ставку на альянс с OpenAI, а Google продвигает свою экосистему Vertex AI, Amazon демонстрирует рынку готовый «рецепт» для CIO. Они говорят: «Смотрите, у нас есть все кубики — от моделей и векторных баз до готовых коннекторов и команды внедрения. Вам не нужно ничего искать на стороне, просто принесите свою проблему и деньги». И этот кейс — мощный аргумент в этой битве платформ. Они не просто продают доступ к GPU, они продают готовое, измеряемое бизнес-решение.

Наш вердикт: Заявленные «95%» — красивая, круглая цифра для пресс-релиза, к которой стоит относиться со здоровым скепсисом. Однако суть проекта от этого не меняется. New Relic и AWS показали, пожалуй, самое скучное, но и самое прибыльное применение генеративного AI на сегодняшний день — решение проблемы управления корпоративными знаниями и автоматизация рутины. Это не AGI и не творческий прорыв. Это эволюция ERP-систем и внутренних сервисов, которая позволит компаниям экономить миллионы долларов на операционной неэффективности. Настоящая AI-революция происходит не в публичных чат-ботах, а в тишине корпоративных Slack-каналов, где AI-ассистент молча закрывает очередной тикет в Jira.