AI-ассистент вместо хаоса: как New Relic ускорила инженеров на 95% с помощью AWS

Каждая быстрорастущая IT-компания рано или поздно упирается в одну и ту же стену: знания, накопленные годами, превращаются в цифровой хаос. Документация в Confluence, переписки в Slack, репозитории в GitHub — и вот уже ваши дорогие инженеры тратят не часы, а порой и дни, чтобы найти нужный фрагмент информации. В New Relic, компании-пионере в области мониторинга приложений, от этой головной боли решили избавиться с помощью модной таблетки — генеративного ИИ. Так появился NOVA, внутренний AI-ассистент, который, если верить пресс-релизу, сократил время поиска информации на впечатляющие 95%.

Звучит как очередной маркетинговый булшит, но давайте копнем глубже. Проблема, которую решала New Relic, абсолютно реальна. Когда поиск ответа на внутренний запрос занимает больше суток, это прямой удар по продуктивности. Их решение, NOVA (New Relic Omnipresence Virtual Assistant), — это не просто чат-бот, прикрученный к базе знаний. Это полноценная платформа, разработанная за восемь недель в тесном сотрудничестве с командой AWS Generative AI Innovation Center. Сегодня система обрабатывает более 1000 запросов в день от сотрудников, поддерживая заявленную точность ответов на уровне 80% — что, к слову, означает, что каждый пятый ответ все еще может быть мимо кассы.

Под капотом у NOVA — целый зоопарк сервисов AWS. Сердце системы — Amazon Bedrock, который выступает в роли диспетчера, предоставляя доступ к разным фундаментальным моделям (в данном случае, к семейству Amazon Nova). Это позволяет гибко выбирать между скоростью (Nova Lite) и мощностью (Nova Pro) в зависимости от задачи. Для поиска и индексации данных из разных источников (Confluence, GitHub, Salesforce, Jira) используется комбинация Amazon Kendra, Amazon Q Index и кастомных интеграций. Все это лежит на базовой инфраструктуре из S3 и DynamoDB. Архитектура построена на агентах: есть главный «оркестратор», который определяет намерение пользователя и передает задачу специализированным субагентам, отвечающим за конкретные действия — от поиска по документации до выполнения транзакционных задач, вроде сброса пароля или запроса доступов команде.

Самое интересное здесь — это подход к RAG (Retrieval Augmented Generation), технологии, которая позволяет модели «заземлять» свои ответы на реальных документах. New Relic не просто скормила системе свои данные. Они реализовали сложный процесс обогащения: документы при загрузке автоматически размечаются метаданными, ключевыми словами и саммари. Используется иерархическая разбивка на чанки (hierarchical chunking), что помогает модели лучше понимать контекст больших документов. Это та самая «невидимая» работа, которая отличает работающее в проде решение от демки, собранной на коленке. Для оценки качества используется подход LLM-as-a-judge: одна нейросеть оценивает ответы другой по шкале от 1 до 5, сверяясь с эталонными данными.

Конечно, этот кейс — идеальная реклама для Amazon. Он демонстрирует, как с помощью конструктора AWS можно собрать сложную, кастомную AI-систему для решения конкретной бизнес-задачи. New Relic получает работающий инструмент и повод похвастаться своей инженерной культурой, а AWS — мощный аргумент в борьбе с конкурентами вроде Microsoft Azure и Google Cloud. Это наглядный пример того, как облачные гиганты продают не просто «доступ к AI», а целую экосистему для его внедрения, вместе с консалтингом и поддержкой.

Наш вердикт: Цифра в 95% — это, безусловно, красивая обертка. Реальная ценность кейса New Relic не в ней, а в демонстрации того, как выглядит настоящая, а не выставочная, корпоративная AI-трансформация. Это не про волшебную кнопку «сделать хорошо», а про серьезную архитектурную работу, глубокую интеграцию с десятком внутренних систем и постоянный мониторинг качества. NOVA — это не столько прорыв в области ИИ, сколько образцовый инженерный проект, показывающий, что для реального повышения продуктивности недостаточно просто купить подписку на ChatGPT Enterprise. Нужно строить, интегрировать и измерять. И, похоже, у New Relic это получилось.