Запустить свой ChatGPT на одной видеокарте? AMD говорит, что это реально

Кажется, в зеленом королевстве NVIDIA, где CUDA правит бал, завелся серьезный конкурент. Новость о том, что чат-бота уровня ChatGPT удалось запустить на одной-единственной видеокарте от AMD с помощью их платформы ROCm, прозвучала громче любого маркетингового анонса. Это не просто техническая демонстрация, это — объявление войны за рынок «домашнего» и исследовательского ИИ. До сих пор запуск и даже простое использование больших языковых моделей было уделом корпораций с бездонными карманами и доступом к кластерам из десятков, а то и сотен ускорителей A100. Теперь же парадигма, похоже, начинает трещать по швам.

Давайте к деталям, без воды. Речь идет о запуске довольно «тяжелой» модели (порядка 30-40 миллиардов параметров) на флагманской потребительской или профессиональной карте AMD. Ключевой элемент здесь — ROCm (Radeon Open Compute platform), открытый программный стек, который AMD уже несколько лет выставляет в качестве альтернативы проприетарной и вездесущей CUDA от NVIDIA. Долгое время ROCm был головной болью для всех, кто пытался с ним работать: сырой, с кучей багов и слабой поддержкой. Но, видимо, постоянные вливания ресурсов и давление рынка сделали свое дело. Успешный запуск LLM означает, что платформа доросла до состояния, когда с ней можно не только мучиться, но и получать реальные результаты. Это открывает дорогу для разработчиков и исследователей, которые не готовы или не могут платить «зеленый налог» NVIDIA за доступ в высшую лигу ИИ.

Этот прорыв случился не в вакууме. Он — прямое следствие двух трендов. Во-первых, взрывной рост и демократизация самих языковых моделей. Благодаря усилиям Meta с их Llama, а также сообщества Open Source, у нас появились мощные модели, которые можно легально скачивать и «допиливать» под свои нужды. Во-вторых, это отчаянное желание всего рынка найти альтернативу NVIDIA. Когда одна компания контролирует 90% рынка ИИ-ускорителей, это плохо для всех, кроме самой компании. Google пилит свои TPU, Microsoft вкладывается в стартапы, но AMD — единственный игрок, способный предложить массовый продукт здесь и сейчас. Их стратегия — не пытаться обогнать NVIDIA в лоб, а захватить тот сегмент, который «зеленые» игнорируют: независимых разработчиков, университеты и стартапы.

Конечно, до полной победы над «зеленой империей» еще далеко. Экосистема CUDA строилась десятилетиями. Под нее написаны тонны кода, обучены миллионы специалистов, а стабильность и производительность «из коробки» до сих пор на голову выше. Попробовать завести сложный проект на ROCm — это все еще приключение для сильных духом. Любой, кто хоть раз сталкивался с отладкой драйверов и компиляцией библиотек под «красное» железо, понимающе хмыкнет. Поэтому говорить о массовом исходе разработчиков с CUDA на ROCm пока преждевременно. Это скорее первый успешный выстрел, который услышали все.

Наш вердикт: это не революция, но очень мощная заявка. AMD показала, что альтернатива есть, и она работает. Для NVIDIA — это тревожный звонок и сигнал, что пора переставать продавать «лопаты для золотой лихорадки» по цене самих золотых приисков. Для рынка — это глоток свежего воздуха и надежда на здоровую конкуренцию, которая в конечном итоге всегда на руку конечному потребителю и разработчику. Маркетинговая победа? Безусловно. Но подкрепленная реальным инженерным достижением, которое может стать тем самым камнем, что вызовет лавину перемен в индустрии ИИ-железа.