OpenAI ускорит работу ChatGPT благодаря партнерству с Cerebras на 750 МВт

OpenAI ускорит работу ChatGPT благодаря партнерству с Cerebras на 750 МВт

Компания OpenAI официально объявила о начале стратегического партнерства с производителем специализированного оборудования Cerebras. В рамках соглашения планируется ввести в эксплуатацию 750 МВт высокоскоростных вычислительных мощностей. Главной целью сотрудничества станет снижение задержек (latency) при инференсе нейросетей, что позволит существенно ускорить работу ChatGPT и других сервисов компании в режиме реального времени.

Использование уникальной архитектуры чипов Cerebras, известных своими огромными размерами и высокой пропускной способностью памяти, направлено на решение одной из главных проблем современных больших языковых моделей — скорости ответа. Дополнительные мощности обеспечат инфраструктуру, необходимую для мгновенной обработки запросов, что критически важно для развития голосовых интерфейсов и сложных агентских систем. Сделка такого масштаба также сигнализирует о намерении OpenAI диверсифицировать аппаратную базу, снижая зависимость от традиционных графических процессоров.

Read more