OpenAI представила Jalapeño — свой первый процессор для серверов ИИ

Американская компания OpenAI совместно с Broadcom разработала собственный микрочип под названием Jalapeño. Процессор предназначен для оптимизации работы серверов, обрабатывающих запросы пользователей ChatGPT и других ИИ-сервисов компании.

Специфика архитектуры и конкуренция на рынке

Чип Jalapeño относится к категории ASIC (интегральная схема специального назначения). Это означает, что он изначально спроектирован под конкретную задачу — инференс ИИ. Под инференсом понимается процесс обработки уже обученной моделью запросов пользователя (например, генерация ответа в ChatGPT или запуск кода в Codex). Этот процесс отличается от обучения моделей, которое требует анализа колоссальных объемов данных для настройки алгоритмов.

Анонс процессора состоялся спустя девять месяцев после начала официального партнерства OpenAI и Broadcom. Собственная разработка призвана снизить зависимость ИИ-гиганта от дефицитных графических ускорителей Nvidia. По оценке генерального директора Broadcom Хока Тана, новинка по производительности сопоставима с новейшими чипами Nvidia Blackwell и тензорными процессорами Google TPU. Свои специализированные микросхемы для серверов также активно развивают Microsoft, Meta* и Amazon, однако по общей производительности они все еще отстают от флагманских решений Nvidia.

Сроки запуска и ожидаемая эффективность

В OpenAI называют Jalapeño первым шагом в создании масштабной вычислительной платформы нескольких поколений. Первое развертывание новых процессоров в дата-центрах ожидается к концу 2026 года.

Согласно заявлениям разработчиков, ранние тесты демонстрируют следующие особенности новинки:

• Существенное превосходство над существующими аналогами по показателю энергоэффективности (вычислительной мощности на один ватт потребляемой энергии).
• Снижение зависимости от сторонних поставщиков аппаратного обеспечения.
• Оптимизация инфраструктуры под специфические задачи больших языковых моделей текущего и будущих поколений.

* — деятельность компании запрещена на территории РФ

Твитнуть