OpenAI представляет первый собственный чип Jalapeño
Компания OpenAI представила свой первый собственный процессор для вывода моделей — Jalapeño, разработанный совместно с Broadcom. Чип предназначен для ускорения инференса — процесса запуска обученных нейросетей по запросам пользователей. По словам компании, ранние тесты показывают значительно лучшую производительность на ватт по сравнению с существующими решениями.
Разработка чипа велась при участии собственных ИИ-моделей OpenAI. Хотя устройство ещё проходит тестирование, компания уже заявляет о существенном преимуществе в энергоэффективности.
Инференс в фокусе: почему это важно
Jalapeño спроектирован специально для задач инференса — запуска готовых моделей в ответ на пользовательские запросы. OpenAI подчёркивает низкую стоимость работы чипа при обработке моделей для программирования в реальном времени.
Наиболее ресурсоёмкие задачи, такие как предобучение моделей, по-прежнему будут зависеть от оборудования Nvidia. Однако даже небольшое снижение затрат на инференс может существенно улучшить финансовые показатели компании.
Стратегия «от стека до чипа»
Президент OpenAI Грег Брокман объяснил подход компании на собственном подкасте. «Мы глубоко понимаем рабочие нагрузки. Мы искали конкретные задачи, которые недостаточно обслуживаются, и задавались вопросом: как построить что-то, что ускорит возможности?» — сказал он.
OpenAI уже разрабатывает агентные продукты, такие как Codex, а также строит дата-центры для их запуска. Собственный чип позволяет компании выйти на новый уровень вертикальной интеграции.
Контекст: как Big Tech борется за автономию
OpenAI описывает свою стратегию как оптимизацию всего технологического стека — от архитектуры чипа до пользовательского опыта. «OpenAI разрабатывает не только передовые модели и продукты на их основе, но и инфраструктуру под ними: архитектуру процессоров, ядра, системы памяти, сетевое взаимодействие, планирование и развёртывание», — отмечает компания.
Google и Amazon уже создали собственные ускорители для ИИ-нагрузок, чтобы снизить зависимость от GPU Nvidia. Появление собственного чипа у OpenAI — логичный шаг в том же направлении, который может переопределить экономику искусственного интеллекта.