OpenAI представила первые результаты Jalapeño — собственного специализированного чипа для инференса ИИ. В тестах на GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T он обеспечил в 1,5–1,9 раза больше вычислительной работы на ватт и в 1,7–3,6 раза меньшую сквозную задержку по сравнению с системами на GB200 и GB300. Для интерактивных нагрузок скорость генерации на … Читать далее
Anthropic изучает возможность разработки собственного AI-чипа и ведет переговоры с Samsung. По данным The Information, компания пока не решила, для каких задач будет использоваться чип и как он впишется в серверную инфраструктуру. Ранее Reuters сообщал, что Anthropic рассматривает собственные чипы как ответ на дефицит compute. В комментарии TechCrunch Anthropic заявила, что для ее стратегии по-прежнему … Читать далее
OpenAI и Broadcom представили Jalapeño — чип для быстрой работы AI-моделей. Он нужен, чтобы ChatGPT, Codex, API и будущие AI-сервисы отвечали быстрее, стабильнее и дешевле при большом числе пользователей. Jalapeño — это не универсальный процессор, а ускоритель для LLM inference. Так называют этап, когда модель уже обучена и отвечает пользователю. Чип разработали OpenAI, Broadcom и … Читать далее