Архивы Jalapeño - AI Founder

Anthropic обсуждает собственный AI-чип с Samsung

Anthropic изучает возможность разработки собственного AI-чипа и ведет переговоры с Samsung. По данным The Information, компания пока не решила, для каких задач будет использоваться чип и как он впишется в серверную инфраструктуру. Ранее Reuters сообщал, что Anthropic рассматривает собственные чипы как ответ на дефицит compute. В комментарии TechCrunch Anthropic заявила, что для ее стратегии по-прежнему … Читать далее

OpenAI сделала собственный чип для ускорения AI

OpenAI и Broadcom представили Jalapeño — чип для быстрой работы AI-моделей. Он нужен, чтобы ChatGPT, Codex, API и будущие AI-сервисы отвечали быстрее, стабильнее и дешевле при большом числе пользователей. Jalapeño — это не универсальный процессор, а ускоритель для LLM inference. Так называют этап, когда модель уже обучена и отвечает пользователю. Чип разработали OpenAI, Broadcom и … Читать далее