LLM 0.32: новая схема данных и GPT-5.6 Luna по умолчанию - AI Founder

LLM 0.32: новая схема данных и GPT-5.6 Luna по умолчанию

LLM 0.32: новая схема данных и GPT-5.6 Luna по умолчанию

Саймон Уиллисон выпустил релиз-кандидаты LLM 0.32rc1 и 0.32rc2. Главные изменения: новая схема хранения сообщений с content-addressable hash ID, поддержка GPT-5.6 Luna в качестве модели по умолчанию и команда llm openai endpoint для работы с любыми OpenAI-совместимыми API.

Саймон Уиллисон, создатель популярного инструмента командной строки LLM, выпустил два релиз-кандидата версии 0.32. Они добавляют новую схему хранения сообщений, поддержку GPT-5.6 Luna в качестве модели по умолчанию и удобную команду для работы с любыми OpenAI-совместимыми API.

Новая схема хранения сообщений

Первый релиз-кандидат LLM 0.32rc1 завершает работу, начатую в версии 0.32a0. Главное изменение — использование content-addressable hash ID для хранения сообщений. Это позволяет дедуплицировать данные в базе и представлять деревья сообщений для разветвлённых диалогов.

Изменение затрагивает только новые таблицы — старые данные не пострадают. Тем не менее, разработчик рекомендует сделать резервную копию базы logs.db перед обновлением.

GPT-5.6 Luna как модель по умолчанию

Второй релиз-кандидат LLM 0.32rc2 меняет модель по умолчанию для пользователей, которые не установили свою. Теперь это GPT-5.6 Luna, ранее — GPT-4o mini. Luna заметно лучше и новее, хотя и дороже: $0.20 за миллион входных токенов и $1.20 за миллион выходных, против $0.15/$0.60 у 4o mini.

Вернуться к прежней модели можно командой llm models default gpt-4o-mini. Также доступна более дешёвая опция — GPT-5 nano ($0.05/$0.40) через llm models default gpt-5-nano.

Новая команда llm openai endpoint

Ключевое новшество RC2 — команда llm openai endpoint. Она позволяет запускать промпты, чаты и получать список моделей через любые OpenAI-совместимые API без предварительной настройки. Вызовы при этом не логируются.

По словам Уиллисона, он добавил эту команду, потому что не нашёл удобного CLI-инструмента для тестирования промптов против имитаций OpenAI Chat Completions. Использовать её можно даже без установки LLM — через uvx.

Что это значит для пользователей

Новая команда упрощает работу с локальными моделями через LM Studio и другими OpenAI-совместимыми сервисами. Content-addressable hash ID улучшают работу с большими диалогами и ветвлениями. А смена модели по умолчанию на более мощную GPT-5.6 Luna делает инструмент привлекательнее для новых пользователей.

Релиз-кандидаты — финальный этап перед стабильным релизом. Разработчик активно тестирует изменения и собирает обратную связь от сообщества.

Елена Петрова
Автор: Елена Петрова

Продуктовый дизайнер с фокусом на AI-инструментах. Тестирует и сравнивает нейросети для креативных профессий.

Подпишись на наш Telegram-канал

чтобы не упустить главные AI-новости

Подписаться
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x