Саймон Уиллисон, создатель популярного инструмента командной строки LLM, выпустил два релиз-кандидата версии 0.32. Они добавляют новую схему хранения сообщений, поддержку GPT-5.6 Luna в качестве модели по умолчанию и удобную команду для работы с любыми OpenAI-совместимыми API.
Новая схема хранения сообщений
Первый релиз-кандидат LLM 0.32rc1 завершает работу, начатую в версии 0.32a0. Главное изменение — использование content-addressable hash ID для хранения сообщений. Это позволяет дедуплицировать данные в базе и представлять деревья сообщений для разветвлённых диалогов.
Изменение затрагивает только новые таблицы — старые данные не пострадают. Тем не менее, разработчик рекомендует сделать резервную копию базы logs.db перед обновлением.
GPT-5.6 Luna как модель по умолчанию
Второй релиз-кандидат LLM 0.32rc2 меняет модель по умолчанию для пользователей, которые не установили свою. Теперь это GPT-5.6 Luna, ранее — GPT-4o mini. Luna заметно лучше и новее, хотя и дороже: $0.20 за миллион входных токенов и $1.20 за миллион выходных, против $0.15/$0.60 у 4o mini.
Вернуться к прежней модели можно командой llm models default gpt-4o-mini. Также доступна более дешёвая опция — GPT-5 nano ($0.05/$0.40) через llm models default gpt-5-nano.
Новая команда llm openai endpoint
Ключевое новшество RC2 — команда llm openai endpoint. Она позволяет запускать промпты, чаты и получать список моделей через любые OpenAI-совместимые API без предварительной настройки. Вызовы при этом не логируются.
По словам Уиллисона, он добавил эту команду, потому что не нашёл удобного CLI-инструмента для тестирования промптов против имитаций OpenAI Chat Completions. Использовать её можно даже без установки LLM — через uvx.
Что это значит для пользователей
Новая команда упрощает работу с локальными моделями через LM Studio и другими OpenAI-совместимыми сервисами. Content-addressable hash ID улучшают работу с большими диалогами и ветвлениями. А смена модели по умолчанию на более мощную GPT-5.6 Luna делает инструмент привлекательнее для новых пользователей.
Релиз-кандидаты — финальный этап перед стабильным релизом. Разработчик активно тестирует изменения и собирает обратную связь от сообщества.