LFM3 от Liquid AI: маленькая модель, которая рассчитана на работу, а не на размышления

27 октября Liquid AI выпустила семейство LFM3 — шесть моделей класса ~2B параметров плюс базовый чекпоинт. Флагман линейки, LFM3-1.7B, на агентных бенчмарках обходит Qwen3.5-9B — модель в пять раз больше: WebArena 38,42 против 28,94, BFCL V4 71,39 против 62,83. На AutomationBench разрыв ещё заметнее: 41,29 против 15,10.

Но на задачах, где нужны знания, картина обратная. GPQA Diamond — 63,37 против 80,40 у Qwen3.5-9B. RULER 128K — 65,56 против 87,11. Liquid признаёт это прямо в модель-карте: «larger models still win on agentic coding and knowledge». Это не оговорка, а спецификация.

Все цифры — vendor-reported, независимых воспроизведений на момент выхода нет. Но направление результатов консистентно, и оно меняет логику выбора модели. Вопрос «какая модель умнее» заменяется вопросом «какая модель дешевле и быстрее сделает узкую работу». 1,7B параметров достаточно, если задача — не думать, а действовать: выбрать инструмент, отформатировать вызов, выполнить инструкцию.

Архитектура под железо, а не под бенчмарк

Архитектура LFM3 — tri-hybrid: 24 слоя, из которых 13 — gated short convolutions с ядром 7 (у LFM2 было 3), 5 — sliding-window attention с окном 256 токенов и 6 — global attention. Глобальные слои используют partial RoPE — вращают только старшую половину частот каждой головы; SWA-слои сохраняют полный RoPE.

Результат — KV-кэш примерно 27% от обычного трансформера. При контексте 128K это 1,6 ГБ против 4,3 ГБ у Qwen3.5-4B и 5,6 ГБ у MiniCPM5-2B. Операционно это разница между «влезает в ноутбук» и «нужен сервер». В 4-битной квантизации текстовая модель весит около 1 ГБ.

Отдельная деталь — head-wise sigmoid gating: головы внимания могут отключаться, подавляя выбросы активаций, вредные для 4-битной квантизации. Это не абстрактная архитектурная прихоть, а инженерное решение для конкретного сценария развёртывания.

Показательно, как строился архитектурный поиск: hardware-in-the-loop с 14 комбинациями устройств и бэкендов — от Samsung Galaxy S26 Ultra и Raspberry Pi 5 до Apple M4 Max, AMD Ryzen AI и Qualcomm Hexagon NPU. Для LFM2 таких комбинаций было две. Архитектуру настраивали под железо, а не портировали задним числом.

Deferred tool loading: как маленькая модель работает с тысячами инструментов

Ключевой механизм LFM3 — отложенная загрузка инструментов. У агента может быть каталог из 108 инструментов телефонного приложения. Загрузить все схемы в контекст — дорого и шумно: они вытесняют полезную информацию. Вместо этого модель вызывает search_tools, получает только имена релевантных инструментов, а полные определения подгружает в момент фактического вызова. Вызовы оформляются в XML-подобном формате в тегах <tool_call>.

Это объясняет, почему 1,7B-модель вообще справляется с агентными задачами. Она обходит ограничение контекста не количеством параметров, а инженерным решением.

Показателен тест MacPaw: LFM3-1.7B против Qwen3.5-2B на 65 повседневных агентных задачах в реальных macOS-средах — 64% успеха против 48%, на 58% меньше токенов на задачу. Самая показательная цифра — «застревания» менее чем в 1% попыток против 15% у конкурента. Агент реже упирается в тупик, где нужен человек. Иван Петруха, Staff AI Engineer в MacPaw, формулирует жёстко: «LFM3 — первая суб-2B модель, которую мы тестировали и которая готова к реальной агентной работе на Mac». Стоит помнить, что MacPaw — партнёр запуска, так что цифры партнёрские.

Где проходит граница

Признание Liquid в модель-карте — не использовать LFM3 для агентного кодинга и сложных многошаговых рассуждений — это не противоречие позиционированию, а артикулированная граница. «Энциклопедию в 1,7 млрд параметров не упакуешь», как формулирует habr.com. На Humanity's Last Exam модель без инструментов набирает 7,17, с инструментами — 13,90. Поиск почти удваивает результат.

Практические следствия для инженера: reasoning traces включены по умолчанию в chat template, и отключение даёт непоследовательное поведение на задачах, требующих рассуждений. Рекомендуемая температура — 0,1 с top-k и штрафом за повторения для чата, инструментов и кодинга; выше температура и top-p для математики и STEM. Это настройки, которые придётся выставить в коде, а не абстрактные рекомендации.

Экономика и развёртывание

Продакшен-профиль LFM3-1.7B выглядит убедительно: на одной B300 при 1024 параллельных запросах — 3,6 млрд токенов в сутки, примерно 42 000 токенов в секунду с одного ускорителя. Для массовых сценариев — классификация тикетов, извлечение полей, маршрутизация — это конкретная экономика. На Q4_0 в llama.cpp с 32K контекстом префилл минимум в 2,5 раза быстрее, декодинг минимум в 1,8 раза быстрее всех сравнимых моделей на всех трёх измеренных устройствах.

Экосистема подхватила модель быстро: поддержка в Ollama появилась через день после анонса — v0.40.12 для Apple 26 октября, v0.40.13 для Linux и Windows 28 октября, включая TTS в аудио-моделях. Форматы — BF16, FP8, NVFP4, GGUF, MLX, ONNX. Дообучение на одной GPU через TRL: SFT, DPO, GRPO, continued pretraining.

Есть и скрытое ограничение. LFM Open License v1.0 — собственная лицензия Liquid. «Open-weight» не значит «бесплатно для всех»: компаниям с годовой выручкой выше 10 млн долларов нужно отдельное коммерческое соглашение. Для российских компаний это дополнительный барьер, который стоит проверить до запуска в продакшен.

Отдельная линия — decision-модели d1-2B и d1-Omni-2B: типизированные ответы (да/нет, выбор, оценка, точка) с калиброванными вероятностями за один прямой проход. Цена API — 0,02 доллара за миллион входных токенов, без платы за выход.

Что из этого следует

LFM3 — ответ на вопрос, что делать, когда большие модели слишком дороги для массовых агентных сценариев. Ответ Liquid: спроектировать архитектуру под железо и агентный паттерн, а не под бенчмарк.

Практическое правило простое. Если в стеке есть агент, который в основном вызывает инструменты, — LFM3-1.7B стоит прогнать на своих сценариях рядом с текущей моделью, особенно если важны стоимость за токен, приватность и латентность. Если задача — знания и длинные рассуждения, маленькая модель не спасёт: нужна связка с поиском или большая модель.

Главный вывод не в цифрах бенчмарков, а в смене механики. Для маленьких моделей инструменты — не дополнение, а основной способ существования. Инженеру важно понимать, какая именно задача перед ним: та, где модель должна думать, или та, где она должна действовать. LFM3 создана для второй.