LiquidAI LFM3 家族进入 Ollama 与 llama.cpp:1.7B 起六个模型,Windows/Linux 可跑
Liquid AI 从 10 月 19 日起陆续把 LFM3 家族挂上 HuggingFace,十天内两家本地推理引擎都完成了支持:10 月 27 日 Ollama v0.40.12 收录全家族,10 月 28 日 llama.cpp v0.8.0 跟进,10 月 29 日 Ollama v0.40.13 把支持范围从 Apple silicon 扩到 Windows 和 Linux。截至 10 月 29 日晚,家族 GGUF 量化版累计下载超过 13 万次。
家族里的六个模型
这一代全系从 LFM3-1.7B-Base 分出,参数量都在 2B 档:
| 模型 | 输入 | 输出 | 上架时间 |
|---|---|---|---|
| LFM3-1.7B | 文本 | 文本 | 10-23(Base 版 10-26) |
| LFM3-VL-2B | 文本、图像、视频 | 文本 | 10-19 |
| LFM3-Audio-2B | 文本、音频 | 文本、语音 | 9-08 |
| LFM3-Omni-2B | 文本、图像、视频、音频 | 文本、语音 | 10-21 |
| d1-2B | 文本、图像、视频 | 校准答案 | 10-24 |
| d1-omni-2B | 文本、图像、视频、音频 | 校准答案 | 10-24 |
LFM3-1.7B 面向本地 agent 与结构化输出,官方针对 Hermes Agent、Pi、OpenClaw 等 agent 框架做了后训练。LFM3-Omni-2B 是该公司的第一个全模态模型,官方的说法是一个模型顶替 ASR、视觉语言、LLM、TTS 四个独立模型。d1 系列是决策模型,不做文本生成:给它一个场景和一组命名问题,它单次前向就给出全部答案,每个答案带校准概率,形式是 yes/no、选项、打分或数值区间。
截至 10 月 29 日实测,LFM3-1.7B-GGUF 下载 61,499、LFM3-VL-2B-GGUF 24,617、LFM3-Omni-2B-GGUF 23,510、LFM3-Audio-2B-GGUF 11,643,d1 系列 GGUF 合计约 1.2 万;六个模型的原始权重版合计约 2.8 万。
tri-hybrid 架构:24 层里 13 层是卷积
LFM3-1.7B-Base 共 24 层。架构搜索用硬件在环方法跑过 14 种设备与后端组合(手机、树莓派 5、笔电、云 CPU、GPU、高通 Hexagon NPU),最后的层配置是 13 层门控短卷积(卷积核 7,LFM2 为 3)、5 层滑动窗口注意力(窗口 256 token)、6 层全局注意力。短卷积层不用 KV cache,是 CPU 上跑得最快的部分。注意力头上有 sigmoid 门控(头级门控注意力),用来抑制伤害量化的激活离群值;全局注意力层只旋转每头频率最高的一半维度(部分 RoPE);每层输入输出各归一化一次(三明治归一化)。
基座预训练 22T token,最后 3.5T 是 mid-training 阶段:提高 agent 轨迹与工具调用数据占比,同时把上下文窗口扩到 256K。官方称,8K 上下文时 LFM3-1.7B 的每参数速度比 LFM2-1.2B 快约 25%。
视觉和音频各配了一个自研编码器。164M 参数的视觉编码器用卷积加注意力混合,比上代用的 SigLIP2 省 3 倍算力,与 Qwen3.5-2B 的视觉编码器精度相当但 FLOPs 少 2.2 倍;视频输入把相邻两帧合成一个时间片,时间序列长度减半。音频编码器全因果设计,用户说话时模型可以同步 prefill,首 token 延迟低至 50ms;配套的 LiquidCodec 音频 tokenizer 在 Apple M4 Max 单 CPU 线程上以约 87 倍实时速度解码,支持流式输出。
官方自报成绩
以下均为官方口径,暂未见独立复测:
- LFM3-1.7B 参数比上代 LFM2.5-2.6B 少 35%,性能反超;agent 任务差距最大,WebArena-Verified 得分 38.42 对 3.02,浏览器与商业应用的长任务里超过 Qwen3.5-9B。
- LFM3-VL-2B 视觉理解 62 项基准平均分从上代 LFM2.5-VL-3B 的 57.6 提到 71.4,与参数大六倍的 Gemma 4 12B 持平;它是 LFM 家族第一个接受视频输入的视觉模型。
- LFM3-Audio-2B 语音质量 UTMOSv2 得分 3.83(上代 3.22),支持 18 种语言的语音识别、合成与翻译。
- LFM3-Omni-2B 在音频-视觉视频理解上(Daily-Omni、WorldSense、AV-SpeakerBench)超过对比模型,其中参数最大的有 10.7B(含 Qwen2.5-Omni-7B)。
- d1-2B 替代上代 d1-3B,参数少三分之一,四个决策基准全面更高(ImajevBench 75.5 对 64.0)。
Ollama 与 llama.cpp 先后收录
Ollama 在 v0.40.12(10 月 27 日)把全家族收进官方模型库:lfm3(1.7B 文本,256K 上下文)、lfm3-vl、lfm3-audio(18 语言语音识别、翻译与合成)、lfm3-omni,同版还收录了基于 LFM3 的 d1 2B 决策模型。当时仅 Apple silicon 可用;v0.40.13(10 月 29 日凌晨)补上 Linux 与 Windows,ollama run lfm3 三大平台都能跑。
llama.cpp 这边,v0.8.0(10 月 28 日)大版本合入了 LFM3 全家族:LFM3-1.7B 与 LFM3-VL-2B 已对照官方 HF 实现验证(PR #31252),LFM3-Audio-2B 与 LFM3-Omni-2B 单模型覆盖语音识别、合成与语音对话,流式音频输入输出走新的实验性 mtmd_audio_stream API(PR #31257)。server 新增 /v1/realtime 与 /tts 两个端点,实时音频可以进出 llama-server。这个版本还带了从 HF Hub 直接浏览下载模型的 UI。LFM3 之外,v0.8.0 同批新增 DeepSeek V4.1 Flash、Flint、Muse Spark 等架构支持。
五种量化格式,4-bit 约 1GB
量化版两周内出齐 GGUF、MLX(Mac 用,4/5/6/8-bit 全档)、ONNX、FP8 和 NVFP4 五种格式。官方口径下 LFM3-1.7B 在 4-bit 精度约占 1GB 内存,手机与笔记本都装得下,2B 档的多模态模型也在同一量级。官方给出十个微调 notebook(SFT/DPO/GRPO/CPT 四种方法),全部单 GPU 可跑,示例包括从混乱文档抽 JSON、带 108 个工具的函数调用、教模型学新语言和新音色。
决策模型与机器人方向
d1 系列用在管线里做快判断:客服工单分类、发票字段抽取、看界面截图下结论。这类判断只需要一次前向,不用跑完整的文本生成。官方还从 LFM3-VL-2B 改出三个机器人模型(调度、导航、操作),其中操作 VLA 模型跨 15 种机器人本体联合训练,LIBERO 四套件平均成功率 96.2%,在 Jetson AGX Orin 上用 TensorRT FP16 生成动作块耗时低于 50ms。
参考链接
- LFM3 发布博客(Liquid AI 官方):https://www.liquid.ai/blog/lfm3
- LFM3 发布博客(HuggingFace 版):https://huggingface.co/blog/LiquidAI/lfm3
- LFM3 家族模型集合(HuggingFace):https://huggingface.co/collections/LiquidAI/lfm3
- LFM3-1.7B 模型卡:https://huggingface.co/LiquidAI/LFM3-1.7B
- LFM3-Omni-2B 模型卡:https://huggingface.co/LiquidAI/LFM3-Omni-2B
- Ollama v0.40.12 release:https://github.com/ollama/ollama/releases/tag/v0.40.12
- Ollama v0.40.13 release:https://github.com/ollama/ollama/releases/tag/v0.40.13
- llama.cpp v0.8.0 release:https://github.com/ggml-org/llama.cpp/releases/tag/v0.8.0
- llama.cpp LFM3 文本与视觉支持 PR:https://github.com/ggml-org/llama.cpp/pull/31252
- llama.cpp LFM3 音频与全模态支持 PR:https://github.com/ggml-org/llama.cpp/pull/31257