https://fanjiajia.top/news/追踪开源大模型与语音模型动态：新模型发布、本地部署生态、推理框架、微调工具链zh-CNhttps://fanjiajia.top/news/article/026-glb-3d-coder-4b-final-release.htmlhttps://fanjiajia.top/news/article/026-glb-3d-coder-4b-final-release.htmlSat, 07 Nov 2026 00:00:00 GMTccore 开源 GLB-3D-Coder 4B 最终版：Qwen3.5-4B 微调模型按文字描述生成 Three.js 页面，一键导出 GLB 资产进 Godot/Blender/Unity，3,918 例训练数据集同步放出，Apache 2.0。3D生成游戏开发开源模型代码生成Three.jsGodot https://fanjiajia.top/news/article/025-kimi-k3-1-pro-weights.htmlhttps://fanjiajia.top/news/article/025-kimi-k3-1-pro-weights.htmlFri, 06 Nov 2026 00:00:00 GMTKimi K3.1 Pro 兑现 10 月 24 日开源承诺：2.8T 总参/104B 激活的 MoE 权重以 MXFP4 量化形态上架 HuggingFace（96 分片共约 1.5TB），魔搭镜像同步就绪；官方推荐 vLLM/SGLang/TokenSpeed，llama.cpp 文本模型 PR 已开，Ollama 暂只收云版。Kimi月之暗面开源模型量化 https://fanjiajia.top/news/article/024-llama-cpp-v090-fp8-kv-cache.htmlhttps://fanjiajia.top/news/article/024-llama-cpp-v090-fp8-kv-cache.htmlThu, 05 Nov 2026 00:00:00 GMTllama.cpp v0.9.0 收录 OCP FP8 E4M3 量化类型与 flash_attn_ext_rows 算子——后者把多序列推理的 unified KV cache prefill 提速约 2.5–2.9 倍（官方 RTX Pro 6000 实测）；同期收录 Clover、Metis-1.6、Mistral Large 4 等四个新架构与 Chatterbox TTS、Nemotron 3.5 Transcribe 音频支持。llama.cpp本地部署推理优化量化 https://fanjiajia.top/news/article/023-reflection-beam-ama-recap.htmlhttps://fanjiajia.top/news/article/023-reflection-beam-ama-recap.htmlWed, 04 Nov 2026 00:00:00 GMTReflection 在 r/LocalLLaMA 办首场产品团队 AMA：披露 23.8T 预训练 token、1 亿+ RL 轨迹、滑动窗口注意力架构细节；小模型呼声最高但官方只说「探索中」，技术报告与研究团队 AMA 在路上。ReflectionBeamAMA开源模型MoE https://fanjiajia.top/news/article/022-qwen-apsara-open-source-commitment.htmlhttps://fanjiajia.top/news/article/022-qwen-apsara-open-source-commitment.htmlWed, 04 Nov 2026 00:00:00 GMT针对「Qwen4 之后转闭源 API」的社区传言，Qwen 在云栖大会重申「坚持开源开放，实现 AI 普惠」，公布 30 亿累计下载、460 余款官方开源模型；官方 qwen-code 仓库同时确认 qwen4 全系模型 ID 已在内部使用。Qwen开源云栖大会Qwen4 https://fanjiajia.top/news/article/021-betelgeuse-3060-12gb-qwen-flash-next.htmlhttps://fanjiajia.top/news/article/021-betelgeuse-3060-12gb-qwen-flash-next.htmlMon, 02 Nov 2026 00:00:00 GMT开发者发布 llama.cpp 定制分支 Betelgeuse：RTX 3060 12GB＋16GB DDR4 单通道内存实测 Qwen3.8-Flash-Next IQ2_XS 量化重复负载 22 tok/s，24,576 个路由专家全部参与计算、输出与 stock 引擎逐字节一致；专家权重 4KB 对齐留盘按需分页，同硬件 stock 引擎基线仅 0.9 tok/s。本地部署MoEllama.cppNVMe offloadRTX 3060 https://fanjiajia.top/news/article/020-mistral-large-4-open-weights.htmlhttps://fanjiajia.top/news/article/020-mistral-large-4-open-weights.htmlSat, 31 Oct 2026 00:00:00 GMTMistral 开放万亿参数开源旗舰 MoE「Le Chonk」：1.05T 总参、52B 激活、1M 上下文、原生多模态，GGUF 最小档 217GB，魔搭国内镜像已就位。Mistral开源模型MoE本地部署多模态 https://fanjiajia.top/news/article/019-liquidai-lfm3-family-local-inference.htmlhttps://fanjiajia.top/news/article/019-liquidai-lfm3-family-local-inference.htmlThu, 29 Oct 2026 00:00:00 GMTLiquidAI LFM3 家族六个 2B 档开放模型这周放齐，Ollama 与 llama.cpp 都已收录；1.7B 文本模型 4-bit 约占 1GB 内存、256K 上下文，10 月 29 日起 Windows/Linux 可跑，GGUF 累计下载超 13 万。开源模型本地部署多模态语音 https://fanjiajia.top/news/article/018-nanbeige4-3-33b-512k-agent.htmlhttps://fanjiajia.top/news/article/018-nanbeige4-3-33b-512k-agent.htmlTue, 27 Oct 2026 00:00:00 GMTBOSS直聘旗下 Nanbeige 实验室开源 33B 稠密 agent 模型 Nanbeige4.3-33B：标准 llama 架构、512K 上下文、Apache-2.0，官方自报 Terminal-Bench 2.1 得分 80.9；量化版隔日铺满，bartowski GGUF 两天 6.2 万下载。同周上海 AI 实验室 744B MoE agentic 模型 Atria-Dawn 发布正式版。开源模型agent本地部署GGUF https://fanjiajia.top/news/article/017-lean-qwenflash-125b-nvme-offload.htmlhttps://fanjiajia.top/news/article/017-lean-qwenflash-125b-nvme-offload.htmlMon, 26 Oct 2026 00:00:00 GMTReddit 开发者把 sybil 的 GLM-5.3 NVMe offload 方案适配到 Qwen3.8-Flash-Next：125B 全量专家经 O_DIRECT 从 NVMe 流入 GPU 计算，RTX 4090 在 16GB 显存加 8GB 内存下跑满 262K 上下文，生成 20 tok/s、预填充约 1,600 tok/s。本地部署MoENVMe offloadExLlamaV3 https://fanjiajia.top/news/article/016-8gb-262k-coder-llamacpp.htmlhttps://fanjiajia.top/news/article/016-8gb-262k-coder-llamacpp.htmlSun, 25 Oct 2026 00:00:00 GMTISTA-DASLab 把 176.9B 的 Qwen3.8-Flash-Next 剪掉一半专家、按 3.5bpw 存储压到 29.6GB 常驻；社区用 llama.cpp 在 8GB 显存+24GB 内存分层装载，跑通 262K 上下文，预填充 104 T/s、生成 8 T/s。llama.cppMoE量化本地部署 https://fanjiajia.top/news/article/015-ollama-v04011-macos-tts.htmlhttps://fanjiajia.top/news/article/015-ollama-v04011-macos-tts.htmlSun, 25 Oct 2026 00:00:00 GMTOllama 语音合成一周补完三平台：v0.40.11 起 macOS 真正可用，Phonon 模型 104MB 起；本文汇总终端与 API 用法、输入限制现状，及同版收录的 d3 决策模型家族。OllamaTTSmacOS本地部署 https://fanjiajia.top/news/article/014-kimi-k31-pro-28t-1m-context.htmlhttps://fanjiajia.top/news/article/014-kimi-k31-pro-28t-1m-context.htmlSat, 24 Oct 2026 00:00:00 GMT月之暗面 10 月 24 日凌晨发布 Kimi K3.1 Pro：2.8 万亿总参、约 104B 激活的 MoE，1M token 上下文，API 与产品已上线，完整权重拟 11 月 4 日前开源。Kimi月之暗面开源模型MoE https://fanjiajia.top/news/article/013-ollama-v0409-phonon-local-tts.htmlhttps://fanjiajia.top/news/article/013-ollama-v0409-phonon-local-tts.htmlSat, 24 Oct 2026 00:00:00 GMTOllama v0.40.9 接入 Gradium 的 Phonon TTS 家族，ollama run 边生成边播放，新增 OpenAI 兼容 /v1/audio/speech 流式端点；模型 104MB 起，发布说明标注 Apple Silicon。OllamaTTS语音合成本地部署 https://fanjiajia.top/news/article/012-open-source-models-local-llm-starter-guide.htmlhttps://fanjiajia.top/news/article/012-open-source-models-local-llm-starter-guide.htmlFri, 23 Oct 2026 00:00:00 GMT开源模型与本地大模型实操入门：Ollama 安装步骤与常用命令、家用主机各档位可跑模型清单（问答写作/代码/语音合成/生图）、ComfyUI 本地生图上手与全部下载地址。开源模型本地大模型本地部署OllamaComfyUI https://fanjiajia.top/news/article/011-ling-30-flash-sante-124b-medical-moe.htmlhttps://fanjiajia.top/news/article/011-ling-30-flash-sante-124b-medical-moe.htmlFri, 23 Oct 2026 00:00:00 GMT蚂蚁 inclusionAI 开源医疗专用模型 Ling-3.0-flash-Sante：124B 总参、5.1B 激活的 KDA+MoE 混合架构，256K 上下文，MIT 许可，bf16 权重共 255GB。开源模型MoE医疗AI本地部署蚂蚁 https://fanjiajia.top/news/article/010-kitten-tts-2-158bit-cpu-tts.htmlhttps://fanjiajia.top/news/article/010-kitten-tts-2-158bit-cpu-tts.htmlThu, 22 Oct 2026 00:00:00 GMTKittenML 发布 KittenTTS 2：1.7B 参数、1.58-bit 三值权重的语音模型，约 6GB 内存纯 CPU 实时出声，支持零样本克隆、20 种语言（含中文）与情绪控制，权重采用有限商业许可。TTS语音合成本地部署开源模型 https://fanjiajia.top/news/article/009-samsung-2027-hbm-fully-committed.htmlhttps://fanjiajia.top/news/article/009-samsung-2027-hbm-fully-committed.htmlWed, 21 Oct 2026 00:00:00 GMT三星 2027 年 HBM 计划产量全部获供应承诺，整体内存约 80% 已锁定；TrendForce 预计 2027 年 HBM 均价上涨 121%。HBM三星存储内存涨价 https://fanjiajia.top/news/article/008-llama-cpp-v070-decode-speedup.htmlhttps://fanjiajia.top/news/article/008-llama-cpp-v070-decode-speedup.htmlTue, 20 Oct 2026 00:00:00 GMTllama.cpp v0.7.0 上车主机内存 MoE 专家 GPU 缓存（专家卸载场景解码最高约 2.2 倍）与 LiliCorr 投机解码，收录 EmbeddingGemma-2 等十余款新模型；服务器默认端口由 8080 改为 9931，Docker 容器内不变。llama.cpp本地部署推理优化MoE https://fanjiajia.top/news/article/007-ollama-v0407-rc0-responses-effort.htmlhttps://fanjiajia.top/news/article/007-ollama-v0407-rc0-responses-effort.htmlMon, 19 Oct 2026 00:00:00 GMTOllama v0.40.7-rc0 修复 Responses 客户端切到非思考模型时残留 effort 参数导致整轮报错的问题，另含投机草稿类型自动推断与 Perplexity PPLX Decider 1.2 的 MLX 支持；正式版尚未发布。Ollama本地部署API https://fanjiajia.top/news/article/006-deepseek-v41-flash-1017-open-weights.htmlhttps://fanjiajia.top/news/article/006-deepseek-v41-flash-1017-open-weights.htmlSun, 18 Oct 2026 00:00:00 GMTDeepSeek 10 月 17 日开源 V4.1-Flash-1017 小版本：552B MoE、MIT 许可、免 gated，Agent/编码/视觉 11 项基准全面上涨（Terminal-Bench 31.2→42.3），任务更快更省；魔搭 HF 同步上架。DeepSeek开源大模型多模态MoEAgent https://fanjiajia.top/news/article/005-meta-muse-spark-open-816b.htmlhttps://fanjiajia.top/news/article/005-meta-muse-spark-open-816b.htmlSun, 18 Oct 2026 00:00:00 GMT2026 年 10 月 15 日——Meta 开源新一代多模态旗舰 Muse Spark Open 权重：816B 总参数、42B 激活的 MoE 架构，1M 上下文，支持文本、图像、视频、音频输入；官方给出两台 Mac Studio 全量运行方案，魔搭次日挂出镜像。开源大模型多模态MoEMeta本地部署