开源模讯 开源大模型 · 语音模型 · 本地部署

ccore 开源 GLB-3D-Coder 4B 最终版：Qwen3.5-4B 微调模型按文字描述生成 Three.js 页面，一键导出 GLB 资产进 Godot/Blender/Unity，3,918 例训练数据集同步放出，Apache 2.0。

Kimi K3.1 Pro 兑现 10 月 24 日开源承诺：2.8T 总参/104B 激活的 MoE 权重以 MXFP4 量化形态上架 HuggingFace（96 分片共约 1.5TB），魔搭镜像同步就绪；官方推荐 vLLM/SGLang/TokenSpeed，llama.cpp 文本模型 PR 已开，Ollama 暂只收云版。

llama.cpp v0.9.0 收录 OCP FP8 E4M3 量化类型与 flash_attn_ext_rows 算子——后者把多序列推理的 unified KV cache prefill 提速约 2.5–2.9 倍（官方 RTX Pro 6000 实测）；同期收录 Clover、Metis-1.6、Mistral Large 4 等四个新架构与 Chatterbox TTS、Nemotron 3.5 Transcribe 音频支持。

Reflection 在 r/LocalLLaMA 办首场产品团队 AMA：披露 23.8T 预训练 token、1 亿+ RL 轨迹、滑动窗口注意力架构细节；小模型呼声最高但官方只说「探索中」，技术报告与研究团队 AMA 在路上。

针对「Qwen4 之后转闭源 API」的社区传言，Qwen 在云栖大会重申「坚持开源开放，实现 AI 普惠」，公布 30 亿累计下载、460 余款官方开源模型；官方 qwen-code 仓库同时确认 qwen4 全系模型 ID 已在内部使用。

开发者发布 llama.cpp 定制分支 Betelgeuse：RTX 3060 12GB＋16GB DDR4 单通道内存实测 Qwen3.8-Flash-Next IQ2_XS 量化重复负载 22 tok/s，24,576 个路由专家全部参与计算、输出与 stock 引擎逐字节一致；专家权重 4KB 对齐留盘按需分页，同硬件 stock 引擎基线仅 0.9 tok/s。

Mistral 开放万亿参数开源旗舰 MoE「Le Chonk」：1.05T 总参、52B 激活、1M 上下文、原生多模态，GGUF 最小档 217GB，魔搭国内镜像已就位。

LiquidAI LFM3 家族六个 2B 档开放模型这周放齐，Ollama 与 llama.cpp 都已收录；1.7B 文本模型 4-bit 约占 1GB 内存、256K 上下文，10 月 29 日起 Windows/Linux 可跑，GGUF 累计下载超 13 万。

BOSS直聘旗下 Nanbeige 实验室开源 33B 稠密 agent 模型 Nanbeige4.3-33B：标准 llama 架构、512K 上下文、Apache-2.0，官方自报 Terminal-Bench 2.1 得分 80.9；量化版隔日铺满，bartowski GGUF 两天 6.2 万下载。同周上海 AI 实验室 744B MoE agentic 模型 Atria-Dawn 发布正式版。

Reddit 开发者把 sybil 的 GLM-5.3 NVMe offload 方案适配到 Qwen3.8-Flash-Next：125B 全量专家经 O_DIRECT 从 NVMe 流入 GPU 计算，RTX 4090 在 16GB 显存加 8GB 内存下跑满 262K 上下文，生成 20 tok/s、预填充约 1,600 tok/s。

ISTA-DASLab 把 176.9B 的 Qwen3.8-Flash-Next 剪掉一半专家、按 3.5bpw 存储压到 29.6GB 常驻；社区用 llama.cpp 在 8GB 显存+24GB 内存分层装载，跑通 262K 上下文，预填充 104 T/s、生成 8 T/s。

Ollama 语音合成一周补完三平台：v0.40.11 起 macOS 真正可用，Phonon 模型 104MB 起；本文汇总终端与 API 用法、输入限制现状，及同版收录的 d3 决策模型家族。

月之暗面 10 月 24 日凌晨发布 Kimi K3.1 Pro：2.8 万亿总参、约 104B 激活的 MoE，1M token 上下文，API 与产品已上线，完整权重拟 11 月 4 日前开源。

Ollama v0.40.9 接入 Gradium 的 Phonon TTS 家族，ollama run 边生成边播放，新增 OpenAI 兼容 /v1/audio/speech 流式端点；模型 104MB 起，发布说明标注 Apple Silicon。

开源模型与本地大模型实操入门：Ollama 安装步骤与常用命令、家用主机各档位可跑模型清单（问答写作/代码/语音合成/生图）、ComfyUI 本地生图上手与全部下载地址。

蚂蚁 inclusionAI 开源医疗专用模型 Ling-3.0-flash-Sante：124B 总参、5.1B 激活的 KDA+MoE 混合架构，256K 上下文，MIT 许可，bf16 权重共 255GB。

KittenML 发布 KittenTTS 2：1.7B 参数、1.58-bit 三值权重的语音模型，约 6GB 内存纯 CPU 实时出声，支持零样本克隆、20 种语言（含中文）与情绪控制，权重采用有限商业许可。

三星 2027 年 HBM 计划产量全部获供应承诺，整体内存约 80% 已锁定；TrendForce 预计 2027 年 HBM 均价上涨 121%。

llama.cpp v0.7.0 上车主机内存 MoE 专家 GPU 缓存（专家卸载场景解码最高约 2.2 倍）与 LiliCorr 投机解码，收录 EmbeddingGemma-2 等十余款新模型；服务器默认端口由 8080 改为 9931，Docker 容器内不变。

Ollama v0.40.7-rc0 修复 Responses 客户端切到非思考模型时残留 effort 参数导致整轮报错的问题，另含投机草稿类型自动推断与 Perplexity PPLX Decider 1.2 的 MLX 支持；正式版尚未发布。

DeepSeek 10 月 17 日开源 V4.1-Flash-1017 小版本：552B MoE、MIT 许可、免 gated，Agent/编码/视觉 11 项基准全面上涨（Terminal-Bench 31.2→42.3），任务更快更省；魔搭 HF 同步上架。

2026 年 10 月 15 日——Meta 开源新一代多模态旗舰 Muse Spark Open 权重：816B 总参数、42B 激活的 MoE 架构，1M 上下文，支持文本、图像、视频、音频输入；官方给出两台 Mac Studio 全量运行方案，魔搭次日挂出镜像。