基础模型、指令模型、推理模型:名字这么多,到底该怎么选
模型列表里挂着一堆名字:Base、Instruct、Chat、Reasoning……它们不是营销噱头,而是定位完全不同的三类模型。选错了,要么效果不对,要么白花钱。这篇把它们的分工讲清楚。 第一类:基础模型(Base) …
2026-11-17
·
14 次阅读
大模型”瘦身”是怎么回事:量化、INT8/INT4、GGUF 一次讲明白
同一个模型,为什么有的要几十 GB 显存,有的几 GB 就能跑?差别往往不在"模型不一样",而在"存法不一样"。这种把模型参数用更少比特存下来的技术,就叫量化。这篇用尽量通俗的方式讲清它省了什么、又牺牲了什么。 量化到底…
2026-11-17
·
12 次阅读
同为稀疏 MoE,为什么新一代模型能把成本压下来一大截
最近发布的几个大模型都在强调"总参数很大、激活参数很小"。这不是营销话术,而是 MoE(混合专家)架构的核心机制。搞清楚它,你就能看懂大部分成本宣传。 MoE 到底省在哪 传统稠密模型每处理一个 Token,全部参数都要…
2026-11-14
·
8 次阅读
开源模型怎么选:Qwen、DeepSeek、Kimi、Llama 的定位梳理
开源模型的名字越来越眼花缭乱。跑分榜天天在变,但对使用者来说,真正该看的是几个稳定的维度:中文能力、代码能力、推理成本、许可证是否允许商用。 Qwen 系列:中文与工具调用见长 阿里通义千问开源了覆盖多种参数规模的模型,…
2026-11-13
·
11 次阅读
本地跑大模型入门:Ollama 与 LM Studio 两条路线
本地跑模型的好处很实在:数据不出机器、不按 token 付费、断网也能用。硬件门槛也比想象中低——一块 8G 显存的显卡,甚至纯 CPU,就能跑起来可用的小模型。 路线一:Ollama,命令行爱好者的首选 安装后一条命令…
2026-11-10
·
9 次阅读
为什么”向量检索 + BM25 + 重排”成了知识库的标配
如果你搭的知识库问答"有时候很准、有时候离谱",问题多半出在检索环节。现在业内比较一致的答案是:混合检索加交叉编码器重排。拆开看,每一步解决的都是不同的问题。 三种检索各管一摊 BM25 关键词检索:擅长精确匹配专有名词…
2026-11-07
·
12 次阅读
皮皮 AI 导航
AI 工具榜