logo 皮皮 AI 导航 AI 工具榜 不在思考里彷徨,就在工具里找答案
⌕
首页/AI 文章

AI 文章 · 把工具背后的原理讲清楚

模型选型、推理加速、RAG 与提示词的实战笔记,与 ev7.cn AI 博客同步更新,共 18 篇。

全部 AI 资讯 实战教程 工具评测 模型解读 AI 周报

基础模型、指令模型、推理模型:名字这么多,到底该怎么选

模型列表里挂着一堆名字:Base、Instruct、Chat、Reasoning……它们不是营销噱头,而是定位完全不同的三类模型。选错了,要么效果不对,要么白花钱。这篇把它们的分工讲清楚。 第一类:基础模型(Base) …

2026-11-17 · 14 次阅读

大模型”瘦身”是怎么回事:量化、INT8/INT4、GGUF 一次讲明白

同一个模型,为什么有的要几十 GB 显存,有的几 GB 就能跑?差别往往不在"模型不一样",而在"存法不一样"。这种把模型参数用更少比特存下来的技术,就叫量化。这篇用尽量通俗的方式讲清它省了什么、又牺牲了什么。 量化到底…

2026-11-17 · 12 次阅读

同为稀疏 MoE,为什么新一代模型能把成本压下来一大截

最近发布的几个大模型都在强调"总参数很大、激活参数很小"。这不是营销话术,而是 MoE(混合专家)架构的核心机制。搞清楚它,你就能看懂大部分成本宣传。 MoE 到底省在哪 传统稠密模型每处理一个 Token,全部参数都要…

2026-11-14 · 8 次阅读

开源模型怎么选:Qwen、DeepSeek、Kimi、Llama 的定位梳理

开源模型的名字越来越眼花缭乱。跑分榜天天在变,但对使用者来说,真正该看的是几个稳定的维度:中文能力、代码能力、推理成本、许可证是否允许商用。 Qwen 系列:中文与工具调用见长 阿里通义千问开源了覆盖多种参数规模的模型,…

2026-11-13 · 11 次阅读

本地跑大模型入门:Ollama 与 LM Studio 两条路线

本地跑模型的好处很实在:数据不出机器、不按 token 付费、断网也能用。硬件门槛也比想象中低——一块 8G 显存的显卡,甚至纯 CPU,就能跑起来可用的小模型。 路线一:Ollama,命令行爱好者的首选 安装后一条命令…

2026-11-10 · 9 次阅读

为什么”向量检索 + BM25 + 重排”成了知识库的标配

如果你搭的知识库问答"有时候很准、有时候离谱",问题多半出在检索环节。现在业内比较一致的答案是:混合检索加交叉编码器重排。拆开看,每一步解决的都是不同的问题。 三种检索各管一摊 BM25 关键词检索:擅长精确匹配专有名词…

2026-11-07 · 12 次阅读
上一页12下一页
↑