看懂大模型榜单:评测基准的分数、陷阱和正确用法
几乎每天都有"新模型登顶某榜单"的消息。但照着榜单选模型,很可能踩坑:同一个模型在 A 榜第一、在 B 榜中游,甚至在真实任务里表现平平。这篇讲清楚评测基准到底测了什么、分数为何会失真,以及该怎么用它。 基准测的是"能力…
RoPE 位置编码通俗解读:大模型怎么知道”谁在前、谁在后”
大模型读一句话时,并不是从左到右一个个读——它把整句话同时看进去。那它怎么知道"我"在"你"前面?答案是一种叫"位置编码"的机制,而当下主流模型(Llama、Qwen、Mistral 等)几乎都采用同一个方案:RoPE。…
KV Cache 通俗解读:长对话为什么又慢又贵,显存都被谁吃了
和同一个模型聊天,前几轮秒回,聊到几十轮后却越来越慢、显存还蹭蹭上涨?这背后多半是 KV Cache 在作怪。理解它,能帮你搞懂长对话为什么又慢又贵,以及该怎么优化。 为什么需要 KV Cache 大模型生成文本时,每吐…
商汤 Loop-9B 解读:让小模型「多想几轮」的循环复用层是怎么回事
大模型越来越大,但把参数堆上去的边际收益正在变贵。商汤科技发布的 SenseNova Loop-9B 提供了一条不同思路:不增加物理参数,而是让同一批层被反复使用,让小模型也能在难题上多想几步。据搜狐、网易等科技早报及 …
0.8B 也能调工具:Tether 开源 BotPsy 瞄准本地智能体
据 11 月中旬的模型发布信息,Tether AI Research 发布 BotPsy——一个参数量仅 8 亿(0.8B)的开源模型,目标是本地工具调用。这类超小模型的出现,正在改变"智能体必须有大模型支撑"的默认假设…
世界模型 PAN 2 解读:LLM 规划器加 29B 扩散 Transformer,把动作”预演”成视频
11 月 10 日,阿联酋 MBZUAI 基础模型研究所(IFM)开源世界模型 PAN 2,采用 Apache 2.0 许可。它的思路与主流语言模型不同:不只生成文字,而是模拟"做了某个动作之后世界会变成什么样"。 什么…
谷歌三档模型怎么选:Carbon、Hydrogen、Neon 各自解决什么问题
一个月内,谷歌 Gemini 4 家族连推多个型号:Carbon、Hydrogen,以及 11 月 19 日新发布的 Neon。面对三个名字,开发者最实际的问题是:我该用哪个? Carbon:复杂任务的深度处理 Carb…
Meta Muse Ember:每百万输入 0.10 美元的”执行层”模型有什么用
11 月 9 日,Meta 推出 Muse Ember,这是其 Muse 系列中体积最小、价格最低的模型,面向高频量的智能体工作:工具调用、请求路由、子智能体编码、信息抽取等。据公开定价,输入每百万词元 0.10 美元、…
同一模型,两套规则:Claude Fable 5.2 与 Mythos 5.2 到底差在哪
11 月 9 日,Anthropic 发布 Claude Fable 5.2 与 Claude Mythos 5.2。据公开信息,两者基于同一底层模型,定价均为每百万输入词元 8 美元、输出词元 40 美元,速度较 5.…
为什么中文更“费 Token”:分词器 Tokenizer 通俗解读
为什么同一段话,中文看起来比英文“更费 Token”?要回答这个问题,得先理解模型眼里的“字”——Token,以及把它切出来的工具:分词器(Tokenizer)。 Token 是什么 模型并不直接读文字,而是读一串编号。…
小模型是怎么“学会”大模型的:蒸馏原理通俗解读
旗舰大模型能力虽强,却难以塞进手机,也承受不了高频调用的成本。于是一种常见思路出现了:让小模型“拜师”大模型。这就是蒸馏——把大模型的能力迁移到更小、更便宜的模型里。 为什么要蒸馏 三个现实理由:成本,小模型推理更省算力…
Embedding 模型怎么选:别只盯着排行榜,先想清楚这四件事
做语义搜索或 RAG 知识库,很多人第一反应是"找个排行榜第一的 Embedding 模型"。但实际用下来常常发现:榜单很高,自己的效果却一般。原因很简单——榜单考的是通用任务,你的业务是另一回事。这篇讲清楚选 Embe…
皮皮 AI 导航
AI 工具榜