大多数人在 Ollama 上只会 pull 和 run。其实一个 Modelfile 就能让本地模型拥有固定人设、稳定参数和专属行为。

很多人的本地大模型之旅止步于两条命令:ollama pull 和 ollama run。这当然能用,但你每次都要重复粘贴一堆提示词,模型的语气和格式也飘忽不定。Ollama 自带的 Modelfile 就是解决这个问题的:它把"用什么底座、什么人设、什么参数"打包成一个可复用的模型。
Modelfile 是什么
可以把 Modelfile 理解成一份"模型配方"。你不用训练模型,只要用几行指令声明:基于哪个已有模型(FROM)、默认系统提示词是什么(SYSTEM)、生成参数如何设置(PARAMETER)、对话模板长什么样(TEMPLATE)。写好之后执行 ollama create 起名,就得到一个属于你的模型,之后 ollama run 这个名字即可。
三个真正有用的指令
- SYSTEM:写进固定人设和输出规范,比如"你是严谨的技术助手,回答分点,不确定的地方明确说不知道"。放在这里比每次对话开头粘贴可靠得多。
- PARAMETER:调节 temperature、top_p、num_ctx 等。要稳定、可复现的输出就把 temperature 调低;要更有创造性再调高。num_ctx 决定上下文窗口大小,调大更耗显存。
- ADAPTER:如果你做过 LoRA 微调,可以把适配器叠加到底座模型上,而不必合并权重。
一个可复用的小流程
先 ollama show 查看现有模型的模板和参数作为起点,别从零猜;据此写一份 Modelfile;用 ollama create 生成新模型并起一个能自解释的名字,比如 doc-assistant-zh;然后用一个固定问题连测几次,看输出是否稳定。稳定了再投入日常使用。这个"看—改—建—测"的循环,比反复手调提示词高效得多。
几个常见的坑
第一,改了 num_ctx 却没意识到显存占用会随之上升,小显存机器容易卡顿甚至加载失败。第二,系统提示词写得过长,反而挤占有效上下文。第三,模型跑得慢直接怪 Ollama,实际可能是选了远超硬件能力的模型尺寸——工具的流畅度,很多时候取决于你是否选对了模型大小。
结论:Ollama 的价值不只是"本地能跑",而是能用 Modelfile 把一次性调校固化成稳定资产。把人设和参数沉淀进模型,是从玩票走向实用的关键一步。
皮皮 AI 导航
AI 工具榜