Ollama 本地模型#

为什么要学本地模型#

本地模型能帮助你理解：

• 模型可以不依赖网页产品运行。
• 不同模型对硬件要求不同。
• 推理速度和机器配置密切相关。
• 隐私和可控性会更强。
• 本地模型也可以接入应用。

Ollama 适合什么#

• 快速体验开源模型。
• 本地测试 Prompt。
• 做离线 Demo。
• 学习模型部署的基本概念。
• 在隐私要求较高的环境中探索方案。

不适合一开始就拿来做所有生产任务，因为效果、速度、并发和稳定性仍需要评估。

初学路径#

1. 安装 Ollama。
2. 拉取一个轻量模型。
3. 在命令行里对话。
4. 尝试本地 API。
5. 把它接入自己的小工具。
6. 对比本地模型和云端模型的输出差异。

本地模型的关键限制#

• 电脑显存或内存不足时会很慢。
• 小模型能力有限。
• 中文、代码、推理能力因模型而异。
• 多用户并发需要额外工程能力。

最小练习#

用本地模型完成一个简单任务：

1
请把下面这段开发笔记整理成 5 条待办事项：
2
{notes}

再用云端模型做同样任务，对比速度、质量和成本。

参考资料#

• Ollama 官网：https://ollama.com/