Ollama入门，Ollama技术架构与原理

Ollama系列文章：
Ollama入门，一键启动本地DeepSeek大模型
Ollama入门，Ollama技术架构与原理
Ollama进阶，在Python、Java、Go项目中集成Deepseek、QWQ大模型
Ollama进阶，在Javascript(nodejs)前后端项目中集成Deepseek、QWQ大模型
Ollama高手，玩转本地自定义大模型（LLM）
Ollama高手，调优Ollama环境变量，提高性能与安全性
Ollama高手，调优Ollama模型参数，提高模型输出质量

---

Ollama在AI大模型领域与风靡一时的应用容器引擎Docker有着相似的角色。对于熟悉Docker的小伙伴，接触到Ollama时就会发现Ollama 的 shell 命令和 Docker 极其相似，比如 Ollama 通过ollama pull下载模型、ollama run运行模型 ，类似 Docker 拉取和运行镜像的命令。设计理念层面上，Docker 把应用程序及其依赖打包成镜像，方便在不同环境中部署和运行；与之对应的Ollama 则把大语言模型集合在一个仓库中，用户可以便捷地管理和运行各种 AI 模型，就像 Docker 管理镜像一样管理模型。

1、Ollama中模型的运行过程

在 Ollama 中运行一个模型的过程涉及模型管理、加载、推理等多个环节。下面从技术角度详细介绍一个完整的模型运行流程。

STEP 1：运行入口：启动 Ollama

当你运行命令ollama run llama2时，Ollama 会执行以下步骤：

(1)命令解析
• 使用 Cobra 解析命令行参数。
• 判断是否是 run 命令，并读取指定的模型名称 (llama2)。

(2)API 调用
• 如果是通过 API 运行模型（如通过 RES