免费、隐私、环保！Ollama本地AI优势多，你还不用？-优快云博客

Ollama——本地安装的友好型AI，你了解吗？

Ollama是一款易于使用、可本地安装的AI。使用这款应用程序带来的好处会让人惊喜。它不仅免费、注重隐私，还是开源的。虽然在AI领域，Ollama只是个小角色，但它的潜力远不止于此。这款可安装的AI具备一些ChatGPT等传统服务所没有的优势，正是这些优势让人不再使用传统服务。过去一年里，有人经常撰写关于Ollama的文章，现在觉得是时候分享一下选择使用这款应用程序而非其他产品的原因了。

（披露：ZDNET的母公司Ziff Davis于2025年4月对OpenAI提起诉讼，指控其在训练和运行AI系统时侵犯了Ziff Davis的版权。）

1. 什么是Ollama？

在探讨使用原因之前，先了解一下Ollama是什么。Ollama是一款免费的开源工具，可在计算机（Linux、MacOS或Windows）上下载安装。借助Ollama，可以直接在系统上运行大语言模型（LLMs）。需要考虑的主要问题是计算机的运行速度，因为AI运行需要相当大的算力。这并不意味着不能在中低端机器上使用它，但如果使用中低端硬件，运行速度会较慢，并且在处理查询时可能无法进行多任务操作。

不过，如果机器配备了Nvidia GPU，运行速度会更快（即使是中低端硬件），因为它可以将大量处理任务卸载到GPU上，让CPU处理其他事务。为了让Ollama运行流畅，系统至少应具备以下配置：

CPU：任何现代处理器
系统内存（RAM）：16GB
图形处理器（GPU，推荐）：显存8GB及以上的Nvidia GPU，或具备16GB及以上统一内存、支持自动GPU加速的Apple Silicon Mac（M1/M2/M3）

Ollama为MacOS和Windows提供了用户友好的图形用户界面（GUI），也可以通过命令行使用。在Linux系统上，可以使用Ollama的命令行界面（CLI），也有一些GUI工具（如Alpaca和Msty）可供使用。

使用Ollama，可以下载多种不同的大语言模型。有一个庞大的模型库可供下载，能找到DeepSeek、Gemma、Qwen、Mistral、Gpt - OSS、Llama等众多模型。

现在已经了解了Ollama是什么，接下来谈谈为什么应该使用它。

2. 免费

Ollama是免费的。自从开始使用它以来，从未为应用程序或模型支付过一分钱。只需安装Ollama，拉取一个模型，就可以开始使用。无需为应用程序、模型或使用付费，完全且永久免费。而且它还是开源的，这更是额外的福利。

3. 注重隐私

这对有些人来说非常重要。不会使用公共或盈利性AI，因为知道查询和回复可能会被第三方利用。盈利性AI背后的公司可以收集信息并用于各种目的，这是无法接受的。虽然查询时不会使用个人信息（主要用AI进行研究），但仍然不希望这些查询被收集并用于创建个人资料。就像选择注重隐私的浏览器一样，希望AI也尽可能私密，而Ollama是实现这一目标的唯一途径。

4. 不增加电网负担

应该听说过AI会消耗大量能源，对吧？本月国际数据中心管理局（ICDA）的一份报告指出，美国约6%的总用电量用于数据中心。“美国是目前全球最大的数据中心所在地，占全球数据中心耗电量的43%。美国的数据中心消耗29.2GW的电力，占全国用电量的6%。”

这份联合国报告详细阐述了大规模AI部署带来的环境问题。“大多数AI服务器存储在数据中心，这些数据中心会产生电子垃圾，并且可能含有汞和铅等有毒化学物质。数据中心在建设和冷却电子元件时还需要大量的水。”

通过使用本地安装的Ollama，避免了加剧这一问题。甚至可以进一步将Ollama安装在笔记本电脑上，仅使用电池供电。Ollama环保且不会给电网带来任何负担。

5. 更具灵活性

使用ChatGPT等服务时，能选择的大语言模型有限。而使用Ollama，可以轻松访问一个庞大的大语言模型库。甚至可以安装多个模型，并为每个查询选择合适的模型。这是大多数盈利性AI服务所不具备的灵活性。

6. 可在局域网使用

有人在局域网内的服务器上安装了一个Ollama实例。运行该实例后，可以使用基于Web的界面，也可以将本地GUI应用程序连接到服务器，这样就无需使用笔记本电脑或台式机的CPU/GPU。这是一个很棒的选择，因为将AI处理任务卸载到服务器上，意味着不必担心查询会让性能较弱的硬件陷入停滞。此外，只需在一台机器上安装Ollama，就可以在连接到局域网的所有设备上使用它。