啥是ollama?
Ollama 是一个开源的大型语言模型(LLM)服务工具,专为简化在本地运行大语言模型而设计。它允许用户在个人计算机或服务器上快速部署和管理多种开源大语言模型,如 Llama3、Phi3、Gemma2 等,而无需依赖昂贵的云服务或专业的技术背景。Ollama 支持跨平台安装,包括 Windows、macOS 和 Linux 系统,提供了图形用户界面和命令行工具,方便用户与模型进行交互。此外,Ollama 还支持模型的定制和扩展,用户可以通过修改 Modelfile 文件来调整模型参数或添加特定的系统提示,以满足不同的应用场景需求。
说人话
ollama是一个工具,可以帮你特别简单地部署一个本地的大模型。
实操
咱先试试这个windows下的效果哈。
如上图所示,它就会下载这个一个.exe的文件,我们下载完成后,