本地运行Llama3极简中文傻瓜式手把手教程，超越GPT4？能力如何？|-优快云博客

Ollama 在本地简单的运行llama

Ollama 是一个简化的工具，用于在本地运行开源 LLM，包括 Mistral 和 Llama 2。Ollama 将模型权重、配置和数据集捆绑到一个由 Modelfile 管理的统一包中。Ollama 支持各种 LLM，支持的模型如下：

Model	Parameters	Size
Llama 3	8B	4.7GB
Llama 3	70B	40GB
Mistral	7B	4.1GB
Dolphin Phi	2.7B	1.6GB
Phi-2	2.7B	1.7GB
Neural Chat	7B	4.1GB
Starling	7B	4.1GB
Code Llama	7B	3.8GB
Llama 2 Uncensored	7B	3.8GB
Llama 2 13B	13B	7.3GB
Llama 2 70B	70B	39GB
Orca Mini	3B	1.9GB
LLaVA	7B	4.5GB
Gemma	2B	1.4GB
Gemma	7B	4.8GB
Solar	10.7B	6.1GB

**地址:**https://ollama.com/

安装

网址：https://ollama.com/download

从官方网站下载 Ollama。
下载后，安装过程简单明了，与其他软件安装类似。对于 MacOS 和 Linux 用户，您可以使用一个命令安装 Ollama：

curl -fsSL https://ollama.com/install.sh | sh

windows 也支持预览版了，但是本博主在安装过程中失败，然后放弃采用了windows wsl 在ubuntu上运行，这个在后文介绍。

运行llama3

输入命令

ollama run llama3

界面显示如下，程序会把权重文件下载下来，默认下载的是llama3:8b。

下载完成，提示send a message ? 然后我们测试一个问题。

加个web ui来运行，更直观！

这里我采用了开源项目 open-webui，网址：https://github.com/open-webui/open-webui 。该项目的ui和chatgpt非常类似，截图如下：

我打算直接采用该项目的docker镜像来运行，简单快捷，假设你的电脑已经安装了docker.

下载open-webui docker镜像

docker pull ghcr.io/ollama-webui/ollama-webui:main

启动镜像

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果你遇到了连接问题，通常是因为 WebUI docker 容器无法访问容器内的 127.0.0.1:11434 (host.docker.internal:11434) 的 Ollama 服务器，使用 docker 命令中的 --network=host 标志来解决这个问题，注意端口从 3000 改为 8080，导致链接：http://localhost:8080 。

访问

输入地址 http://localhost:8080 进行访问，初次访问需要注册。

配置

你需要配置Ollama 访问url(配置成http://127.0.0.1:11434) 和选择模型，录屏如下：

，时长00:54

测试效果

，时长01:12

将 Ollama 与 Python 结合使用

您也可以将 Ollama 与 Python 一起使用。LiteLLM 是一个 Python 库，它提供了一个统一的接口来与各种 LLM 进行交互，包括 Ollama 运行的 LLM。要将 Ollama 与 LiteLLM 一起使用，您首先需要确保您的 Ollama 服务器正在运行。然后，您可以使用该函数向服务器发出请求。下面是如何执行此操作的示例：litellm.completion

from litellm import completion

response = completion(
model="ollama/llama3",
messages=[{ "content": "respond in 20 words. who are you?", "role": "user"}],
api_base="http://localhost:11434"
)

print(response)

和LlamaIndex、LangChain整合使用

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

Llamaindex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

补充资料

什么是WSL

不知道各位小伙伴是否有听说过wsl呢？wsl的全程是Windows Subsystem for Linux，也就是windows的linux子系统，也就是我们用再安装虚拟机或者双系统，可以在windows上顺畅的运行linux。

安装指南如下：https://learn.microsoft.com/zh-cn/windows/wsl/install

在WSL中安装cuda来加速模型

前提是你的显卡是英伟达的，可以安装用来加速模型的推理，否则就要靠cpu，回答的速度会降低很多！

安装指南参考：https://github.com/ashishpatel26/Cuda-installation-on-WSL2-Ubuntu-20.04-and-Windows11

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

在这里插入图片描述

二、AI大模型视频教程

在这里插入图片描述

三、AI大模型各大学习书籍

在这里插入图片描述

四、AI大模型各大场景实战案例

在这里插入图片描述

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。