本文提供了一种简单方法在本地部署Llama3模型，实现类似ChatGPT的问答效果。通过两个步骤安装Ollama客户端和Llama3，用户可以在个人电脑上运行80亿参数的Llama3模型，享受快速响应的对话体验。
你好，我是郭震
现在还没有用上ChatGPT的朋友，现在平替方法来了，在本地部署大模型。实现与GPT几乎一样的问答效果！
这是一篇关于大模型本地部署的教程，使用目前最强开源大模型LlaMA3，这篇先总结一种最简单、操作步骤最精简的本地部署方法。主要有2步。
2024年4月19日，Meta公司发布Llama3，共有8B，70B两种参数，分为基础预训练和指令微调两种模型。与Llama2相比，Llama3使用了15Ttokens的训练数据，在推理、数学、代码生成、指令跟踪等能力获得大幅度提升。
使用完全免费。
步骤1：安装Ollama
Ollama可以简单理解为客户端，实现和大模型的交互。ollama软件win和mac都包括：
在这里已经为大家准备好，只需要在我的公众号回复消息：ollama，就能下载到软件。
下载之后打开，直接点击Next以及Install安装ollama，安装步骤非常简单。
步骤2：安装Llama
下载Llama3，打开新的终端/命令行窗口，执行以下命令：
ollama run llama3程序会自动下载Llama3的模型文件，默认是8B，也就80亿参数版本，个人电脑完全可以运行。</
最低0.47元/天 解锁文章
扫一扫
6830
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
