大模型QWQ-32B本地部署教程

步骤一：安装灵魂工具Ollama
■官网下载直通车：https://ollama.com

操作就像安装QQ一样简单，点击Download
1.双击下载的.exe安装包
2．狂点「下一步」直到完成

步骤二：回到ollama的官网，搜索框里搜索qwq，选择要安装的模型

只有一个32b版本，需要20G存储空间，至少32G运行内存，一张H100或者RXT8090即可

步骤三：复制右边的这串代码"ollama run qwq”

步骤四：安装模型
按下键盘上的win+R，调出运行窗口，输入cmd回车，调出命令行窗口。

把复制的代码“ollama run qwq”粘贴到命令行中，再点击回车，如下图所示。

跑到了100%之后，就代表安装完成了，就可以和他对话了。

步骤四：安装可视化工具：chatbox
是时候告别黑乎乎的窗口了！咱们请出颜值担当：
ChatBox客户端
【官网直达:https://chatboxai.app

安装姿势：
1.点击免费下载后，解压后双击ChatBoxSetup.exe
2.自定义安装路径（别放C盘！建议装D盘）
3. Chatbox安装好后，打开后，选择“使用自己的API Key或本地模型”。

点击右下角的设置，设置好模型，选择OllamaAPI，最后选择已经安装好的模型就可以了。