1分钟部署LM Studio本地大模型（附教程）

为什么使用本地大语言模型

随着大语言模型 (LLM) 在各种场景中的广泛应用,许多人希望能在本地运行这些模型,从而享受更低的延迟、隐私保护和无需支付 API 费用等好处。

虽然训练这些庞大的模型需要大量计算资源,但现今发展的开源模型使得在个人电脑上运行也成为可能。  

使用步骤

下载安装: 前往 LM Studiohttps://lmstudio.ai/ 官网 下载适用于 Windows、macOS 或 Linux 的版本,按照提示进行安装。

选择模型: 打开 LM Studio 后,在主界面上您可以浏览各种可用模型。选择您感兴趣的模型,点击下载。

运行模型: 模型下载完成后,在 “Model” 选项卡中选择您想要运行的模型,点击 “Run” 即可启动。

大模型下载地址：https://huggingface.co

另外如果下载不了上面的大模型：

可以到镜像站下载： https://hf-mirror.com

可以新建一个文件夹：

mkdir -p  .cache/lm-studio/models/Publisher/Repository/

把下载的模型放在上面新建的文件夹下：

交互和配置: 运行模型后,您可以通过聊天界面与模型进行交互。同时,您也可