1分钟部署LM Studio本地大模型（附教程）

为什么使用本地大语言模型

随着大语言模型 (LLM) 在各种场景中的广泛应用,许多人希望能在本地运行这些模型,从而享受更低的延迟、隐私保护和无需支付 API 费用等好处。

虽然训练这些庞大的模型需要大量计算资源,但现今发展的开源模型使得在个人电脑上运行也成为可能。  

使用步骤

下载安装: 前往 LM Studiohttps://lmstudio.ai/ 官网 下载适用于 Windows、macOS 或 Linux 的版本,按照提示进行安装。

选择模型: 打开 LM Studio 后,在主界面上您可以浏览各种可用模型。选择您感兴趣的模型,点击下载。

运行模型: 模型下载完成后,在 “Model” 选项卡中选择您想要运行的模型,点击 “Run” 即可启动。

大模型下载地址：https://huggingface.co

另外如果下载不了上面的大模型：

可以到镜像站下载： https://hf-mirror.com

可以新建一个文件夹：

mkdir -p  .cache/lm-studio/models/Publisher/Repository/

把下载的模型放在上面新建的文件夹下：

交互和配置: 运行模型后,您可以通过聊天界面与模型进行交互。同时,您也可以根据需要调整模型参数、设置或接入 API。

以下是测试：

注意事项

在使用 LM Studio 时,需要注意以下几点:

硬件要求: 运行大型语言模型需要较高的硬件配置,建议使用 GPU 来获得更快的响应速度。

隐私保护: 虽然本地部署有利于保护隐私,但您需要注意不向模型输入任何敏感信息。 

持续更新: LM Studio 会不断更新以支持更多模型,您需要定期检查是否有新版本发布。

通过 LM Studio,任何人都可以在本地免费体验大语言模型的强大功能,探索 AI 技术在各种场景中的应用,是一个极佳的入门工具。

AI大模型应用怎么学？

这年头AI技术跑得比高铁还快，“早学会AI的碾压同行，晚入门的还能喝口汤，完全不懂的等着被卷成渣”！技术代差带来的生存压力从未如此真实。
兄弟们如果想入门AI大模型应用，没必要到处扒拉零碎教程，我整了套干货大礼包：从入门到精通的思维导图、超详细的实战手册，还有模块化的视频教程！现在无偿分享。

1.学习思维导图

AI大模型应用所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。

2.从入门到精通全套视频教程

网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

3.技术文档和电子书

整理了行业内PDF书籍、行业报告、文档，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

朋友们如果有需要全套资料包，可以点下面卡片获取，无偿分享！