大模型最近的迭代太猛了,感觉用不了多久就可以将整个项目和需求交给它去完成,对于还没尝试在本地离线使用大模型的小伙伴们,可以跟着我的节奏在你的电脑上部署一个属于自己的大模型
- 什么是大模型
- 大模型通常指在深度学习中训练的大型神经网络,具有大量的参数和复杂的结构,能够处理大规模的数据和复杂的任务。这些模型往往需要巨大的计算资源和数据集进行训练,但其在自然语言处理、图像识别、推荐系统等领域表现出色,能够实现高精度的结果和泛化能力。例如,GPT-3、BERT等都是当前知名的大模型。
- 准备工作
- 一台电脑 本次部署成功的电脑配置为

- LM Studio
- qwen大模型文件
- 第一步
- 安装Lm Studio

- 能突破封锁的用户可以自己选择自己的想要的大模型文件进行下载
- 第二步
- 将下载好的大模型文件按照如下目录进行目录创建和存储

- 其中 big_ai_model是 Lm Studio的工作路径 需要将模型文件存放工作路径的下二级目录
- 第三步
- 选择Lm Studio 中My Models 功能模块

- 选择刚刚创建好的big_ai_model文件夹
- 第四步
- 选择侧栏中的Ai Chat 模块


- 选择刚刚加入的千问模型 等待模型库的应用
- 第五步
- 可以愉快的和这个模型聊天了

- 离线也没有问题
为了帮助国内的小伙伴,我把需要的东西放在百度云盘了
- LM Studio下载地址
- 链接:https://pan.baidu.com/s/1quCxwg493lHQ7rHWqKqcyg
- 提取码:s4zp
--来自百度网盘超级会员V8的分享
- qwen大模型文件下载地址
- 链接:https://pan.baidu.com/s/1BfdAxmHIpx4aWibEvy8COw
提取码:ssxd
--来自百度网盘超级会员V8的分享
2万+





