老母鸡教学 在本地Windows 11电脑上运行本地大模型【千问】

部署运行你感兴趣的模型镜像

        大模型最近的迭代太猛了,感觉用不了多久就可以将整个项目和需求交给它去完成,对于还没尝试在本地离线使用大模型的小伙伴们,可以跟着我的节奏在你的电脑上部署一个属于自己的大模型

  • 什么是大模型
    • 大模型通常指在深度学习中训练的大型神经网络,具有大量的参数和复杂的结构,能够处理大规模的数据和复杂的任务。这些模型往往需要巨大的计算资源和数据集进行训练,但其在自然语言处理、图像识别、推荐系统等领域表现出色,能够实现高精度的结果和泛化能力。例如,GPT-3、BERT等都是当前知名的大模型。
  • 准备工作
    • 一台电脑 本次部署成功的电脑配置为
    • LM Studio
    • qwen大模型文件
  • 第一步
    • 安装Lm Studio
    • 能突破封锁的用户可以自己选择自己的想要的大模型文件进行下载
  • 第二步
    • 将下载好的大模型文件按照如下目录进行目录创建和存储
    • 其中 big_ai_model是 Lm Studio的工作路径 需要将模型文件存放工作路径的下二级目录
  • 第三步
    • 选择Lm Studio 中My Models 功能模块
    • 选择刚刚创建好的big_ai_model文件夹 
  • 第四步
    • 选择侧栏中的Ai Chat 模块
    • 选择刚刚加入的千问模型 等待模型库的应用
  • 第五步
    • 可以愉快的和这个模型聊天了
    • 离线也没有问题

为了帮助国内的小伙伴,我把需要的东西放在百度云盘了

  •  LM Studio下载地址
  •  链接:https://pan.baidu.com/s/1quCxwg493lHQ7rHWqKqcyg 
  • 提取码:s4zp 
    --来自百度网盘超级会员V8的分享
  • qwen大模型文件下载地址
  • 链接:https://pan.baidu.com/s/1BfdAxmHIpx4aWibEvy8COw 
    提取码:ssxd 
    --来自百度网盘超级会员V8的分享

您可能感兴趣的与本文相关的镜像

GPT-oss:20b

GPT-oss:20b

图文对话
Gpt-oss

GPT OSS 是OpenAI 推出的重量级开放模型,面向强推理、智能体任务以及多样化开发场景

评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值