Windows安装ollama本地部署千问qwen2.5大模型

已于 2025-04-10 16:14:26 修改
阅读量1.3w 收藏 34
点赞数 14
CC 4.0 BY-SA版权
分类专栏： 大模型 AI 文章标签： windows AI llama
于 2024-11-19 10:29:16 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/YXWik/article/details/143871588

ollama

ollama是一个简明易用的本地大模型运行框架,只需一条命令即可在本地跑大模型。开源项目，专注于开发和部署先进的大型语言模型（LLM）
官网： https://ollama.com/ 下载地址：https://ollama.com/download/windows
在这里插入图片描述
双击下载的OllamaSetup.exe，无脑安装
在这里插入图片描述

下载qwen2.5大模型文件

Qwen2.5-Coder基于Qwen2.5基础大模型进行初始化，使用源代码、文本代码混合数据，偏向于编程领域的模型，这里大家根据自己的需求进行选择模型
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
默认是7b，但是需要切换下，这样右边的命令参数才会变 ollama run qwen2.5-coder:7b
在这里插入图片描述

这里的b代表的是参数数据
1b是10亿参数，通常1B，意味着需要机器需要1G以上的内存，大的数据通常在需要更高性能的任务中使用，这里可以根据自身的电脑配置情况进行选择
打开cmd窗口进行下载（这里默认安装会在C盘消耗你十几个G的磁盘空间）
指定模型下载路径 OLLAMA_MODELS
在这里插入图片描述
环境变量也可以自定义端口

OLLAMA_BASE_URL http://127.0.0.1:11434 #可以自定义端口

如果设置完环境变量发现下载还在C盘，重启下电脑重新下载，如果下载到C盘想要迁移的，
打开C:\Users\Administrator\.ollama\models，将这里面的内容迁移到指定的路径下
在这里插入图片描述

在这里插入图片描述

最低0.47元/天 解锁文章

200万优质内容无限畅学
Ollama本地私有化部署通义千问大模型Qwen2.5
L
09-26 5384
Qwen是阿里巴巴集团Qwen团队的大型语言模型和大型多模态模型系列。现在大型语言模型已经升级到Qwen2.5。语言模型和多模态模型都是在大规模多语言和多模态数据上进行预训练的，并在符合人类偏好的高质量数据上进行后训练。Qwen具有自然语言理解、文本生成、视觉理解、音频理解、工具使用、角色扮演、人工智能代理等功能。在Qwen2发布的过去三个月里，许多开发人员在Qwen2语言模型上构建了新的模型，向我们提供了宝贵的反馈。在此期间，我们专注于创建更智能、知识更丰富的语言模型。
本地部署Qwen2.5-Coder大模型，打造专属编程助手
csdn1561168266的博客
11-29 1860
Qwen2.5-Coder的推出，标志着智能代码语言模型进入了新的时代。这款模型具有高效性能和实用价值，不仅能够深入理解复杂的代码结构，还能提供精确的代码补全和错误检测，极大提升开发效率。本文详细介绍如何在本地系统上部署Qwen2.5-Coder，以及其与Ollama的集成方案，希望为开发者带来更流畅的开发体验。
Qwen2.5 全链路模型体验、下载、推理、微调、部署实战！
xxue345678的博客
09-19 2万+
进行微调。在这里，我们将展示可直接运行的demo。
三万字详解，一文讲清楚Qwen系列，看这一篇就够了！
最新发布
weixin_59191169的博客
06-10 2087
本文讲介绍qwen1/1.5,qwen2,qwen2.5,qwen3 架构/训练/部署的技术细节
使用 Ollama 运行 Qwen2.5.1-Coder-7B-Instruct
engchina的专栏
11-11 2527
使用 Ollama 运行 Qwen2.5.1-Coder-7B-Instruct
Qwen2.5+Qwen3安装（Windows和raspberrypi-4GB）
a87597766的博客
10-01 1万+
Qwen2.5和Qwen3的使用， Ollama安装， Ollama网络问题， 基本命令使用， 多行输入,Cherry St
解锁多模态AI新高度：Ollama极速部署Qwen2.5-VL-7B，看这一篇就够了
zdk8105的专栏
04-29 3478
Ubuntu 24.04系统使用Ollama极速部署Qwen2.5-VL-7B模型及OpenAPI调用的详细步骤。列出了搭建过程中常见问题处理办法，并详细记录了搭建过程中遇到过的坑。
Ollama本地部署Qwen2.5 14B(不使用docker)
Chen_lead的博客
11-26 3054
不使用docker的情况下，通过Ollama部署Qwen2.5 14B,并通过Open-WebUI实现可视化。
ollama-qwen2.5-vl 千问大模型图片推理GUI窗口程序
05-17
ollama-qwen2.5-vl 千问大模型图片需要使用代码构架推理过程，不太方，于是写了个GUI界面工具，需要提前装好ollama和qwen2.5vl 模型，即可使用此ui界面，推理了，阿弥陀佛。
本地部署 Qwen2.5-VL 开源视觉大模型！
海阔凭鱼跃天高任鸟飞的博客
03-07 1331
Qwen2.5-VL 是 Qwen 推出的全新旗舰视觉语言模型，较其前身 Qwen2-VL 有了重大飞跃。该模型不仅能够掌握花、鸟、鱼和昆虫等常见物体的识别，还能分析图像中的复杂文本、图表、图标、图形和布局，为多模态 AI 树立了新标准。此外，Qwen2.5-VL 被设计为高度代理，并且能够进行动态推理和工具指导——无论是在计算机还是手机上使用。该模型的高级功能包括能够理解长度超过一小时的视频、精确定位其中的特定事件，并通过生成边界框或点来准确定位图像中的对象。
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2710
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
在win10上Ollama+Qwen2.5+AnythingLLM内网离线搭建RAG本地大模型知识库
香蕉包子的博客
10-17 3579
（如果嫌响应速度慢，可以参考这个调一下GPU层数 https://blog.csdn.net/m0_57486465/article/details/139455076）使用AnythingLLM的API，参考这篇：https://blog.csdn.net/m0_51242270/article/details/142257192。GGUF有分不同量化的版本，好像有说明可以看适合哪种的，主要看自己显存大小，我找不到哪里可以看，4060的显卡下载了q5_0的还阔以。没啥好说的，找官网直接下载然后安装吧。
Ollama部署qwen2.5搭建本地大模型
Hummers
03-16 978
Ollama + open web ui + 大模型本地部署大语言模型，并设置联网搜索，实现用户创建等权限配置
本地Windows安装一个千问qwen2.5大模型，自己的AI私服
weixin_43504955的博客
11-06 2926
本地Windows电脑搭建AI大模型
如何使用Ollama部署qwen2.5-coder，进行本地代码生成
冀辉的博客
12-04 1749
如何部署大模型，自动生成代码。
ollama运行qwen2.5-coder:7b
Mooczx的博客
12-04 1273
我的前身是GPT-3，它是一种强大的语言生成模型，能够理解和处理自然语言。GPT-4是GPT系列中的一员，拥有更高的性能和能力。\n\n我可以回答问题、提供信息、创作文本和图片等多种任务。我的目标是帮助用户找到答案、解决问题和完成任务。
ollama Docker部署 Qwen2.5-Coder-32B-Instruct
q742971636的博客
11-13 642
【代码】ollama Docker部署 Qwen2.5-Coder-32B-Instruct。
【AI大模型部署】Ollma本地部署Qwen2.5 14B(不使用docker)
2401_85325397的博客
01-25 1463
为了帮助更多热爱技术、渴望成长的朋友，我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶，也是我在行业一线实战经验的总结。这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习，相信它们一定能为你提供实质性的帮助。这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费。
最强开源Qwen2.5：本地部署 Ollma/vLLM 实测对比，邀你围观体验
热门推荐
u010522887的专栏
09-24 5万+
本地部署大模型该用哪款框架？本文以 Qwen2.5 为例，实测了 Ollama/vLLM。综合来看，Ollma 在**存储、计算、效率**三方面，均完爆 vLLM。
endnote自动上标
02-25
### EndNote 中实现引用文献时自动上标的设置 在使用EndNote进行文献管理的过程中，有时会遇到需要调整引用文献格式的需求，例如将引用标记设为自动上标。以下是具体的操作指南： #### 文献引用格式配置 为了使引用文献的编号能够以上标形式显示，在Word文档中的EndNote插件提供了专门的功能来进行此操作。进入Word界面后找到并点击EndNote选项卡，随后选择`Output Styles`下的`Edit & Manage Citation(s)`命令[^1]。 #### 修改布局设定 进一步地，通过点击`Configure Bibliography`按钮可以访问更详细的设置菜单。在这个窗口内有一个名为`Citation`的部分，其中包含了关于引用外观的各种选项。勾选`Superscript citation numbers`这一项，则可以使所有的引用标签都转换成上标的形式呈现出来[^3]。 ```python # Python代码示例用于说明逻辑流程而非实际功能执行 def set_superscript_citations(): open_endnote_tab() click_configure_bibliography() check_superscript_option() set_superscript_citations() ``` #### 处理已有引用的颜色问题 对于已经存在于文档内的引用可能出现颜色异常的情况（如蓝色），这通常是由于域代码的原因造成的。要恢复正常显示而不影响链接属性的话，可以通过按下Ctrl+F9组合键来切换查看/隐藏域代码模式；或者尝试更新整个字段以刷新其状态[^4]。 #### 更新文献列表顺序 当发现参考文献之间的排序出现问题时——比如删除某篇参考资料之后其他条目的序号未能相应改变——应该重新整理一次全文档里的所有引用记录。同样是在`Configure Bibliography`对话框里，可以选择按插入先后次序或是依据文中首次提及的位置来自定义排列方式[^5]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值