项目文档编写学习篇

最新推荐文章于 2025-06-13 11:16:21 发布
原创 最新推荐文章于 2025-06-13 11:16:21 发布 · 387 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

博客分享了一个流程图在线制作的网址，即https://www.processon.com/ ，为需要在线制作流程图的用户提供了便利。
流程图在线制作： https://www.processon.com/
Git LFS【部署 01】Linux环境安装git-lfs及测试_encountered 3 file(s) that may not have been copie
2401_84563405的博客
05-09 571
【代码】Git LFS【部署 01】Linux环境安装git-lfs及测试_encountered 3 file(s) that may not have been copie。
大模型推理优化：DeepSeek模型量化部署与TRT加速实战指南.pdf
02-13
然后，从环境准备、模型下载与加载、量化配置到模型部署等环节，提供DeepSeek模型量化部署的具体步骤。接着，介绍TensorRT的加速原理，包括其简介、核心优化技术、硬件优化适配以及工作流加速机制。在掌握了基本原理...
Git LFS【部署 01】Linux环境安装git-lfs及测试
Java与大数据相关实践内容分享！
03-11 2601
Linux环境安装git-lfs及测试
Encountered 7 file(s) that should have been pointers, but weren‘t
weixin_44210987的博客
07-26 3839
git遇到的问题
本地化部署32B版本残血DeepSeek R1模型
xiangzhihong8的专栏
02-09 2万+
选择32B模型：若需平衡性能与成本，且场景偏向通用任务（如企业文档处理），本地部署是优选。选择满血版：仅限科研或需极致性能的场景，但需承担高昂硬件成本与部署复杂度。安全优化：无论选择何种版本，建议结合加密技术、分层权限管理以降低本地化风险4。通过合理配置硬件与工具（如Ollama、LM Studio），32B模型可在大多数场景下提供高效且安全的本地AI服务，但需对其性能边界有清晰认知57。
7.3 Git 工具 - 贮藏与清理 (补充)
Jason.Gong的专栏
02-04 2798
本文是对于git官网的git book第7.3章节的补充 原文链接如下： https://git-scm.com/book/zh/v2/Git-工具-贮藏与清理 书中对于贮藏都推荐git stash push，本文都只使用该方法。 stash命令如下： git stash list [<options>] git stash show [<stash>] git stash drop [-q|--quiet] [<stash>] git stash ( pop | app
精选资源
DeepSeek模型本地部署与应用构建.pdf
02-25
DeepSeek模型是一种具备强大推理能力的人工智能模型，其在本地化部署中表现出色，提供了多种量化蒸馏模型选择。这些模型的开源生态和隐私保护功能为用户提供了可靠的数据处理平台。DeepSeek R1推理模型支持从8B、32B...
DeepSeek 模型量化
02-15
此代码片段展示了如何使用 `transformers` 库加载已保存好的DeepSeek模型实例，并对其进行四比特量化配置设置。 #### 实践建议与注意事项 当考虑实际应用场景下的模型量化工作时，应遵循如下几点原则以确保最终产出...
deepseek模型量化
02-12
### DeepSeek 模型量化方法实现 #### 1. 概述 模型量化是一种减少神经网络计算资源需求的技术，能够显著降低内存占用并加速推理过程而不明显损失准确性。对于 DeepSeek 模型而言，采用4位(4-bit)量化方案可以极大...
deepseek 模型量化
02-08
### 关于 DeepSeek 模型量化的相关信息 #### 深度学习模型量化简介 模型量化是一种用于减少深度神经网络模型大小并加速推理的技术。该技术通过降低权重和激活值的数据精度来实现这一目标，通常是从浮点数转换为整数...
0基础小白入门必看：AI大模型基本概念与工具梳理
2401_85325726的博客
05-12 1059
人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！
DeepSeekR1 劲敌出现了，QwQ32B本地部署测试，RTX3060成功运行！
m0_65555479的博客
03-07 2875
阿里千问平，突然在凌晨3点发布了最新推理模型！发布说明很简单“然后在下面甩出来几个链接，包括博客，HF，模型，演示和在线使用的网站。这条消息很简单，但是背后的东西一点都不简单。就凭一句可以，这成功了勾起了我的兴趣。除了文字描述之外， 推文中还给出了一张基准测试的图片。图中显示了 QwQ32B 和 deepseekR1 671B，以及 openai-o1的基准测试。从这个途中可以轻松的获取以下几点信息。
一文读懂：接触DeepSeek等AI大模型时常接触到的7B/32B/671B、Q2/Q4/Q8、AWQ、Zero、Distill等名词或代码的含义
热门推荐
吴所畏惧
02-06 2万+
一文读懂：接触DeepSeek等AI大模型时常接触到的7B/32B/671B、Q2/Q4/Q8、AWQ、Zero、Distill等名词或代码的含义
一篇带你本地部署DeepSeek的保姆级攻略！内含详细调参建议！
Chixuxunwu的博客
01-31 1万+
本文仅作为一篇学习笔记供读者参考
“模型量化”详解，量化参数、主流量化参数全面解读与实战
最新发布
程序员鑫港的博客
06-13 1827
包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！😝有需要的小伙伴，可以保存图片到。
半小时在本地部署DeepSeek的Janus Pro，进行图片分析和文生图
冀辉的博客
02-11 6352
测试印象： 整体模型体积较小，个人可以部署并使用。 图像识别效果不错，不但可以识别一般的图片，也可以识别一些图纸类的内容。 显存占用不高，24G显存即可以运行图片识别和图像生成。 部署相对简单，如果不考虑模型下载时间，半小时就可以进行简单测试。 图片识别时，如果图片是格式复杂的文本类（如试卷），在OCR时，会出现较严重的问题。 生成图片时，必须用英文。 生成图片时，当提示词过于简单时，会出现物品不完整的现象。 总体来说，在开源的多模态大模型中，还是一个非常不错的产品。
大模型的显存占用计算方法
RA AI衍生者训练营的博客
07-03 2302
参数的数量和量化决定了模型的大小，这是使用LLM的一个主要限制。
搞懂DeepSeek量化家族：每个版本都在玩什么花样？
qqxdh的博客
02-28 5678
DeepSeek 模型的量化版本很多，如果只看名称，很容易看得眼花缭乱。这里先给大家一张简单对照表，帮助入门理解。量化类型位数显存占用(7B模型)速度(tokens/s)典型特征Q22 位整数约 3.2GB4 - 6极端压缩比例，对精度有明显影响Q4_04 位整数4GB6 - 8基础 4 位量化，普适性较高Q4_K_M4 位整数4.5GB8 - 10在块量化基础上做优化，精度更稳定Q5_K_M5 位整数5GB7 - 9提升精度，牺牲少量显存FP88 位浮点~5GB。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值