- 博客(28)
- 收藏
- 关注
RSS订阅原创 vllm缓存使用基础调优实验
我在使用显卡时发现，vllm会倾向用直接占用所有显存，纵然是一个很小的模型的情况下。我更期待在同一张先看上部署多个模型，并行使用。
2025-11-14 18:38:48
433
原创 基于vllm部署qwen32b全精度模型试验
vLLM 将可用 KV 缓存内存划分为 4797 个内存块（blocks），每个块的大小通常受到块内tokens数和每个token（我理解即模型embedding的大小）大小决定，一般通过启动vllm时使用的block_size=16这种参数来确定，使用更大的block_size可以减少管理开销，使用小block_size可以精确的调度。我在之前部署时使用 ‘max_model_len’: 131072‘，即qwen3-32b的长文本模式推荐的长度，需求显存容量为32gb，可用为18gb，所以启动失败了。
2025-11-13 14:03:53
794
原创 k8s集群与gitlab registry连接
在之前的几篇部署文章中，我实现了gitlab部署配置、gitlab runner配置，registry仓库配置，kubectl与k8s集群联通。链接:链接:链接:链接:目前整条流水线的自动化部署实现了IDE->gitlab代码仓库->gitlab CICD->gitlab runner->本机 shell-> 本机docker->gitlab registry制品仓库->本级kubectl->K8S集群。
2025-09-24 22:13:36
972
原创 gitlab流水线与k8s集群的联通
gitlab流水线与k8s集群的连接，首先是通过gitlab-ci.yml文件中的命令，通过runner执行器实例运行对应的kubectl命令实现的。那么runner执行器实例执行器如何执行kubectl命令，执行环境的配置，kubectl命令如何与k8s集群互认，以及从git push到k8s集群的运行，都需要逐步进行配置并确定连通性。这个流程应当是：IDE->gitlab->gitlab runner->shell->docker+kubectl->k8s集群。
2025-09-11 13:24:51
1298
2
原创 中标麒麟7.4部署gitlab-runner
GitLab实例URL： (你的GitLab地址)注册令牌：从你项目的 Settings -> CI/CD -> Runners 页面获取 Registration token。Runner描述符：给你这个Runner起个名字，比如 shell-runner-for-maven。Runner标签：可以给这个Runner打上标签，比如 shell, maven。标签可用于在CI/CD中指定某个Runner运行作业。执行器：输入 shell。这告诉Runner直接在宿主机的Shell环境中执行作业命令。
2025-09-11 13:07:07
1074
原创 中标麒麟7.4为gitlab添加Registry
GitLab 完全能胜任 Docker 镜像 & 通用包仓库，功能可用、社区文档丰富。但在企业级镜像治理、安全合规、高可用场景，Harbor / Artifactory 仍是更主流的选择。我计划先用 GitLab Registry 跑通整条流水线，日后规模扩大再 harbor-migrate 也不复杂——只需重新 docker tag && docker push 即可。我就考虑使用gitlab的仓库了。
2025-09-09 16:02:02
852
原创 中标麒麟7.4部署Gitlab
本文旨在记录解决问题过程，并为试图在中标麒麟上部署gitlab的人员提供一定的帮助。本文主要记录了下载、尝试安装、依赖问题解决、安装、配置文件修改、文件系统权限修改等步骤中出现的报错，日志分析和问题解决过程。
2025-08-29 16:14:49
848
原创 学习在c++中使用redis-第一关安装
redis只有linux版的，我又想要图形化界面使用vscode。所以要先搭建ubuntu的虚拟机->安装vscode->ubuntu没有相应编译器，需要安装gcc等编译器->需要安装redis。
2023-05-18 14:51:39
273
原创 【翻译】A Survey on Generative Diffusion Model（生成扩散模型的综述研究）
【翻译】A Survey on Generative Diffusion Model（生成扩散模型的综述研究）
2022-12-11 15:40:10
3158
原创 学习笔记：weka-＞classify-＞classify output-＞summary
学习笔记：weka->classify->classify output->summary写在开头（重复的）1.课程来源：B站视频.2.笔记目的：课程老师推荐个人学习+增强记忆+方便回顾3.时间：2021年4月26日4.同类笔记链接：（钩子：会逐渐增加20211001）5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—一、summary的简介1.关注在软件的哪里
2021-10-01 17:31:45
902
原创 PyTorch中文文档阅读笔记-day1
写在开头（重复的）1.课程来源：torch中文教程1.7版.torch中文文档.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月21日4.仅作为个人笔记，如有需要请务必按照链接阅读文档—以下正文—一、torch.nn到底是干嘛的1.torch.nn库中包含一系列函数和类。torch.nn.functional模块包含torch.nn库中的所有函数，通常按照惯例将其导入到名称空间F中，这样可以方便的调用torch.nn中所有函数。 除了广泛的损失和激活函数外，您还会在这里找
2021-04-29 21:46:50
672
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第十四讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月26日4.同类笔记链接：（钩子：会逐渐增加20210414）第一讲.第二讲.第三讲.第四讲.第五讲.第六讲.第七讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—一、生成对抗模型（GAN，generativ
2021-04-26 18:03:12
664
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第十三讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月24日4.同类笔记链接：（钩子：会逐渐增加20210414）第一讲.第二讲.第三讲.第四讲.第五讲.第六讲.第七讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—一、无监督学习的分类1.十二讲及之前内容
2021-04-26 10:43:33
597
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第十二讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月21日4.同类笔记链接：（钩子：会逐渐增加20210414）第一讲.第二讲.第三讲.第四讲.第五讲.第六讲.第七讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—一、可视化（一）可视化方法之一-基于反向传
2021-04-21 13:33:26
543
原创 笔记：计算机视觉与深度学习-简单的实现一个网络-番外篇
写在开头1.课程来源及所有代码来源，后面不再每一步中标明了：pytorch官方网站的Tutorials.和Docs.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月19日4.同类笔记链接：（钩子：会逐渐增加20210414）第一讲.第二讲.第三讲.第四讲.第五讲.第六讲.第七讲.5.之所以要在基本学习了机器学习课程一周后加入动手的一节，是因为单纯的学习知识是枯燥的，必须要动手做出一个无论大小无论是否有用的东西才能形成正向的反馈。在枯燥学习-奖励性质的正向反馈，如此循
2021-04-19 21:21:49
633
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第十一讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月19日4.同类笔记链接：（钩子：会逐渐增加20210414）第一讲.第二讲.第三讲.第四讲.第五讲.第六讲.第七讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—一、目标检测（一）分类+定位两个任务1
2021-04-18 15:42:12
719
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第十讲
一、上节剩下的一点（一）用1×1卷积进行压缩会损失信息吗？1.答：不会。思维不能局限于m×n×64经过32个卷积核卷积成了m×n×32的特征响应图组这件事。要去思考m×n×64这张图是从一个尺寸为a×b（a≥m，b≥n）的，要再×3（RGB三层）的，总体来说是a×b×3的图。他在压缩成m×n×64时，该发生的损失已经发生了，而且深度从3变成64，说明这个方向上的信息非常稀疏。在经过本层变换m×n×64变成m×n×32，信息依旧是稀疏的，所以说这种压缩不会丢失信息。二、ResNet（残差网络）（1
2021-04-18 15:41:21
683
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第九讲
上节回顾（00：00-11：51）经典网络解析一、AlexNet（一）认识AlexNet的结构1.AlexNet网络的结构：1.1计算网络层数时仅统计卷积层和全连接层；CONV是卷积层，NORM是归一化层（AlexNet的归一化层已经不常用了），MAX POOL是池化层，FC是全连接层。1.2CONV1：96个11×11卷积核，步长为4，没有0填充。（CONV自带了一个ReLU激活函数）（原图227×227×3，本层输出55×55×96）1.3MAX POOL1层：窗口大小3×3，步长
2021-04-16 22:39:02
661
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第八讲
上节复习（00：00-11：39）一、纹理表示（一）纹理1.纹理：人脸也是纹理的一种。你可以理解为任何一种模式都可以称为纹理。2.纹理分为规则纹理和随即纹理。3.为识别纹理，引入一种基于卷积核组的纹理表示方法。3.1该方法 利用卷积核组提取图像中的纹理基 + 利用基元的统计信息来表示图像中的纹理。（二）基于卷积核组的纹理表示方法1.先具一个实际的例子注：实施上上图的“边缘”是高斯一阶偏导卷积核、“条状”是高斯二阶偏导卷积核。而神经网络的学习，就是学出很多这样带有不同特征的卷积核
2021-04-16 10:33:29
683
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第七讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月14日4.同类笔记链接：（钩子：会逐渐增加20210414）第一讲.第二讲.第三讲.第四讲.第五讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—前讲回顾（00：00-08：54）深刻理解卷积（只有明白了卷
2021-04-14 22:31:08
706
2
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第五讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月12日4.同类笔记链接：（钩子：会逐渐增加20210408）第一讲.第二讲.第三讲.第四讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—（00：00-25：00）为复习内容一、全景预览（共11个问题）项目
2021-04-13 10:57:39
584
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第四讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月11日4.同类笔记链接：（钩子：会逐渐增加20210408）第一讲.第二讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—一、全景预览（共11个问题）注：图像表示问题一笔带过二、多层感知器（又称全连接神经网络）
2021-04-12 15:56:28
705
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第三讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月9日4.同类笔记链接：（钩子：会逐渐增加20210408）第一讲.第二讲.5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。6.注意符号 SS：意味着我的个人理解，非单纯授课内容，有可能有误哦。—以下正文—一、正则项与超参数（一）正则损失1.正则损失，写作λR（W），其中R(W)是一个与权值有
2021-04-10 10:22:04
638
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第二讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏一、写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月8日4.同类笔记链接：（钩子：会逐渐增加20210408）5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。—以下正文—一、本章解决什么问题1.什么是图像分类任务？它有哪些应用场合？(答：找特征，贴标签）2.图像分类任务有哪些难点？3.基于规则的方法是否可行？4.什么是数据驱动的图像分类范式？
2021-04-09 14:23:23
1760
2
原创 笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏-第一讲
笔记：计算机视觉与深度学习-北邮-鲁鹏-2020年录屏一、写在开头（重复的）1.课程来源：B站视频.2.笔记目的：个人学习+增强记忆+方便回顾3.时间：2021年4月8日4.同类笔记链接：（钩子：会逐渐增加20210408）5.请一定观看视频课程，笔记是对视频内容的有限度的重现和基于个人的深化理解。—以下正文—一、计算机视觉的主要用途和相关科学1.在生活中的应用：车牌识别、球赛中摄像机跟踪、图像处理、人脸识别、医疗图像中疾病特征的识别、SAR（Synthetic Aperture Rada
2021-04-08 19:55:40
2141
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人