- 博客(122)
- 收藏
- 关注
原创 Linux运维:nginx优化
面试说:动静分离是Nginx最常用的架构,把静态资源交给Nginx处理,动态请求转发给Tomcat/Node.js等后端,充分发挥各自的优势。面试说:限流是防止CC攻击最有效的手段,burst参数允许突发请求,nodelay参数表示不延迟处理,直接返回503错误。面试说:设置合理的缓存头,让浏览器缓存静态资源,后续请求直接从本地读取,不用再请求服务器,减少90%以上的静态资源请求。面试说:设置合理的超时时间,可以避免后端服务挂掉时,Nginx的连接被长时间占用,导致整个服务雪崩。
2026-05-27 09:26:53
325
原创 Linux运维:psutil和paramiko和request
requests 是 Python 最流行的 HTTP 客户端库,用一行代码就能发送复杂的 HTTP 请求调用各类系统的 API 接口(监控、告警、CMDB)简单的网页爬虫(爬取监控数据、日志)企业微信/钉钉/飞书机器人告警自动化测试接口可用性。
2026-05-27 09:26:27
552
原创 Terraform:构建高可用网站
description = "AWS区域"description = "VPC CIDR块"description = "公网子网CIDR列表"description = "应用子网CIDR列表"description = "数据库子网CIDR列表"description = "数据库管理员用户名"description = "数据库管理员密码"sensitive = true # 标记为敏感,不会在输出中显示description = "应用服务器实例类型"
2026-05-27 09:09:29
443
原创 Terraform:标准文件体系
作用:将硬编码的值抽成变量,提高代码的复用性和可配置性。description = "AWS 区域"description = "VPC CIDR 块"最佳实践:所有可能变化的值都应该抽成变量,不要在业务代码中硬编码。作用:输出部署完成后的关键信息,方便后续使用和集成。description = "负载均衡器 DNS 名称"使用方式:执行查看所有输出,或查看指定输出。4个基础文件outputs.tfN个业务文件:按资源类型拆分,如vpc.tfec2.tfrds.tf4个辅助文件locals.tf。
2026-05-26 09:54:57
361
原创 Terraform :AWS ELB+Auto Scaling
这是,将之前的VPC网络、Auto Scaling自动扩缩容和ELB负载均衡器完美结合,实现了三大核心能力。这是你学习AWS基础设施的最终里程碑——掌握了这个架构,就能部署绝大多数企业级高可用Web应用。
2026-05-26 09:54:47
402
原创 Terraform :AWS Auto Scaling 自动扩缩容
流量高峰时自动增加实例保证性能,流量低谷时自动减少实例节省成本。这是所有生产级Web应用的必备功能。现在等待4-5分钟,CloudWatch会检测到CPU使用率超过30%,触发扩容,自动创建第二个实例。等待4-5分钟,CPU使用率会降到5%以下,触发缩容,自动终止一个实例,回到1个实例的状态。通过自动扩缩容,你的应用可以。:CPU/内存/网络使用率高时,自动增加实例。:自动将实例分布在多个可用区,提高可用性。:实例故障时,自动终止并创建新实例替换。:使用率低时,自动减少实例,节省成本。
2026-05-25 10:04:49
519
原创 Terraform:CloudInit 自动挂载 EBS 卷
关键说明定义了 EBS 卷在实例中的设备名对于 Nitro 架构的新实例(如 t3、c5 等),实际设备名会是,但 AWS 会自动将/dev/xvdh映射到正确的设备所以这里写/dev/xvdh是通用的,兼容所有实例类型。
2026-05-25 10:04:38
528
原创 Terraform:AWS VPC+EC2+RDS(MariaDB)
这是,在之前VPC+EC2+EBS的基础上,新增了,并实现了和。这是你学习AWS基础设施的里程碑——掌握了这个架构,就能部署绝大多数企业级Web应用。
2026-05-24 09:48:05
808
原创 Terraform:AWS VPC+EC2+EBS
✅ 保留了之前完整的VPC网络架构(公网/私网子网、IGW、NAT网关)✅ 保留了可SSH登录的公网EC2实例✅新增:创建一个20GB的独立EBS数据卷✅新增:将EBS卷自动挂载到EC2实例的/dev/xvdh设备✅ 提供了完整的格式化、挂载、开机自动挂载的手动操作流程。
2026-05-24 09:47:52
679
原创 Terraform:AWS VPC
description = "AWS区域"description = "VPC的CIDR块"description = "公网子网CIDR列表"description = "私网子网CIDR列表"1 IGW + 1 NAT = 2 个网关但NAT 只有 1 个,存在单点故障。先把概念对齐,再说“自带还是要配”。手动创建手动创建自带,不用创建手动创建阿里云这边你不用写代码创建互联网网关只需要:VPC + 公网/私网交换机 +NAT网关+ 路由表。
2026-05-23 17:35:34
568
原创 Linux运维:GitOps发布流程
GitLab SSH 密钥:宿主机生成 → GitLab 加公钥 → K8s Secret 存私钥 → Jenkins 挂载使用Harbor 密钥:Jenkins 凭证(推镜像)、K8s imagePullSecret(拉镜像)Jenkins/ArgoCD 密码:各自初始密码/Secret,用于登录。
2026-05-21 10:50:05
582
原创 Linux运维:Jenkins部署
一句话总结:Jenkins 是自动化流水线工具,把"代码提交→编译打包→测试→部署上线"全流程自动化,不用人工一步步操作。Jenkins 就像一个自动化机器人,你告诉它"代码提交后要做什么",它就会按顺序自动执行所有步骤,成功就部署上线,失败就发通知告诉你哪里错了。标准流程闭环:二、完整部署步骤(以 Spring Boot + Docker + K8s 项目为例)前置准备(一次性配置)搭建 Jenkins 服务器:安装 JDK、Git、Docker、Maven 等工具配置凭证:在 Jenkins
2026-05-20 20:39:51
467
原创 Linux运维:nfs-lsyncd-rsync
(Web→NFS共享→Lsyncd实时同步→Rsync备份服务器),这是生产环境中非常经典的轻量级文件实时同步方案。
2026-05-17 19:54:34
522
原创 阿里云:RocketMQ
电商下单,必须保证「订单创建成功」和「库存扣减成功」要么都成功,要么都失败,不然会出现「订单生成了,库存没扣,超卖」或者「库存扣了,订单没生成,少卖」的问题,传统方案很难解决。ACK集群里几百个Pod,每个Pod都要写业务日志、访问日志,如果直接写到日志服务,会占用业务Pod的资源,而且日志服务挂了,会导致日志丢失,甚至影响业务。✅ 完成后,RocketMQ实例就和你的架构完全打通了,ACK集群里的业务Pod,能直接通过内网地址访问,和访问Redis/RDS没有任何区别。
2026-05-12 19:24:02
475
原创 阿里云:ingress
✅ 到这里,业务应用+Service就部署完成了,接下来写Ingress路由规则,绑定对应的IngressClass。Master只做控制面,业务流量会占用Master资源,导致集群瘫痪,必须用节点亲和性强制调度到Worker节点。✅ 到这里,两套网关+对应的IngressClass就搞定了,后面写路由规则,只需要指定用哪个Class就行。,在公司内网/VPN环境访问,能看到页面,公网环境访问不到,说明内网隔离生效。,浏览器访问,能看到Nginx默认页面,说明公网链路通了。
2026-05-11 08:47:55
390
原创 阿里云:域名级数差别
二级域名:花钱买、做官网主站,正规对外门面,少用来挂内部测试服务;三级域名:免费无限建,专门用来拆分开发/测试/后台/接口各环境;对接ELB、做CNAME解析、隔离业务环境,行业标准都是用三级域名,不占用主域名、好管理、好隔离、不花钱。
2026-05-11 08:47:46
272
原创 阿里云:A记录、CNAME记录 详细应用场景
固定IP、单机、主域名、多IP轮询 → 用A记录ELB、CDN、OSS、多子域名共用、IP会变动 → 用CNAME。
2026-05-10 09:49:48
484
原创 阿里云: A记录 & CNAME
A记录:直接绑IP,同域名可多条A记录,实现多IP轮询负载均衡;CNAME:只能绑域名,单条CNAME只能指向1个目标;多子域名共用服务:子域名全部CNAME挂靠统一目标域名;多IP负载均衡:由被挂靠的目标域名配置多条A记录实现,子域名无需配IP;子域名CNAME只挂靠,多IP负载由目标域名的多条A记录来承担。
2026-05-10 09:49:41
184
原创 阿里云-电商架构案例
操作路径:VPC控制台 → 左侧「路由表」→ 「创建路由表」K8s没有改变你之前的VPC网络架构,只是把业务从「固定的ECS服务器」,搬到了「弹性的K8s容器集群」里,你之前学的所有VPC、交换机、路由、NAT、SLB知识,100%适用,没有任何冲突。需要我给你一份和这个架构配套的、可直接复制执行的K8s部署命令清单吗?包括Ingress安装、电商业务部署、HPA扩缩容配置、NetworkPolicy隔离规则,直接照着执行就能跑通。
2026-04-29 09:46:17
436
原创 阿里云-架构设计
内网互相访问:VPC自带路由,全自动服务器上网:路由指向NAT + SNAT外网访问服务:NAT绑定EIP + DNAT数据库单独子网:只给内网ECS连,最安全关联的子网:业务应用子网、运维管理子网(这些子网需要访问外网)完整路由规则目标网段下一跳类型下一跳大白话作用本地本地内网流量直接走内网,不用绕NAT,保证内网互通0.0.0.0/0NAT网关你创建的公网NAT网关所有不是内网的流量(也就是所有外网流量),全部丢给NAT网关,从NAT的EIP出去上网。
2026-04-29 09:46:03
553
原创 阿里云:云安全中心异常登录告警实验
这套实验的本质,是教你用阿里云云安全中心,给服务器加上「登录地域白名单」的安全锁,只要有人从非法地域登录你的服务器,就能立刻收到告警,是云上服务器最基础、性价比最高的安全防护手段。
2026-04-28 13:58:45
561
1
原创 阿里云:在阿里云上部署弹性架构
先给两台ECS装,搭好网站用ALB负载均衡把流量分给两台ECS,实现高可用配置弹性伸缩,CPU高了自动加服务器,应对流量高峰整套流程是企业Web服务的标准架构,从建站到高可用再到弹性扩容,全覆盖ALB 做唯一公网入口,开 80 给外网ECS 藏在内网,只对 ALB 开 80,不对公网暴露安全组遵循最小权限原则,不用的端口一律关弹性伸缩自动扩出来的机器,直接继承这套安全组和网络配置这就是公司里真正上线网站的标准玩法,既跑得通,又不会被攻击。
2026-04-22 15:06:55
473
原创 阿里云:连接云数据库Redis标准实操
先确认网络:ECS 和 Redis 同地域再开安全门禁:把 ECS 安全组加入 Redis 白名单装客户端工具:在 ECS 上编译安装 Redis 6.0.9(主要为了拿 redis-cli)连接验证:用 redis-cli 连地址 + AUTH 密码,OK 就成功了这就是企业用 ECS 连接云 Redis 的标准流程,安全、稳定、延迟低。这套实验是阿里云 ECS 连接云数据库 Redis 的标准实操把 ECS 配成 Redis 客户端 → 打通网络白名单 → 连接云 Redis 数据库。
2026-04-22 15:06:45
480
原创 阿里云:OSS
用 OSS 建一个存储文件夹(Bucket)打开访问权限,让外网能访问做一个图片水印模板上传本地图片到云端给图片套用模板加水印通过链接直接访问处理后的图片。
2026-04-20 09:53:23
432
原创 阿里云:VPC对等连接
你这个实验就是同地域两个VPC,用对等连接拉直连通道,手动配双向路由,再开安全组防火墙,实现ECS互访,是阿里云最基础的VPC互通方式,小公司简单场景会直接用这个。
2026-04-20 09:53:16
550
原创 阿里云:vpc和交换机和NAT
核心配置:指定目标网段,下一跳类型为ECS实例,所有访问目标网段的流量均转发至该ECS处理。常见场景:作为VPN/专线网关跳板机、代理/防火墙/流量过滤器、跨网段NAT网关(解决地址冲突)。核心逻辑:VPC资源访问外部网络时,查询路由表,将流量转发至下一跳ECS,由ECS处理转发。注意事项:ECS需关闭源/目的地址检查、配置转发规则;存在性能瓶颈和单节点故障风险。绑定规则:每个交换机必须且只能绑定1张路由表(系统路由表/自定义路由表)。
2026-04-19 18:19:51
485
原创 阿里云:云企业网打通不同VPC
此时状态:ECS1(10.0.0.10)在VPC1,ECS2(192.168.0.10)在VPC2,新建VPC2+2台交换机(同可用区1台+跨可用区1台)远程ECS1 ping ECS2私网IP → 通=成功。新建VPC2专属安全组,放行ECS1私网IP。CEN中添加VPC1 → 再添加VPC2。清理:CEN卸载VPC连接→删除CEN。(选同可用区交换机+VPC2安全组)删除VPC2安全组→交换机→VPC2。VPC1 可用区A → ECS1。VPC2 可用区C → ECS2。都在杭州、都挂了 CEN。
2026-04-19 18:19:41
439
原创 GPU运维:大模型指令微调与 LLaMA-Factory 实操
微调流程:环境搭建→模型下载→数据准备→配置训练→验证→合并;关键参数显存优化:用 LoRA/QLoRA,调小 per_device_train_batch_size,增大 gradient_accumulation_steps;部署衔接:微调后的模型可以直接用 vLLM/SGLang 部署,和你之前的流程无缝衔接。
2026-04-07 09:47:55
436
原创 GPU运维:分布式训练与推理讲解
硬件选型优先看互联:单机多卡必须选NVLink+NVSwitch,多机多卡必须选InfiniBand,通信比算力更重要;训练策略选型:单卡能放下用DDP/FSDP,放不下用TP+DP混合并行,尽量不用PP;推理策略选型:只用模型并行,优先选TP,vLLM一条命令就能启动,配置即可;核心监控指标:训练看算力利用率、通信吞吐量;推理看tokens/min、显存均衡度;环境配置:优先用NVIDIA官方Docker镜像(),预装了所有分布式训练/推理的依赖,开箱即用。
2026-04-07 09:47:34
465
原创 GPU运维:vllm启动大模型参数解析
用 vLLM 在本机 8000 端口启动 DeepSeek-R1 模型服务,单卡运行,最多占用 85% 显存,支持 8k 上下文,只有本机能访问,调用需要密钥 magedu.com。vllm serve:启动模型 API路径:模型位置:API 用的模型名:用几张卡:显存占用比例:最大上下文长度host/port:访问地址api-key:接口密码我用最直白、运维能听懂vLLM 多卡并行(tensor-parallel-size > 1)到底有什么用、好处是什么、什么时候必须开。多卡并行 =
2026-04-06 20:15:18
470
原创 GPU运维:多卡环境模型部署推理测试
框架TP 数单卡显存占用速度(tokens/min)推荐度vLLM2≈22GB800⭐⭐⭐⭐⭐vLLM4≈11GB1400⭐⭐⭐⭐⭐SGLang2≈22GB950⭐⭐⭐⭐⭐SGLang4≈11GB1600⭐⭐⭐⭐⭐。
2026-04-06 20:15:05
525
原创 GPU运维:模型风格和计算公式
B=Billion,1B=10亿参数,70B=700亿参数,是大模型能力的分水岭;模型参数规模,直接决定模型的逻辑推理、知识理解、长上下文处理、抗幻觉能力,参数越大,能力越强,同时显存成本越高。token:大模型处理文本的最小单位,不是按字/词拆分。1个中文汉字≈1.3个token1个token≈0.75个中文汉字;英文1个单词≈1~1.5个token。tokens/min:模型每分钟能生成的token数量,是衡量LLM服务生成速度、用户体验、吞吐能力的核心指标,是AI运维必须监控的第一优先级指标。
2026-04-01 21:08:29
360
原创 GPU运维:大模型简单部署
配置学术加速(一次配置,永久生效)创建两个虚拟环境(vllm + open-webui,都放数据盘)用 ModelScope 下载模型(到后台启动 vLLM/SGLang(端口8000,设API密钥)后台启动 Open-WebUI(端口8080)本地SSH端口转发,浏览器访问你的流程基础非常好,只要加上后台运行和Open-WebUI启动命令,就是企业级可用的部署方案了!需要我帮你写个一键启动脚本吗?加粗样式。
2026-03-31 10:05:42
408
原创 GPU运维:模型格式
模型格式 = 模型参数在磁盘上的存储规范类似:作用:一句话:模型文件 = 磁盘存档显存 = 运行场所格式 = 存档方式量化 + 合适格式 = 小显存也能跑大模型模型必须从磁盘 → 反序列化 → 加载到显存,才能运行。不进显存,模型永远无法推理。
2026-03-31 10:05:30
68
原创 GPU运维:大模型一些单位
70B= 模型大、聪明、吃显存BF16 / 4bit 量化= 控制模型大小、省显存多卡并行 + vLLM= 让大模型真正跑起来、跑的快、能服务你有几张显卡、每张多少显存我就能直接告诉你:你能跑多大模型、用不用量化、开几卡并行。BF16 就是 16 bit。BF= BFloat1616 位它和 FP16一样宽、占显存一样大,只是内部表示方式不一样,对大模型更稳定。32 bit → 精度高,巨占显存16 bit(BF16/FP16)→ 精度够用,显存减半。
2026-03-30 10:12:36
337
原创 GPU运维:神经网络知识
网络类型核心优势核心应用场景MLP结构简单,拟合基础非线性关系结构化表格数据、简单分类回归、其他网络的输出头CNN局部特征提取高效,参数量小,适配二维结构计算机视觉全场景、时序特征提取适配序列数据,具备时序记忆能力传统NLP任务、语音识别、时间序列预测超长程依赖捕捉能力强,支持并行计算,上下文建模能力拉满大语言模型、多模态大模型、CV大模型、绝大多数AI任务我会顺着之前的运维视角,把这份笔记的内容从核心逻辑、业务用途、运维重点。
2026-03-30 10:10:32
426
原创 k8s中 一个pod内部中的容器可以有哪些
一个 Pod = 一个网络空间pause 容器负责创建并持有这个网络Pod 内所有容器(主/边车/Init)都共享 pause 的网络底层 =Docker --network=container 模式同 IP、localhost 互通、端口冲突、同主机名这就是Pod 里可以放多个容器的全部底层原理。
2026-03-29 09:52:09
396
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅