- 博客(200)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 自用 fde
"""检查 GPU 健康状态:param gpu_id: GPU 编号:param mem_threshold: 显存告警阈值（百分比）:return: True=健康, False=异常"""mem_usage = 85.0 # 模拟（实际中调用 nvidia-smi）检查 GPU 健康状态:param gpu_id: GPU 编号:param mem_threshold: 显存告警阈值（百分比）:return: True=健康, False=异常。
2026-09-26 21:51:57
257
原创 Python 基础00
本文系统介绍Python开发基础，涵盖PyCharm快捷键、转义字符应用、代码规范与文档使用，重点强调f-strings在LLMOps中的实用价值。深入解析变量与数据类型，包括整数的多进制表示、浮点数精度问题及Decimal精确计算方案，并通过生产场景案例揭示内存管理与类型转换的关键风险，助力开发者构建高效、可靠的工程化代码。
2026-09-16 16:46:34
159
原创 Python 基础复习：字符串、变量、input、print 与类型转换
内容是关于Python基础复习，主要包括字符串与变量区别、print打印规则、input提示信息、类型转换等。摘要需涵盖核心要点，简洁明了。注意字数限制。需要提炼关键点，保持逻辑连贯。可以按主题分点，但总字数不超过150。我们需要生成摘要，而不是原文复述。参考内容中核心结论：有引号是字符串，没引号是变量；print打印值不加引号；input返回字符串，需类型转换；input提示可以是任意对象，但推荐字符串；类型转换在比较和运算中很重要。组合成
2026-09-02 11:25:56
244
原创 第二篇（下）：FFN、MoE 与完整架构 —— 从“单车间“到“K8s 集群“
本文是《面向FDE/MLOps的零基础实战指南》系列第二篇下册，重点解析Transformer架构中FFN（前馈网络）、MoE（混合专家）等核心组件及其工程实践。主要内容包括： FFN的核心作用：作为Attention的补充，负责token特征的非线性转换与高阶语义提取。 FFN架构演进： 传统FFN采用升维→激活→降维结构（如ReLU+4倍维度） 现代SwiGLU采用门控机制（SiLU激活+三矩阵结构），隐藏层维度约为8/3倍模型维度 MoE架构解析： 通过Router动态选择Top-K专家处理token
2026-08-07 18:11:08
171
原创 第二篇（中）：KV Cache、GQA / MLA 与显存估算 —— MLOps 的“一生之敌“
本文是面向FDE/MLOps的零基础实战指南系列第二篇中册，重点讲解KV Cache原理、GQA/MLA优化技术及显存估算方法。主要内容包括： 注意力机制演化：分析MHA（标准多头）、GQA（分组查询）和MQA（多查询）三种结构的KV Cache差异，指出GQA是当前主流方案。 KV Cache原理：解释推理时缓存历史K/V向量的必要性，揭示其在长文本场景下可能占用模型权重数十倍显存的问题根源。 MLA创新技术：介绍2026年新一代长文本模型的"版本答案"——MLA（多头潜在注意力），通过低秩压缩技术将KV
2026-08-07 18:08:59
148
原创 大模型原理完全指南（五）：多模态大模型——从文本到图像、音频、视频的统一理解
本文探讨多模态AI技术的核心原理与前沿发展（截至2026年8月）。多模态的本质在于将图像、音频、视频等非文本数据通过编码器转化为Token序列，经跨模态对齐后融入语言模型的语义空间，实现统一处理。文章详细解析了视觉输入的Patch切分、动态分辨率处理技术，以及三代多模态架构的演进（从拼接式到原生多模态）。特别强调了跨模态对齐层的关键作用，比较了线性投影、MLP、Q-Former等不同方案。还涵盖音频/视频的Token化方法、多模态生成技术，以及多模态对MLOps工程的挑战（如动态分辨率带来的计算量激增问题）
2026-08-07 11:45:54
232
原创 大模型原理完全指南（一）：从文本到向量——分词、Embedding 与位置编码
文章摘要 本文是大模型技术系列的第一篇，系统介绍了文本处理的前期流程。核心内容分为三阶段： 输入准备阶段：文本经过分词器切分为token，转换为token id，再通过Embedding映射为向量并添加位置编码，形成模型可处理的数字表示。 核心处理阶段：通过多层Transformer块（含注意力机制和前馈网络）进行上下文理解，每层包含信息交互、深度加工和质量控制环节。 输出阶段：最后一层的隐藏状态经LM Head转换为词表概率分布，预测下一个token。 文章详细解析了分词器的构建原理（如BPE算法）、to
2026-08-07 10:19:53
239
原创 大模型原理完全指南（四）：推理优化与 MLOps 工程实践
本文探讨了大语言模型推理优化的关键技术，重点分析了Prefill与Decode两个阶段的特性差异及优化方向。文章系统介绍了KV Cache原理与估算方法、Speculative Decoding加速技术、量化方法实践（包括权重和KV Cache量化）、多GPU部署策略（TP/PP/EP）、分离式推理架构等前沿技术。特别强调了2026年生产环境必知的FP8 KV Cache、监控指标、推理框架更新等实践要点，并提供了vLLM等框架的具体配置示例。MLOps视角下，文章建议根据硬件特性和业务需求，灵活组合量化、
2026-08-07 10:17:45
215
原创 大模型原理完全指南（三）：训练与生成——从预训练到后训练，从预测到输出
本文是大模型训练与推理系列第三篇，重点介绍了大模型训练目标、后训练方法及推理时计算扩展。主要内容包括： 预训练：以预测下一个token为目标，使用交叉熵损失，在几万亿token数据上训练，更新embedding、注意力、FFN等参数。 后训练三阶段： SFT监督微调：学习指令遵循 RLHF/DPO/GRPO对齐训练：学习人类偏好 最终得到可用Chat模型 对比了RLHF（复杂）、DPO（简化）、GRPO（组排名）等方法。 推理扩展：2025-2026年趋势如"thinking模式"，通过生成更多中间toke
2026-08-07 10:15:55
203
原创 第二篇（上）：注意力机制与 Q/K/V —— 模型如何“互相交流“
本文深入解析了Transformer模型的核心机制，主要包括注意力机制和前馈神经网络（FFN）两大部分。文章首先回顾了文本从分词到嵌入向量的预处理流程，随后详细讲解了Transformer层的输入输出结构（保持[B, L, d_model]维度不变）。 重点内容分为： 注意力机制的本质是让token间进行上下文信息交换，通过Query、Key、Value三个投影矩阵实现。QKV分别对应"查找信息"、"被查找特征"和"实际内容"三种角色。 注意力计算六步流程：生成QKV→计算分数→缩放→softmax→加权求
2026-08-06 18:09:36
29
原创 大模型基础扫盲------从文本到 Token、Embedding、QKV 与 Transformer（不定期优化修改）大模型处理文本的全流程解析（三）
本文深入解析了Transformer模型的核心机制，包括多头注意力、前馈网络和层归一化等关键组件。重点介绍了多头注意力的工作原理和GQA优化技术，对比了传统FFN与现代SwiGLU结构的差异，详细说明了残差连接和RMSNorm的作用。文章还阐述了模型的训练目标（预测下一个token）和生成策略（如top-k采样），分析了权重绑定对显存的影响。最后提供了MLOps实践建议，包括配置参数关注点和部署注意事项，帮助读者全面理解大语言模型的内部机制和优化方法。
2026-08-04 15:17:21
275
原创 大模型基础扫盲------从文本到 Token、Embedding、QKV 与 Transformer（不定期优化修改）大模型处理文本的全流程解析（二）
Transformer模型中的位置编码与注意力机制解析 摘要： 本文深入解析了Transformer模型中位置编码和注意力机制的核心原理。位置编码解决了自注意力机制缺乏顺序感知的问题，通过绝对或相对位置信息帮助模型区分"我吃鱼"和"鱼吃我"等不同语序的语义。文章对比了正弦编码、可学习嵌入和RoPE等主流位置编码方式，并指出RoPE在长上下文处理中的外推挑战。注意力机制部分详细阐述了Q（查询）、K（键）、V（值）三向量的不同作用：Q表达检索意图，K作为匹配标签，V提供实
2026-08-04 15:15:49
294
原创 大模型基础扫盲------从文本到 Token、Embedding、QKV 与 Transformer 大模型处理文本的全流程解析（一）
本文系统介绍了大语言模型处理文本的完整流程，核心可概括为：文本→分词→TokenID→Embedding向量→位置编码→多层Transformer处理（注意力机制+前馈网络）→输出概率→生成文本。关键点包括： 文本需通过Tokenizer切分为Token并转换为数字ID，再通过Embedding映射为语义向量； Transformer通过注意力机制使Token动态交互，结合上下文区分多义词； 位置编码（如RoPE）注入顺序信息； 训练过程通过预测下一个Token来优化模型参数。 特别强调： Embeddin
2026-08-04 15:11:09
527
原创 大模型基础扫盲------从文本到 Token、Embedding、QKV 与 Transformer（不定期优化修改）大模型处理文本的全流程解析（四）
本文系统介绍了大语言模型推理优化的核心技术与工程实践。主要内容包括： 推理阶段划分 Prefill阶段：并行处理输入prompt，计算密集 Decode阶段：串行生成token，受显存带宽限制 KVCache优化 原理：缓存历史K/V避免重复计算 显存估算公式及影响因素分析 PagedAttention技术类比操作系统分页机制 工程实践 连续批处理提升GPU利用率 显存管理四要素：模型权重/KVCache/激活值/临时缓冲 训练与推理的显存差异分析 部署checklist与框架选型建议 常见误区 对toke
2026-08-02 23:45:33
343
原创 harbor使用外置db，redis，存储（minio）通过pigsty安装（单机）
摘要：本文详细记录了在10.0.0.101节点部署Harbor容器镜像仓库的全过程，包含以下关键步骤： 环境准备 通过自动化脚本安装Docker和Docker Compose 下载Harbor 2.14.2离线安装包并解压 配置Harbor参数（端口8088、管理员密码Harbor12345） 外部服务集成 部署PostgreSQL（10.0.0.102）作为外置数据库 部署Redis（10.0.0.102）作为缓存服务 配置MinIO（10.0.0.102）作为对象存储 安全扫描组件 部署Trivy漏洞扫
2026-03-29 18:36:10
186
原创 nerdctl+containerd安装
本文介绍了nerdctl的安装配置过程及镜像源优化方法。首先通过wget下载nerdctl-full软件包并解压安装，配置环境变量后生成containerd标准配置，包括开启SystemdCgroup和设置镜像加速路径。接着配置国内镜像源（如DaoCloud），启动containerd服务并验证安装。第二部分提供了一个测速脚本，通过拉取busybox镜像测试多个镜像源速度，自动选择最快源并更新配置。整个流程包含下载安装、服务配置、镜像源优化和测速选择四个关键步骤，最终实现高效的容器镜像管理环境。
2026-03-05 00:11:23
247
原创 Harbor 高可用生产搭建阶段一（dns高可用+ssl证书申请）
本文介绍了基于高可用架构的DNS与Keepalived部署方案。系统采用PostgreSQL主从复制、Redis主从架构、MinIO分布式存储等组件构建数据层和存储层。接入层使用HAProxy+Keepalived双节点实现负载均衡，应用层部署Harbor双节点。重点阐述了内部DNS集群的部署流程，包括： 在104/105节点部署Bind9主从DNS服务器，配置区域同步 通过健康检查脚本管理DNS记录 使用Keepalived实现5个VIP(201-205)的高可用 详细说明了内核参数优化、资源限制配置 提
2026-03-01 23:00:44
424
原创 Harbor（外置db+redis） + K8s 高可用集群实施手册（独立LB + Calico + kubeasz版）二（harbor内置db确认版本二进制安装高可用pgsql15.15集群）脚本版
本文详细介绍了PostgreSQL高可用集群的部署过程，主要包括以下内容： 系统初始化优化：配置内核参数、IO调度策略、时间同步等系统级优化。 安装PostgreSQL：从源码编译安装PostgreSQL 15.15版本，配置环境变量和systemd服务。 主库初始化：初始化主库数据目录，配置postgresql.conf和pg_hba.conf，创建repmgr用户和数据库。 配置repmgr： 主库配置：安装repmgr，配置集群参数和连接信息。 从库配置：克隆主库数据并注册为备库。 选举节点配置：部署
2026-02-25 01:14:46
620
原创 Harbor（外置db+redis） + K8s 高可用集群实施手册（独立LB + Calico + kubeasz版）二（harbor内置db确认版本二进制安装高可用pgsql15.15集群）
本文详细介绍了Harbor（外置db+redis）+K8s高可用集群的部署实施过程，重点讲解了PostgreSQL 15.15高可用集群的完整部署方案。主要内容包括： 系统基础准备与优化配置，包括内核参数、I/O调度器和NUMA设置 PostgreSQL二进制安装步骤，包含编译安装、服务配置和权限设置 主从节点配置详解，包括流复制设置、用户权限和同步验证 HAProxy+Keepalived高可用方案部署，实现负载均衡和自动故障转移 集群监控脚本和故障转移处理脚本的实现，确保系统高可用性 部署方案采用独立L
2026-02-12 16:55:23
720
原创 Harbor（外置db+redis） + K8s 高可用集群实施手册（独立LB + Calico + kubeasz版）一（初始化+ dns私服+minio集群）
本文档详细介绍了在单机环境下通过虚拟机模拟多节点Kubernetes集群的部署方案。重点内容包括： 架构设计：采用3节点etcd+Master+DB复用、2节点Harbor+LB双活、4节点MinIO存储层的精简架构，总资源控制在20C40G内。 关键组件部署： MinIO集群4节点EC:2配置，提供高可用对象存储 双节点HAProxy+Keepalived实现负载均衡和VIP漂移 通过资源限制实现组件复用，如Master节点同时运行etcd和数据库 详细实施步骤： 系统初始化与内核优化 MinIO集群部署
2026-02-10 22:31:40
753
原创 Kubernetes 的部署方式 （三）通过 kubeasz部署1.34.3集群版 (该工具目前不支持1.35，待更新后再更新，1.35变化点 只支持containerd2.0以上)
本文介绍了使用kubeasz工具部署高可用Kubernetes集群的详细步骤。kubeasz是一个基于Ansible-playbook的自动化部署工具，支持二进制方式部署K8s集群，提供灵活的配置选项和多种网络插件选择。文章详细说明了部署前的准备工作，包括系统要求、节点规划、免密登录配置等，并提供了完整的部署流程，从下载工具脚本到最终集群安装。同时，文章还对比了docker和containerd的命令差异，建议使用nerdctl作为替代方案。最后针对部署过程中可能遇到的问题给出了解决方案，如镜像源配置、ip
2025-12-27 22:56:15
1907
原创 Kubernetes资源对象，命名空间pod详解
Kubernetes Namespace与Pod核心知识摘要 Namespace： 资源隔离机制，分为集群级（Node、PV）和命名空间级（Pod、Service） 使用场景：环境隔离、多团队协作、资源配额控制 系统命名空间（default/kube-system等）不可删除 管理命令：kubectl get/create/delete ns Pod： 最小调度单元，包含1个或多个容器（共享网络/存储） 类型：自主式Pod（无自愈）和控制器管理Pod 关键配置：资源限制、健康探针（Liveness/Read
2025-12-26 11:27:09
932
原创 Kubernetes资源清单全解析
Kubernetes资源管理指南摘要：Kubernetes采用JSON/YAML格式定义资源对象，标准结构包含apiVersion、kind、metadata、spec和status五大字段。YAML是主要配置语言，需注意大小写敏感和空格缩进。资源管理支持三种方式：1)指令式命令快速操作；2)指令式配置基于文件操作；3)声明式配置（推荐生产使用）通过apply实现幂等性更新。开发时可利用--dry-run生成模板、kubectl explain查询字段说明，或从现有资源导出配置。建议生产环境采用声明式配置配
2025-12-25 15:13:06
795
原创 Kubernetes 核心资源与 API 设计
摘要：Kubernetes核心资源类型包括工作负载类（Pod、Deployment等）、服务发现类（Service、Ingress）、配置存储类（Volume、ConfigMap）和集群级资源（Node、PV）。其API采用声明式设计，分为核心组和命名组，遵循RESTful规范。Kubernetes通过控制器模式持续对齐用户定义的期望状态（spec）和系统维护的实际状态（status），实现自动化运维。API设计强调声明式、互补组合、业务意图导向等原则，支持通过kubectl或直接HTTP请求访问。所有资源
2025-12-25 14:46:24
611
原创 Kubernetes 集群管理工具--------- kubectl 命令
本文系统介绍了Kubernetes集群管理工具及kubectl命令使用指南。主要内容包括： 工具对比：官方CLI工具kubectl（必需）、终端UI工具k9s（可选）和Shell插件kube-ps1（体验优化） kubectl核心语法与8大类命令分组（基本命令、部署命令、集群管理等） 资源对象缩写速查表（如po=pod、svc=service）及实用技巧 典型工作流示例和调试方法 交互优化建议：结合k9s提升效率，使用kube-ps1避免上下文混淆 摘要重点突出了工具选择、命令分类和实用技巧，帮助用户高效管
2025-12-25 10:56:43
891
原创 kubernetes containerd配置文件简介+镜像优化
本文档详细介绍了containerd的配置文件(config.toml)结构及各项参数含义。主要包含三部分：1)基础配置如数据存储路径、插件管理；2)各类服务配置包括gRPC、CRI插件(镜像管理、运行时设置)、垃圾回收等；3)镜像优化配置，说明如何通过certs.d目录设置镜像仓库mirror。重点指出CRI插件中registry配置路径默认为/etc/containerd/certs.d，与Docker兼容，并提供了hosts.toml的镜像加速示例配置。该配置文件全面控制了containerd的运行时
2025-12-24 16:40:49
1334
原创 Kubernetes架构解密：从零掌握容器编排，只需五步
Kubernetes（K8s）是容器编排平台，解决传统部署的运维痛点。核心采用声明式API和控制循环机制，实现应用自愈与自动化管理。架构分为控制平面（kube-apiserver、etcd、scheduler等）和工作节点（kubelet、kube-proxy）。关键特性包括：Pod作为最小调度单位、Service提供稳定访问、资源QoS分级保障。典型实践需结合GitOps和HPA自动扩缩容，同时注意安全设计（TLS+RBAC）。K8s通过标准化容器管理，大幅提升分布式系统的部署效率和可靠性。
2025-12-23 14:26:01
1067
原创 Kubernetes 的部署方式 （二）通过 kubeasz部署单机版1.34.1
本文详细介绍了在Ubuntu 22.04 server上使用kubeasz工具部署Kubernetes集群的完整流程。主要包括：1) 系统准备，要求4G内存/30G硬盘的最小化安装；2) 下载kubeasz 3.6.8版本代码、二进制文件和容器镜像，解决国内访问Docker Hub不稳定问题；3) 通过容器化方式运行kubeasz并部署all-in-one集群；4) 安装验证和基本操作命令；5) 集群清理方法。文档特别针对国内网络环境提供了镜像源配置方案，并记录了安装过程中可能遇到的错误及解决方法，如ipt
2025-12-21 20:28:10
1638
原创 Kubernetes 的部署方式 （一）通过 Minikube 部署
本文介绍了在Ubuntu系统上手动部署Minikube集群的完整步骤。主要内容包括：1)安装Docker环境；2)创建普通用户并配置Docker权限；3)下载安装Minikube二进制文件；4)启动Minikube集群（要求内存大于3GB）；5)验证集群状态。整个过程详细记录了命令执行和系统反馈，最终成功部署了一个包含CoreDNS、etcd、API Server等组件的Kubernetes测试环境，为开发者提供了本地K8s开发测试的解决方案。
2025-12-17 16:22:36
349
原创 一句话 讲述容器本质（docker为例2025）
本文对比了虚拟机和Docker的技术差异，详细解析了Docker的工作原理。虚拟机需要完整操作系统，资源占用高且启动慢；Docker利用宿主机内核，资源利用率高，启动仅需0.5秒。Docker通过Cgroups、Namespaces和UnionFS实现资源限制、隔离和镜像分层。架构分为Docker Engine、containerd和runc三层，支持多种网络模式。镜像构建推荐使用可追溯的Dockerfile而非commit方式。最后强调业务逻辑容器应保持无状态，有状态服务需特殊处理。这些特性使Docker
2025-11-19 16:25:18
802
原创 LVS NAT/DR 模式 负载均衡Keepalive 高可用+DR
本文详细介绍了基于LVS的NAT模式负载均衡实验配置，以及Keepalived高可用方案的实现过程。实验环境包含四台主机：LVS负载均衡器、客户端和两台后端HTTP服务器。配置步骤主要包括网络环境设置、后端服务器部署、LVS集群服务配置及测试验证。 在Keepalived部分，详细阐述了双机热备方案的实现，包括VRRP协议原理、网络规划、主备服务器配置、健康检查机制和故障转移测试。关键点包括：VIP在同一子网的技术要求、LVS-DR模式的工作原理、必要的内核参数调优，以及详细的故障排查指南。 该方案通过Ke
2025-11-17 16:17:14
1017
原创 docker进阶---docker底层实践2025
本文详细介绍了Docker的安装配置与优化方案。内容分为两个主要部分： Docker安装： 提供了在线安装的完整步骤（系统工具安装、GPG密钥配置、阿里云镜像源设置） 包含离线安装方案（二进制包下载、systemd服务配置、安装脚本生成） 系统级优化： 设计了7个systemd配置文件（代理、资源限制、安全加固、日志、性能、可靠性、containerd优化） 每个配置文件都有详细注释说明其作用和安全考量 提供一键部署脚本和验证检查清单 技术深度： 详细解析了Linux Namespace隔离机制（6种类型）
2025-11-11 16:50:11
1083
1
原创 揭秘Docker容器执行链路与核心技术
容器原理与执行链路 Docker容器启动链路为：CLI→dockerd→containerd→shim→runc→kernel（Namespace/Cgroups）。containerd-shim解耦容器生命周期与daemon进程，确保dockerd重启不影响容器。runc按OCI规范创建容器进程后退出，父进程由shim接管。 安全隔离机制 UserNamespace实现UID映射，容器内root≠宿主机root；MountNamespace隔离文件系统视图；PIDNamespace隐藏宿主机进程。Cgro
2025-11-07 17:40:50
919
原创 Docker 核心技术原理（2025年演进趋势与生产实践）
容器本质上是受限制的Linux进程，通过内核机制实现资源隔离与限制。其核心依赖runc作为OCI运行时，配合Linux内核的Namespace、Cgroups等机制完成操作隔离、资源限制和安全控制。2025年技术演进重点包括：User Namespace成为安全基线，Cgroupv2提供精细化资源管控，EROFS等新型存储驱动提升性能。安全防护呈现多层防御趋势，从镜像构建到运行时均需强化安全配置。整个容器技术栈体现出轻量、标准化的特点，所有隔离与限制最终由Linux内核实现。
2025-11-07 15:38:53
813
原创 云计算运维监控实战：生产环境与自建方案对比
阿里云运维监控与云管理服务在生产场景中的优势 摘要：本文对比了阿里云运维监控服务(SLS、ARMS、Prometheus等)与传统自建方案在电商、金融等领域的应用。云服务提供开箱即用的日志分析、性能监控、全链路追踪能力，解决了自建ELK、SkyWalking等方案需要维护存储、高可用等问题。云管理类服务(云治理中心、RAM等)提供合规审计、成本优化等能力，避免了自建RBAC系统、审计Agent的开发成本。备份迁移服务(DTS、云备份)实现秒级灾备和数据库无感迁移，替代了自建同步逻辑的开发。整体而言，阿里云服
2025-11-07 10:22:32
1101
原创 自建数据库vs云端数据库
摘要：云端数据库服务（RDS、PolarDB等）相比自建数据库优势显著：运维从数周缩减至分钟级（如RDS 10分钟自动扩容），故障切换从3分钟降至秒级（PolarDB<10秒），性能提升显著（TPS最高达3.5万）。真实案例显示，电商/银行等客户使用后实现零故障、成本下降60%（银行年省12万）、运维效率倍增（如Redis库存准确率100%）。云数据库通过托管服务和弹性架构，解决了自建数据库在扩容慢、高可用差、人力成本高等痛点。
2025-11-07 10:18:40
539
原创 云计算-容器篇
（流量管控、灰度发布全交给Sidecar）。（CI/CD、视频转码“用完即走”）。（GPU/ARM节点按需买按需删）。（不用管版本升级、控制台高可用）。：这些产品不是“技术概念”，全是。（漏洞扫描+全球加速）。（全国集群统一纳管）。
2025-11-07 10:11:40
317
空空如也
go语言中 函数返回值有或者没有有什么区别或影响吗
2022-02-08
TA创建的收藏夹 TA关注的收藏夹
TA关注的人