李昊轩的博客

Kubernetes网络协作机制解析 Kubernetes网络通过多组件协同工作： 基础假设：CNI插件(如Calico)保证Pod间直接通信，Service提供稳定访问入口 普通Service：CoreDNS解析域名，kube-proxy通过iptables实现流量转发，Calico处理Pod间路由 Headless Service：CoreDNS直接返回Pod IP，客户端直连，Calico处理路由，kube-proxy不参与 组件分工：CoreDNS负责解析，kube-proxy处理Service转发

本文介绍了RBG（RoleBasedGroup），一个专为多角色推理服务设计的Kubernetes编排扩展，用于解决Prefill-Decode（PD）分离架构的生产级部署难题。PD架构将大模型推理拆分为计算密集的Prefill阶段和显存敏感的Decode阶段，但带来了启动顺序、服务发现、资源管理等挑战。RBG通过定义角色模板和依赖关系，实现精细化扩缩容、优雅生命周期管理、自动服务发现等功能，并与OME Operator分层协作，使模型部署更高效。RBG还提供故障恢复机制和生产实践建议，确保多角色服务稳定运

摘要： 技术优化中，"Overlay"与"Overlap"常被混淆，但二者逻辑迥异：Overlay通过分层复用资源（如容器镜像共享），实现空间优化；Overlap通过并行交叉耗时环节（如异步IO），压缩整体耗时。典型场景包括容器存储（OverlayFS）、分布式网络（VXLAN）等分层复用，以及API批量调用、数据流水线等时间重叠。两者可协同使用，如容器环境下既用Overlay优化存储，又用Overlap加速启动流程，实现"空间+时间"双重性能提升

本文探讨了分层架构中实现反向通知的接口解耦方法。通过"K8S错峰控制器"的三层架构示例，展示了ResourceManager→StrategyManager→Dispatcher的单向依赖链。为解决策略更新需反向通知Dispatcher的需求冲突，提出了"接口订阅"模式：在策略层定义ReloadNotifier接口，由调度层实现该接口并在初始化阶段注册，使下层通过接口适配上层的通知契约。这种设计既保持了分层架构的单向依赖原则，又实现了模块间的松耦合通信，有效提升了系统

在人工智能领域，大模型发展势头正猛，但也遇到了不少难题，像计算成本高、处理复杂任务能力有限等。混合专家模型（MoE）的诞生，为这些困境提供了新的解决思路。

HAMi 全称为 Heterogeneous AI Computing Virtualization Middleware，是一个异构算力虚拟化平台。它最初源自第四范式的 k8s-vgpu-scheduler，如今不仅开源，还将核心的 vCUDA 库 libvgpu.so 开放出来。当前，HAMi 在 NVIDIA GPU 的 vGPU 方案方面表现出色，为我们提供了一种有效的 GPU 资源共享和切分解决方案。HAMi 提供了丰富的自定义配置选项，通过在安装过程中使用-set参数来修改。

调用链路我大概描述下。

然后这边 kubectl get pod 可以看到如我们所愿 有5个启动的pod 对应了上方的部署文件。通过拿到的运行期状态 来跟部署文件的期望状态对比 然后进行不同业务响应就ok了。写好这个文件后 直接通过自带的make命令 install 到k8s中。有了这个dacar类型之后 我们徒手制作一个这个类型的部署文件。由于这个是demo 我们就不把operator部署到集群侧了。在这个文件中定义 dacar 这个crd的spec。我们发现可以查看到这个crd了。apply 这个文件后。

本文承接上文后面应该还会有个下 应该是个operator的全程demo。

然后把apiserver公网暴露出来 并拿到apiserver的远程conf文件。身边要有一个k8s集群 阿里云ask可以免费使用 注意是ask 不是ack。好了 各位再见 下次再会。运行结果： 可以通的。

如果go mod tidy 加载模块超时。

对象池在一些特定情况下 可以提高我们程序运行的效率(如果你用的位置合适)首先我们自己手写一个对象池运行结果:前十个可以正常取出正常放回还可以再正常取出但是只有十个 如果连续取第十一个会 timeout。

D2 是一种声明式流程图的领域特定语言 (DSL)，声明式只需要描述你想要的流程图即可，它就会自动生成对应的图像。

SRE 全称 Site Reliability Engineering.DevOps 全称 Development and OperationsDevOps是开发拥抱运维，开发人员需要学习运维的相关知识能够承担运维的工作. 本质偏向开发Googel的SRE是运维侧发起的，运维去拥抱开发，运维的人员需要具备一定的开发能力. 本质偏向运维...

Go 启动的时候，会有一个守护线程 G0，计数，会记录每个 Processor 运行完成的协程的数量，如果发现某一个 Processor 在一段时间内没有发生变化（阻塞），就会往这个协程的任务栈里面插入一个特殊的标记，当协程运行遇到非内联函数，就会读到这个标记，将自己中断下来，插到等待协程队列的队尾，切换到其他队列的队尾。内核线程是由CPU直接调度，如果一个用户线程对应一个内核线程，调度效率来看肯定是快于多个用户线程对应一个内核线程的。当协程被中断的时候，它在寄存器中的运行状态，也会保存在协程对象中；

尽管之前一直被人抱怨存在各种问题，但 Istio 社区的开发脚步没有停歇，我们看到了一次又一次的版本发布从未间断，伴随着各种大大小小的功能更新和优化。就网易杭研而言，轻舟微服务将 Istio 引入生产环境也是极为审慎，事实上也曾遇到了运维和开发的困惑，而 istiod 架构设计的回归让我们彻底松了一口气，拥抱 Istio 实现服务网格的思路更加坚定。

nginx 可以设置 client_max_body_size，那么在 istio 场景下如何调整客户端的最大请求大小呢？

流量回放/复制, 从测试的角度, 本质是：通过把线上的真实流量复制到线下环境，解决测试环境模拟不够真实，或覆盖不够全面的问题。

k8s/非容器化 的 mongodb复制集的灰度重启

Jenkins 生产线 的比较正规的流水线解决方案

很多情况下 我们希望某些pod 禁止运行到一些worker节点上, 可以利用容器亲和性来实现例如下面 设置此pod调度在非ip为10.0.40.3的节点上, 而其他节点都可以 spec: affinity: nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: - matchExpressio

最近发现个有意思的东西 可以让docker可以反向导出dockerfile在 Docker 的日常运维过程中，可能会构建很多不同的镜像。维护一些基础 Docker 镜像，有些时候没有保存 Dockerfile，但是想查看一些公开仓库的 Docker 镜像是怎么构建的，或因为长时间不维护找不到当时构建镜像的 Dockerfile，或者因为网络无法查看时，就非常希望能从镜像导出 Dockerfile，这时可以试试whaler 命令先设置别名:alias whaler="docker run -t --rm

Kubernetes 提供了一种扩展机制，允许我们定义自己的资源类型，称为自定义资源。在集群上运行一个 pod 来监控某种类型的自定义资源并基于它管理其他资源，这就是 Operator模式。

主从的cm主从的svc , statefulset都被我合并到一个文件里了,应该是可以用的注意修改storageclass的名称注意apply的时候 -n 指定ns#application/mysql/mysql-configmap.yamlapiVersion: v1kind: ConfigMapmetadata: name: mysql labels: app: mysqldata: master.cnf: | # Apply this config on

列出你的集群中的 StorageClasses：kubectl get storageclass输出类似这样：NAME PROVISIONER AGEstandard (default) kubernetes.io/gce-pd 1dgold kubernetes.io/gce-pd 1d默认 StorageClass 以 (default) 标记。标记默认 StorageCla

直接干货吧这个kuboard对比原装的dashboard, 多了些资源的可视化编辑, 很像阿里云,阿里云, dashboard, kuboard, 都可以可视化快速exec pod 但是华为云不能这里做一个可视化好用程度的排序吧(仅供娱乐)阿里云 > kuboard > dashboard >= 华为云安装 kuboard(确保已经安装好了 metric-server )wget https://kuboard.cn/install-script/kuboard.yaml所

最近在搭建私有云k8s集群时, 由于一些安全原因, 没有使用标准端口(80, 443), 发现已部署在pod中的项目出现了重定向丢失端口的问题, 经过排查, 发现本质上不是丢失了端口, 而是默认重定向到了标准端口, http的重定向会默认到80, https会重定向到443端口, 下面我分享一下自己的解决方案方案:简单来说, 要实现ingress在非标准端口正常工作, 要保证以下几个结果, 这里我们以30052代替80, 30054代替443ingress-controller 的pod 需要工作在指

安装dockerdocker, docker-compose, 是安装harbor的前置依赖:首先看我之前安装docker的博文(包括centos8, 8以下的看文章后面就好) 安装docker composesudo curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

a

FQDN：(Fully Qualified Domain Name)全限定域名：同时带有主机名和域名的名称。（通过符号“.”）例如：主机名是host01,域名是mycompany.com,那么FQDN就是host01.mycompany.com。全限定域名可以从逻辑上准确地表示出主机在什么地方，也可以说全域名是主机名的一种完全表示形式。从全限定域名中包含的信息可以看出主机在域名树中的位置。DNS解析流程：首先查找本机HOSTS表，有的直接使用表中定义，没有查找网络连接中设置的DNS 服务器由他来

最近发现以上线的tomcat web服务静态资源加载比较慢, 而且每次都会重新从服务端拉取, 这里肯定是有缺陷并且需要改进的. 然后决定使用nginx解决, 通过配置静态资源缓存实现动静分离, 同时发现k8s的dns解析果然简单粗暴, 非常实用, 直接无侵入式的实现了nginx的负载均衡(通过在server块的地址里直接配置SVC), 搞定!后面我也会单独写一篇k8s的coredns/kubedns的工作原理, 和大家一起探讨.下面是详细的配置文件Nginx.conf# 静态资源加速, 动静分离

第一步比如我有一个项目A, 并且jenkins里配置的构建分支名称为 --> branchA所以在构建前, 需要将最新的master分支merge到branchA分支, 保证gctest拥有全部最新的代码变更.第二步以这个A项目为例,进入到Jenkins主页面点击我们的namespace 这个是我们的safefood集群的的namespase点击A项目进入到A项目管理页面后, 点击BuildNow下方会有个类似的进度条, 表示该系统正在构建, 可以点击进去, 查看详细构建lo

https://www.zhihu.com/question/430048535/answer/1582533126可以，但要看情况。以主流的SpringCloud为例，其提供的能力与Kubernetes既有重合也有互补，我们举几个例子逐一分析微服务各个核心组件。微服务网关网关几乎不涉及业务部分，各种实现也非常多，选哪个看业务契合度了。但Spring Cloud Gateway不能作为Kubernetes Ingress Controller，如果用不兼容Ingress的框架作为网关层，可能会损失一

集群管理员预先创建存储类（StorageClass）；用户创建使用存储类的持久化存储声明(PVC：PersistentVolumeClaim)；存储持久化声明通知系统，它需要一个持久化存储(PV: PersistentVolume)；系统读取存储类的信息；系统基于存储类的信息，在后台自动创建PVC需要的PV；用户创建一个使用PVC的Pod；Pod中的应用通过PVC进行数据的持久化；而PVC使用PV进行数据的最终持久化处理。...

首先我们把 svc 本身看做为首, svc的endpoints对应的pods看作是尾普通 svc我们可以看作是有头svc, 表示svc本身也有一个地址(cluster ip), dns查询时只会返回Service的地址, 具体client访问的是哪个Real Server，是由iptables来决定的headless svcheadless 无头, 无头表示这个svc的负载均衡是没有clusterip的, dns查询会如实的返回2个真实的endpointheadless优点第一种：自

portpod 暴露出来的端口 相对于k8s内部的ipnodeportpod 上层svc对外暴露出的端口, 相对与外部物理机targetportport内部对接容器的端口, targetPort是pod上的端口，从port/nodePort上来的数据，经过kube-proxy流入到后端pod的targetPort上，最后进入容器。containerport镜像暴露的地址, 在pod内部的docker(容器实现)暴露的端口...

首先我们要建立一个namespacekubectl create namespace kube-opspvc pv关于pv 我用的是阿里的k8s nas 所以点点点就好, 这里提供了yml创建方式, 一样的, 注意pvc的名字要和deployment声明的一致apiVersion: v1kind: PersistentVolumemetadata: name: opspvspec: capacity: storage: 20Gi accessModes: - Read

点击红框位置, 编辑yaml配置文件args这里增加一行 - '--token-ttl=43200'

不多说, 直接apply 下面文件kubectl apply -f dashboard.yaml# Copyright 2017 The Kubernetes Authors.## Licensed under the Apache License, Version 2.0 (the "License");# you may not use this file except in compliance with the License.# You may obtain a copy of t