自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(161)
  • 收藏
  • 关注

原创 RedisLockRegistry redis分布式锁(加锁/续期)使用

如果后续锁竞争更重,或者需要更完善的 Watchdog、公平锁、Pub/Sub 唤醒,可以逐步演进到 Redisson。所以它不是检测“业务方法有没有返回”,而是检测。同一个 lockKey,多次。,key 就是你传入的锁名。对象,不会重复 new。

2026-11-06 15:45:06 202

原创 http请求里的文件样式

HTTP 文件上传(

2026-11-04 15:46:52 190

原创 VLLM部署大模型常用参数介绍

vLLM 的参数非常多,而且会随版本变化。看当前版本真实支持的参数。下面按生产部署常用维度整理一份,不是逐字枚举全部,但覆盖vllm serve核心参数。

2026-10-15 19:23:02 103

原创 A2A简述

做成向量,用户 text 进来后先做向量召回,再让大模型从 Top-K 里选。LangChain v0.3 之后也开始提供 A2A 相关集成能力,但具体类名和用法要以你安装的版本为准。是 Agent Card 里声明的能力标识,服务端收到请求后,需要自己决定走哪个 skill。,解决的是 Agent 之间怎么发现、委托、跟踪和交付任务。生产环境可以加一层网关或注册中心,让客户端只面对一个入口。如果 skill 很多,可以把每个 skill 的。这部分是刚才缺的重点。是可选字段,服务端不要强依赖它。

2026-10-10 19:02:24 199

原创 高网和GPU搭配

bash# 1. 节点装驱动GPU 驱动高网/RDMA 驱动# 2. 集群部署插件# 3. 提交训练任务。

2026-09-23 18:39:00 53

原创 Redis Streams 发布订阅

Stream 的消息存储在内存中,如果 Redis 没有配置 AOF 或 RDB 持久化,进程挂掉后所有数据直接消失。Redis 主从复制是异步的,主节点写入消息后还没来得及同步到从节点就挂了,故障切换后这部分消息会丢失。每秒刷盘一次,极端情况下(比如 Redis 在刷盘间隔内崩溃)可能丢失最近 1 秒内写入的消息。消息被消费后、ACK 发送前消费者崩溃,消息会留在 PEL(待确认列表)中被重新投递,导致。而非丢失——但如果你业务侧没做幂等,效果上等同于"数据异常"。

2026-09-20 14:59:11 151

原创 重排召回探讨

为了让你更直观地理解,我做了一个对比表:表格特性Rerank (重排序)权重排序 (Weighted Sort)核心目的提纯:从粗排结果中挑出最精准的融合:综合多个维度的指标计算方式使用 AI 模型(Cross-Encoder)深度计算使用数学公式(加权求和)计算输入数据用户问题 + 候选文档文本多个来源的检索结果及分数性能开销高(需要调用模型推理,速度较慢)极低(纯数学计算,速度极快)适用场景对回答质量要求极高的 RAG 问答搜索引擎、推荐系统、多路召回融合。

2026-09-18 15:19:24 158

原创 新版 2026 MCP交互

表格变化点旧版(2025-11-25)新版(2026-07-28)握手必须先initialize握手已移除,直接发请求会话依赖头已移除,完全无状态自描述握手时声明能力每个请求在_meta中携带版本和客户端信息路由头无新增Mcp-Method和Mcp-Name头,且必须与 body 镜像一致服务端主动请求依赖常驻双向流改为MRTR(多轮往返),服务端返回,客户端重试缓存提示无列表类响应新增ttlMs和cacheScope字段。

2026-09-17 20:19:22 197

原创 知识库构建探讨

表格环节核心要点Embedding 调用HTTP POST 传入文本列表,返回向量数组;支持批量调用提升效率语义切分五步流水线:句子切分 → 逐句 Embedding → 相邻距离 → 阈值 →断点合并(语义相近段落整合)超长二次切分合并后若超过,按标点递归降级或强制截断URL 加载解析 HTML 为文本,自动提取 source 等元数据向量库存储四元组:ID + Vector + Metadata + Document;索引用 HNSW 加速查询补充。

2026-09-17 19:05:57 103

原创 GPU分卡

所以你只需要在 Pod YAML 里写,剩下的选卡、分配、挂载全部由插件自动完成,你不用操心具体是哪两张卡。

2026-09-16 20:03:07 59

原创 redis 配置ACL 细粒度权限控制

和,两者不能同时使用(否则 Redis 启动会报错退出)。

2026-08-25 21:26:52 198

原创 使用原生ES当向量数据库

解耦设计:ES 客户端只负责“存”和“搜”,不负责“文本转向量”。写入流程:在接口中,先调用拿到float[],然后,最后交给 ES 存储。检索流程:在search接口中,用户的查询语句query也必须先经过变成向量,才能传给 ES 的进行比对。

2026-07-29 20:22:30 203

原创 ASM详解

首先,我们需要一个被代理的普通类(无需实现接口)和一个用于定义增强逻辑的拦截器。java// 1. 目标类:一个普通的类,没有实现任何接口System.out.println("【核心业务】添加用户: " + username);// 2. 拦截器:实现 MethodInterceptor 接口,定义前置和后置逻辑/*** 所有被代理的方法调用都会经过这里* @param obj 代理对象本身* @param method 被调用的方法* @param args 方法参数。

2026-07-29 14:48:49 241

原创 java agent开发

不直接 System.out 打印,放入阻塞队列 + 异步线程发送到 ELK、SkyWalking、自定义埋点服务。支持:SpringMVC、SpringBoot 内置 Tomcat、Jetty 等 Servlet 容器。超大 Body(如文件上传)只截取前 2048 字节,防止 OOM。在 ThreadLocal 存入 traceId,串联全链路日志。对 password、token、身份证、手机号替换为。如需 RPC 报文采集,继续增强 Dubbo。直接跳过采集,减少无用日志。,避免日志泄露敏感数据。

2026-07-29 14:46:42 190

原创 微调checkPoint操作

checkPoint:每次训练完成保存的权重参数。

2026-07-21 15:16:11 148

原创 大模型微调完整分类

就是你说的「普通微调」,最基础一环。

2026-07-21 14:37:36 405

原创 构建沙箱环境的尝试

CRD 定规则,Controller 管资源池,Gateway 做路由,Pod 内部 Agent 干苦力。

2026-07-21 14:07:29 170

原创 K8S使用CRD和控制器简单应用

首先,我们定义一个名为PodLabeler的自定义资源。用户提交这个资源后,控制器就会按照里面的规则去给 Pod 打标签。yamlmetadata:spec:versions:- name: v1schema:spec:labelKey:description: "要添加的标签键 (Key)"description: "要添加的标签值 (Value)"selector:description: "匹配 Pod 的标签选择器"names:- pl这是控制器的核心逻辑。它会监听。

2026-07-21 10:47:10 249

原创 auth2.0代码简单实现

组件角色地址端口B系统(auth-server)授权服务器9090A系统(client-app)客户端应用8080核心要点:A系统配置B系统地址→授权码模式是最安全的OAuth2模式,token不会暴露在浏览器URL中A系统只需要知道B系统的地址、client-id、client-secret,其余流程由Spring Security自动处理实际项目中,B系统的用户数据应从数据库查询,token应持久化存储。

2026-07-14 16:58:52 180

原创 python代码探针方案OpenTelemetry

在 OpenTelemetry 中,Metrics(指标)是用于量化系统行为和监控应用程序性能(如 HTTP 响应时间、错误率、吞吐量等)的重要信号。1. 获取 Meter(仪表)从中获取一个Meter,它是创建和管理指标的主要入口。python# 获取一个 Meter,通常传入服务名称作为标识2. 创建 Instruments(度量仪器)根据业务需求选择合适的仪器类型。Counter(计数器):用于只增不减的值,如请求总数、错误数。Gauge(仪表盘)

2026-07-14 16:00:34 180

原创 kubeconfig 文件生成和赋权

这里假设目标命名空间为。您可以将以下内容保存为。(如需修改,请全局替换。

2026-07-13 16:18:45 243

原创 python cli语法

等注解自动路由 HTTP 请求,只是 Typer 路由的是 CLI 参数。通过typer CLI框架实现装饰器和CLI联动。对象中,建立"命令名" ↔ "函数"的映射。(子命令名)去查找对应的函数,然后执行。类似于 Spring Boot 根据。上述代码最后执行命令。

2026-07-13 11:12:05 32

原创 OAuth2 四种鉴权逻辑

✅ 密码只在授权中心,客户端不接触明文;支持单点登录、刷新令牌;✅ 流程最简单,不用跳转、不用 code ❌ 客户端必须拿到用户明文账号密码,极度不安全。✅ 最简单,不用用户登录,服务之间调用无感知 ❌ 无法绑定操作人员,只能代表服务本身。Token 存在浏览器,极易被 XSS 窃取,无刷新机制,安全漏洞极大。定时任务、后台同步服务、系统间纯后端 RPC 调用(不需要登录用户)所有带前端页面、多系统 SSO、对外第三方接入(标准推荐),全部改用授权码模式(前端请求走后端代理交换 code)

2026-07-09 15:19:44 273

原创 Spring Security

java运行@Service@Autowired@Override// 1. 查询用户throw new UsernameNotFoundException("用户名不存在");// 2. 查询用户所有角色// 3. 封装角色权限 ROLE_xxx// 4. 根据角色查操作权限 sys:xxx:xxx前端 POST/doLogin携带 username/passwordSecurity 自动拦截,调用查询用户、角色、所有操作权限对比密码,成功执行登录成功处理器。

2026-07-09 11:07:00 243

原创 推理引擎原理优势和原则

如果您是在。

2026-07-06 16:06:23 395

原创 mysql动态切换

数据库的动态切换是一场高可用组件在底层通过精准的 SQL 指令与分布式节点协同,完成的。

2026-06-24 16:37:27 244

原创 MCP SSE协议发送和Stream Http协议发送

(这个命令应该很快就会返回一个包含协议版本的 JSON)(这个命令会返回 HTTP 200,但可能没有内容)就可以收到结果了,这个是针对相同sessionID得。,在 EventStream 里复制最新的。建议使用人家封装好的工具省的自己搞。

2026-06-11 19:41:29 95

原创 ZK双活部署探讨

一旦 Leader 收到了过半的 ACK,它就会在本地提交这个事务,更新内存数据,并向所有节点(包括那些还没返回 ACK 的节点)广播一个 Commit(提交)消息。还有一种极端情况:机房 A 的 Leader 只是网络卡顿了(假死),机房 B 的 Follower 以为 Leader 挂了,选出了新 Leader。如果 Leader 把提案广播给了 Follower,也收到了部分 Follower 的 ACK,但还没凑够“过半数”的 ACK,或者凑够了还没来得及发送 COMMIT 消息就宕机了。

2026-06-10 11:37:23 694

原创 PyPI私有化部署和使用

执行后,目录里会塞满所有的包文件。您可以将其压缩,通过 U盘或内部文件服务器带到离线环境。(注:如果是生产环境,建议配合 Nginx 做反向代理,并配置。(例如金融、军工等隔离网络),需要提前把依赖包打包搬运过去。启动后,您的私有 PyPI 服务器就运行在。首先,在一台内网可访问的机器上安装并启动。就会完全在本地完成所有依赖的解析和安装。命令直接从本地服务器拉取包,可以使用。如果您希望像使用公网镜像源一样,通过。将离线包目录拷贝到离线机器上(例如。其他机器在使用时,只需通过。

2026-06-09 21:21:22 244

原创 虚拟线程整理

虚拟线程是 JDK 21 正式引入的轻量级并发原语。它不是操作系统级别的线程,而是由 JVM 在用户态管理的极轻量级对象。其核心目标是以极低的成本支持超高并发,彻底解决传统线程模型在 I/O 密集型场景下的瓶颈。

2026-06-09 17:17:44 220

原创 K8S自定义API

CRD 注册成功后,Kubernetes 就认识MyApp这种新类型了。现在你可以像创建 Pod 一样,创建一个MyApp的实例。新建一个apiVersion: example.com/v1 # 注意这里的 apiVersion 是 <组>/<版本>kind: MyApp # 这里的 kind 对应 CRD 里定义的 names.kindmetadata:spec:# 创建自定义资源实例# 查看你创建的自定义资源(可以用复数,也可以用简写 ma)# 或者。

2026-05-29 14:43:04 112

原创 AI预测过程拆解

拿到变形后的 KQV,大模型的使用逻辑就是:用Q去问,用K来答,算出谁跟谁关系好;然后根据关系好坏,按比例去提取大家V里的干货,最后把所有干货打包,生成一个包含了整句话上下文精华的全新向量。这个新向量,才会被送进后面的 FFN(前馈网络)继续加工,最终预测出下一个字!

2026-05-28 15:22:59 401

原创 GPU算力动态调度

安装 Ubuntu 22.04, NVIDIA Driver, Docker, Ray。适用于 A100/H100,将一张卡切分为 7个1g.5gb 实例。适用于共享一张卡,通过时间片分发。

2026-05-24 13:24:15 93

原创 AI 用户卡片展示方案

简单来说,就是把“骨架(HTML)”和“血肉(Mock数据/真实数据)”完全分开存放。底层确实就是两个独立的文件(或两份独立的代码资源),只有在最后展示的那一瞬间,才会通过代码把它们“组装”起来。

2026-05-19 16:39:10 345

原创 raft一致性协议

文件名示例作用:这就是我们刚才聊的 Metadata。它记录了所有的 SST 文件清单以及它们的 Key 范围。特点:它是追加写的。数据库每次启动,都要读这个文件来重建内存里的地图。

2026-05-08 10:36:58 424

原创 jdk 21虚拟线程

在 Java 21 之前,Java 的Thread是对操作系统线程(也称为平台线程)的一层薄封装,两者是 1:1 的关系。资源开销大:每个平台线程需要占用约 1MB 的栈内存,创建数千个线程就可能耗尽系统内存。调度成本高:线程的创建、销毁和上下文切换都由操作系统内核完成,成本高昂。轻量级:它是由 JVM 管理和调度的用户态线程,不直接对应操作系统线程。M:N 模型:大量的虚拟线程(M)会被复用到少量的平台线程(N,也称为载体线程/Carrier Thread)上执行。成本极低。

2026-04-28 15:56:02 243

原创 评测系统设计

利用一个或多个能力更强的“裁判模型”来评估目标智能体的输出。它不再是简单的规则匹配,而是进行语义理解、逻辑推理和综合判断,提供媲美人类专家的规模化评估。解决人工评测成本高、速度慢的问题,同时弥补传统自动评测(如关键词匹配)无法理解语义、逻辑和上下文的缺陷。:用户上传QA问答对 -> 配置智能体 -> 生成AI答案 -> AI根据规则打分。这三种模式并非相互替代,而是在智能体生命周期的不同阶段扮演着互补的角色。:智能体运行一段时间 -> 抓取真实用户QA -> 人工打分。

2026-04-27 10:53:36 398

原创 HikariCP核心机制

全局唯一存放:整个连接池全部物理数据库连接(PoolEntry)所有连接的出生地、总库存、全局兜底池特点:所有线程可见、并发安全,是公共资源池sharedList:全局总库存,所有连接出生地和最终归宿,运行中持续回血;threadList:线程懒加载私有 List,专门处理嵌套归还,用来无锁复用、绕开全局锁;借取逻辑:先自己、再偷别人、再公共池、最后阻塞;归还逻辑:自借自还回本地(满则溢出),偷来的必回公共池;核心目的:用两层缓存 + 偷取机制,把高并发下的锁竞争降到最低。

2026-04-27 09:11:08 184

原创 Redis + SSDB 冷热分离实战方案

读取后,这份数据会被加载到内存的 Block Cache 中。允许你精细调整 RocksDB 的行为,例如缓存大小、压缩算法等,以适应不同的冷热数据比例和硬件条件。由于 Kvrocks 完全兼容 Redis 协议,你的 Spring Boot 应用可以像连接普通 Redis 一样连接它。①当你读取一个 Key 时,Kvrocks 首先会在内存的 Block Cache 中查找。②被淘汰出内存的数据并不会丢失,它依然安全地存储在 RocksDB 中,此时它就变成了。作为高速缓存,存储最常被访问的数据。

2026-04-24 10:23:02 355

原创 标注平台投喂

将标注平台产出的数据“喂”给大模型进行训练(通常指),并不是简单地把文件丢进去就行,而是需要经过这三个关键步骤。针对你提到的三种模态,它们的处理逻辑和最终输入格式有很大区别。

2026-04-23 18:24:49 406

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除