- 博客(28)
- 收藏
- 关注
原创 FPGA PCIe P2P通讯 实现 GPU Direct RDMA
H100 所在服务器提供 Gen3 x8 插槽,带宽约为前两者的 2 倍。H100 平台 GPU Direct 带宽达 PCIe Gen3 x8 理论极限的 93.5%,RTX A4000 达 Gen3 x4 的 89%,传输效率业界领先。GPU Direct: FPGA ──PCIe DMA──→ GPU显存 (1次拷贝, 零CPU参与)传统路径: FPGA ──DMA──→ CPU内存 ──cudaMemcpy──→ GPU显存 (2次拷贝)
2026-07-11 14:45:32
278
原创 SGLang本地大模型服务缓存清理
当下版本的KTransformer,相比于旧版本,多出来一个多用户的特性:一个本地模型加载起来之后,支持多路的会话。在释放缓存之前,这个sglang任务所占据的显存空间为:27196MiB,而运行上述指令,清空缓存之后,剩下27064MiB的显存空间。由于显卡资源比较有限,没必要让所有的会话都一直用缓存占据着空间,闲时或者有紧急任务穿插的时候,可以释放一部分显存出来用。话,显存占用还是持久化的保存着。这个操作不一定只能在本机运行,一般如果是远端会话结束,也可以用这条指令清空缓存,开启一个新的会话。
2026-07-11 14:44:00
286
原创 Dify — Chatflow - 数据库智能查询
建数据库image在mysql中的 dify_chatflow 数据库下,创建表及插入数据:(来源:马士兵教育)– 使用dify_chatflow数据库– 客户表customer_id INT AUTO_INCREMENT PRIMARY KEY COMMENT ‘客户ID’,name VARCHAR(100) NOT NULL COMMENT ‘客户姓名’,email VARCHAR(100) COMMENT ‘客户邮箱’,
2026-07-10 15:49:56
177
原创 PortSwigger SQL注入LAB10
我们先来看LAB10的题目,他说应用使用了cookie进行了跟踪分析,跟之前不同的是SQL的查询结果不会返回也不会显示错误信息了,这倒是更加贴近实际了,但是如果返回了任何行的话,页面会显示"Welcome back"的消息。再往下面就不需要过多的解释了,目的就是为了判断括号内中的语句是否成立,如果成立的话,整段语句成立,服务器便会返回"Welcome back",反之,如果括号内的语句不成立,便不会返回"Welcome back"若相等,服务器会回显 “Welcome back” 提示。
2026-07-10 15:49:20
180
原创 Openai Codex 重大更新 已支持接入任意开源大模型
关键配置项说明model:模型名称,可以是任意字符串,Codex 会传递给后端model_provider:指向下方定义的提供者 IDmodel_reasoning_effort:推理强度,可选 low、medium、highbase_url:API 服务的完整地址,支持远程地址wire_api:API 协议类型,responses(OpenAI Responses API)或 chat(Chat Completions API)
2026-07-09 17:50:04
351
原创 全新强化学习框架 BeautyGRPO:重塑真实人像
然而,对 AI 而言,这是一项极为严苛且微妙的任务:它既要像手术刀般精准剥离痘印、斑点等微小瑕疵,又要让肌肤透出真实的“自然呼吸感”,并完整保留诸如痣等极具辨识度的原生特征。将 BeautyGRPO 框架直接应用于通用的 Qwen-Image-Edit 大模型,有效化解了原模型在面部编辑时易引发的“身份偏移”和“过度平滑”问题,展现出极强的泛化潜力。审美对齐精准拟合:测试进一步证实,专属多维奖励模型的评分与人类真实评分展现出了极高的对齐度,强有力地证明了该模型真正“读懂”了人类的审美逻辑。
2026-07-09 17:49:23
164
原创 第5章-与HTTP协作的Web服务器
我们平时访问一个网站时,直觉上会以为浏览器直接连到了目标服务器。实际情况往往更复杂:请求可能先经过代理服务器,也可能经过网关、隧道、缓存服务器,最后才到达真正保存资源的服务器。
2026-07-08 16:14:07
192
原创 【Agentic RL / 强化学习 / OPD】OpenClaw-RL 源码阅读笔记 --- (5)--- 异步处理
分歧来源OpenClaw 处理方式剩余风险层1: 异步更新. gap Filter 改变分布503 pause + PPO clip 训练时知道哪些被 filter 了同步窗口内积压样本 filter 偏差不可消除层2: 训练/部署环境不同 探索/利用差异在线学习: rollout = deploy real-time 数据天然 on-distribution用户行为渐进漂移层3: reward ≠ 真实价值next_state 作为真实用户信号judge 仍是近似。
2026-07-08 16:13:34
166
原创 “OneTrans: Unified Feature Interaction and Sequence Modeling with One Transformer in Industrial Reco
荐系统的排序模型,长期以来沿用一种固定的两阶段范式:先用模块(例如)对用户历史行为序列进行编码,得到压缩的用户兴趣表示;再将其与用户画像、物品特征、上下文这些非序列特征拼接,送入模块(例如)完成高阶交叉。这一设计被称为这种两阶段范式存在两个根本性缺陷:其一是行为序列被压缩为固定向量之后,才与物品和上下文特征交互,这意味着物品特征无法在序列编码阶段对用户历史产生影响;其二是两个模块独立计算,无法共享 KV Cache、FlashAttention 等 LLM 工程优化,导致在线延迟偏高、扩展困难。
2026-07-07 16:04:41
212
原创 AScript中一个很有意思的语法
在编译执行模式下,static语句会在编译期间执行,也就是说static语句不会被编译,而是直接执行并返回结果。结果是预期的30了,我们可以在static语句中对字符串进行拼接处理,然后给到eval来执行。我们可以利用static语法的特性,在脚本中做一些初始化逻辑,比如从数据库中获取配置等。// 直接执行,不参与编译。// 编译结果:z = n * 2。15 // 如果当前为编译模式,则改为使用执行模式。解析执行模式下,static语句与非static语句是等效的;3 eval(s);
2026-07-07 16:03:53
195
原创 从词向量到大模型:NLP 技术演进浅记
作为词义表达的基础方式,其概念早于现代 NLP,20 世纪 50 年代随着自然语言处理领域萌芽开始,最初通过同义词互释的方式表达词义,为后续词的向量表示奠定基础,核心是通过相似语义关联理解词的含义。基于共现矩阵与点互信息(PMI)。正点互信息 PPMI 于 1990 年代在 NLP 中逐步成熟,基于"一个词的含义可由其周围的上下文词决定"这一核心概念,通过统计目标词与上下文词的共现概率,结合 PPMI 处理,得到词的分布式表示,属于传统的词向量构建方法。
2026-07-06 16:18:55
182
原创 WebSocket 连接池生产级实现:实时行情高可用与负载均衡
▍一句话记住本文轮询是 1.0,单连接是 2.0,连接池是 3.0。从 1.0 到 2.0,延迟从秒级降到毫秒级;从 2.0 到 3.0,可用性从“祈祷别断”升级到“断了也无感”。真正的生产级系统,不是能跑起来,而是断了能自己爬起来,爬起来后业务层完全不知道发生过故障。
2026-07-06 16:18:09
203
原创 Windows 下切换 Java 环境太复杂了,我做了个 cli 工具,可以快速安装,切换 Java 版本
如果你经常在 Java 8、17、21,或者 Temurin、Corretto、Zulu、Oracle、Microsoft OpenJDK 之间切换,在 Windows 上,切换使用目录联接(junction),速度很快,不会复制整个 JDK。,Java 版本就切过去了,不用反复改环境变量。安装 Java 21。安装器可以选择安装目录,也可以帮你把。可以把这个流程变简单。
2026-07-05 15:44:30
261
原创 当 leader 被隔离: etcd 网络分区深度分析
常情况下,各节点在自己的角色里好好干活。但是如果出现异常,比如网络分区后,各个节点会做什么呢?本文主要讨论网络分区等场景下各个节点,尤其是 leader 节点在做什么,以加深对etcd-raft模块的了解。
2026-07-04 18:49:07
215
原创 Raft算法处理细节
client发送写请求给Leader,请求到达Leader后,Leader还没开始向Followers发送数据就挂了,这时选举产生新Leader。B感知不到Leader,所以会发起选举,但是C能感知到Leader,但是由于其接收到了更大term的投票请求,所以C也放弃了A中的Leader,参与了新的选举。但B中的Leader的写操作处理可以获取到过半响应,所以能完成写操作,故A与B、C中出现脑裂,且形成了数据不一致。BC失去了Leader,都会发起选举,但是都无法获取过半支持,都无法选出新Leader。
2026-07-04 18:48:30
689
原创 PREEMPT_RT 技术实现:Threaded interrupt handler
同时隐式禁止抢占、禁止软中断,中断处理全程在执行。为了清晰描述,我用excel画了下面这张图。从图中可以看到,都不在内,运行在中。无论是内核线程还是用户程序,在中断发生时,都需要。在实时系统中,其实很多中断所做的并不是特别重要的工作,或者说,即使有些许延迟,也是的。主线内核中的默认中断行为,会严重影响的执行周期及抖动。
2026-07-03 19:00:23
225
原创 浅谈尾递归的优化方式
上一篇文章曾经谈到:“与普通递归相比,由于尾递归的调用处于方法的最后,因此方法之前所积累下的各种状态对于递归调用结果已经没有任何意义,因此完全可以把本次方法中留在堆栈中的数据完全清除,把空间让给最后的递归调用。这其实才是尾递归的“正统”优化方式,那么我们先暂时忘记之前的“循环优化”,从最简单的示例中查看这样的优化是如何进行的。这就是普通递归的缺陷。只可惜,这个优化完全是我们“一厢情愿”而已,这么做的前提是“理解”了函数的意义,把方法的迭代调用“拆开”,而编译器是无法(还是很难)帮我们优化到如斯地步的。
2026-07-02 18:07:18
163
原创 为你的网站定制一套统一的异常处理机制
原因很简单,一个网站的用户千差万别,用户习惯各不相同,用户所使用的电脑和软件平台也各异,网络环境更是大相径庭,所以网站发生异常情况的几率也是比较大的。既然异常不可避免,但我们应该为我们的网站制定一套异常处理机制,即如何更合理的为已经发生的异常善后。本文的讨论仅限于.NET环境的网站开发中的异常处理,其他平台的道理应该是一样的,只是具体的实现方式不同而已。上面的异常处理方法主要干了两件事情:第一,记录详细的出错信息,包括错误描述,时间,发生的程序集,堆栈跟踪,甚至当前使用网页的用户信息,IP地址等信息。
2026-07-02 18:06:23
182
原创 Hermes Agent 中的两套 Agent Loop
很多时候设计 Agent 架构时,天然会想先抽一个“统一循环”。Hermes 这套实现给了一个很实用的反例:只要场景的目标函数已经变了,循环层通常就不该强行共用。用户交互系统优化的是体验、鲁棒性和可恢复性;RL rollout 优化的是吞吐、并发和训练信号精度。它们都叫 A。
2026-07-01 19:33:19
180
原创 Excel不规则尺寸提取简洁技术教程(RegexString+Split2Array)
2. 输入公式:O268输入RegexString组合公式,P268、Q268、R268输入对应Split2Array公式;1. 尺寸位数调整:若尺寸超过5位(如1200.55),将正则中{1,5}改为{1,7};- column_index:拆分后取第几个结果(1=第一个,2=第二个,以此类推)。1. 单元格分工:N列(原始备注)、O列(尺寸汇总)、P/Q/R列(拆分尺寸);3. 批量执行:选中O、P、Q、R列对应单元格,下拉填充柄,完成所有订单处理。- Index:0(返回所有匹配尺寸,顿号拼接)。
2026-07-01 19:32:12
175
原创 VictoriaMetrics 1.146.0 源码专题【左扬精讲】—— 开篇总览
VictoriaMetrics 架构分层│├── [1] 应用层 (app/)│ ├── vminsert — 写入接入层(Prometheus/InfluxDB/DataDog/OTel 等 12+ 协议)│ ├── vmselect — 查询执行层(PromQL/MetricsQL/GraphiteQL + 查询调度)│ └── vmstorage — 数据存储层(Cluster 模式核心)│├── [2] 存储核心层 (lib/storage/)
2026-06-29 18:48:02
161
原创 将 Rust 绑定到 .NET 10:Oxigraph 的 FFI 桥接实践
SPARQL 自定义函数需要 Rust 在执行查询时回调到 C#。Rust 调用 C#,C# 再把结果返回给 Rust。// Rust 侧:函数指针类型// 全局注册表callback: CustomFnCallback, // C# 函数的指针Rust 收到callbackRust SPARQL evaluator → 遇到 my:func(?x)→ 查找 CUSTOM_FUNCTIONS["http://example.com/myFunc"]
2026-06-29 18:47:10
171
原创 [MAF预定义ChatClient中间件-01]LoggingChatClient——在调用LLM前后输出日志
日志是典型得高频操作,尤其是当我们将日志等级设置得很低得时候更是如此,所以针对日志输出的每一个微小的细节都会高倍放大,比如字符串拼接和值类型转换成引用类型导致的装箱等。我们可以利用Source Generator来生成日志输出的代码,从而避免手写日志输出代码可能带来的性能问题。在调用完成后会输出另一条日志,表示调用已经完成,并且会记录调用的输出内容。通过这些日志,我们可以清楚地看到每次调用的输入和输出,以及调用的时间戳等信息。,那么就会输出更详细的日志信息,包括调用的输入内容和输出内容等。
2026-06-28 16:57:31
182
原创 Flutter中,html 与 dart 桥接沟通
通过JavaScriptChannel,来实现监听html发送的消息的功能。通过JavaScriptChannel,来实现监听html发送的消息的功能。若为map,需要先转换为json字符串,避免引号冲突。若为map,需要先转换为json字符串,避免引号冲突。其实就是dart向html发送消息,使用。其实就是dart向html发送消息,使用。方法添加的,在网页端不需要声明。方法添加的,在网页端不需要声明。方法,执行一段js脚本。方法,执行一段js脚本。
2026-06-28 16:56:55
163
原创 SQL Server RAG 笔记3:SQLServer2025 向量数据库
│ 文档表 │ 1:N │ 文本块表 │ 1:1 │ 向量索引表 │大体的切分就是:文档信息 -> 文本切块原始信息 -> 文本切块向量数据信息。经历N多轮报错,终于调通了一条能跑通的方式。现在社区资源关于这部分内容不是很多,所以解决起来确实花了点时间,而且有些问题看上去确实很挠头,只能根据自己的经验找办法去规避。确实相比其它技术方案,可参考的资料确实少了些,不过相信后续随着微软的推进,相关参考资料会逐渐丰富起来。
2026-06-23 16:02:04
248
原创 Tomcat Container容器之Engine
这里你会发现,如下接口中包含上述defaultHost和jvmRoute属性设置;同时还有Service,因为Engine的上层是service。
2026-06-23 16:01:26
374
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅