- 博客(380)
- 收藏
- 关注
原创 论文洞察:面向RAG场景的KV Cache复用技术
CacheBlend通过对关键性KV进行重新计算,实现了不同文本块KV Cache的高效融合,核心思路是复用大部分预计算KV Cache,仅重新计算少量关键token的KV值以恢复交叉注意力,同时通过流水线优化隐藏额外计算延迟。CacheBlend解决了多文本块输入下KV Cache复用难、推理慢、质量差的问题,实现了非前缀文本块的KV Cache有效复用,从而提高了面向RAG场景的LLM推理效率。仅能复用输入前缀的KV Cache,多文本块场景下复用率低,速度接近全量KV重新计算;
2026-04-13 20:43:39
232
原创 论文洞察:面向长上下文场景的高效LLM推理方案
为解决这些问题,本文提出了一种面向长上下文批处理的高效LLM推理方案(KVO-LLM)。KVO-LLM通过算法和架构的深度协同,实现了KV Cache压缩率、LLM推理准确度、加速器的算力利用率三个目标,让长上下文场景中LLM的高吞吐量、高能效推理成为可能。在架构层面,提出了一种基于算子融合和跨批次交织处理的多核加速器,最大化处理单元和DRAM带宽利用率。,降低了注意力机制的计算强度低,导致了加速器的处理单元(PE)利用率低,从而造成算力资源浪费。KVO-LLM加速器。
2026-04-13 20:42:35
351
原创 从安装到排障:KeyarchOS适配smtpping-1.1.3-1全流程,解锁SMTP服务“测试-监测-优化”能力 | 浪潮信息KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接id=12126。smtpping 是一个用于测试 SMTP(简单邮件传输协议)服务器的工具,通常用于验证邮件服务器的可用性和性能。
2026-04-13 20:41:31
188
原创 告别权限滥用!KeyarchOS安装scponly-4.8-15,文件传输账号“仅传不登” | 浪潮信息KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。
2026-04-13 20:40:19
343
原创 论文洞察:基于重要性感知的多层级前缀KV Cache存储系统
IMPRESS是一种基于重要性感知的多层级前缀KV Cache存储系统,整合GPU内存、CPU内存和磁盘三层存储,通过有选择的加载磁盘中重要前缀KV Cache以减少I/O延迟,从而提高LLM推理性能。IMPRESS有效解决了LLM长前缀推理中的磁盘I/O瓶颈问题,为长上下文LLM推理服务提供了新的存储优化方案,且重要token识别过程开销很小,所以对现有LLM推理框架的影响较小。来减少LLM推理的I/O延迟。然而,当CPU内存不足时,KV Cache需要存储在磁盘上,由于。
2026-03-26 20:16:26
384
原创 KeyarchOS生态新基石:rpcbind-1.2.6-2,NFS集群/容器存储通信无缝对接 | 浪潮信息 | 国产操作系统KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。是一个在系统上运行的守护进程,用于管理RPC(Remote Procedure Call)的注册信息。
2026-03-26 20:14:09
390
原创 KeyarchOS×paperkey-1.4-1:构建企业级密钥容灾方案,功能实测全解析 | 浪潮信息KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。Paperkey 是一个命令行程序 Linux 它允许您以人类可读的格式导出 GPG 私钥。它的工作原理是删除私钥的冗余部分,只留下关键的秘密位。详细介绍见官网链接。
2026-03-26 20:12:30
366
原创 告别监控盲区!KeyarchOS安装nrpe-3.2.1-8,远程主机指标采集开箱即用 | 浪潮信息KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。NRPE是Nagios的一个功能扩展,它可在远程Linux/Unix主机上执行插件程序。通过在远程服务器。
2026-03-09 09:52:51
241
原创 终端也能玩跑酷!KeyarchOS安装moon-buggy-1.0.51-13,经典游戏开箱即玩 | 浪潮信息KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接id=12126。Moon Buggy是一款简单却极具挑战性的游戏,在Linux系统中备受欢迎。在游戏中,你将驾驶一辆登月车,在月球表面跳跃、避免障碍物,体验一种别样的探险,详情见官网。
2026-03-09 09:51:26
190
原创 【常见问题 13】系统磁盘乱序的根因分析与解决方案
若持久化标识名称过长,可通过udev规则为磁盘创建符号链接别名,实现固定路径访问。操作步骤获取磁盘唯一标识使用udevadm查询目标磁盘的WWID:# /dev/sdx替换为实际磁盘示例输出:磁盘A的ID_WWN为0x5002538c4058df56,磁盘B为0x5000c500b14d8392。
2026-03-09 09:49:36
585
原创 论文洞察:基于语义空间的可召回压缩的KV Cache管理
近期研究揭示了注意力计算的稀疏性,即只有一小部分token贡献了大部分注意力输出。为了实现高效且准确的可召回KV Cache压缩,本论文引入了ClusterKV,它以语义簇的粒度召回token,以指导LLM服务中的KV Cache管理,实现吞吐量提升与延迟降低。ClusterKV以语义簇为粒度实现了KV Cache的高效可召回压缩,在上下文长度高达32k的各种任务中仅使用1k到2k的KV Cache预算即可达到可忽略的精度损失,同时大幅提升推理效率。
2026-03-06 16:20:24
366
原创 论文洞察:大规模LLM服务集群环境下KV Cache特征分析与优化策略
本文基于上海交通大学、阿里巴巴在USENIX ATC25上联合发表的研究成果《KV Cache in the Wild: Characterizing and Optimizing KV Cache at a Large Cloud Provider》。研究通过分析阿里云通义千问大模型服务集群的两类生产环境负载轨迹(Production Traces),系统性地揭示了KV Cache在实际云环境中的工作负载特征,并提出负载感知的缓存淘汰策略,以指导LLM服务中的KV Cache管理,。
2026-03-06 16:18:50
480
原创 SCBench A KV Cache-Centric Analysis of Long-Context Methods
长上下文大型语言模型(LLMs)已经支持了许多下游应用,但也带来了计算和内存效率相关的重大挑战。为了解决这些挑战,基于KV Cache对长上下文推理进行优化设计。然而,现有的基准测试通常在单请求下进行评估,忽视了KV Cache在实际使用中的完整生命周期。这一疏忽尤其关键,因为KV Cache复用已经在LLMs推理框架(如vLLM和SGLang)以及LLM提供商(包括OpenAI、微软、谷歌和Anthropic)中广泛采用。为了解决这一差距,我们引入了SCBENCH(SharedContextBENCH),
2026-03-06 16:17:20
379
原创 从源码到实战:KeyarchOS适配mdevctl-0.61-3全流程,解锁mdev设备动态控制能力|浪潮信息KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。mdevctl 是一个开源的 Linux 命令行工具,主要用于管理和控制 VFIO Mdev(Mediated Device)设备。
2026-02-26 08:50:01
429
原创 KeyarchOS×libexttextcat-tools-3.4.5-2:国产化系统下的文本分类工具落地,助力多语言场景 | 浪潮信息KOS
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。libexttextcat-tools是一个与文本分类和语言检测相关的工具集合,它基于libexttextcat库。
2026-02-26 08:48:21
349
原创 【实践】基于云峦KeyarchOS的勒索病毒诱捕功能实践
本文在浪潮信息环境下,对KSecure在方面的作用进行了验证。在数字化浪潮席卷全球的今天,网络安全威胁日益严峻,勒索病毒更是如影随形,成为企业和个人用户面临的重大挑战。勒索病毒性质恶劣、危害极大,一旦感染将给用户带来巨大损失。为了有效抵御勒索病毒的侵袭,推出了勒索病毒诱捕功能,通过精准投放诱饵文件,为用户的数字资产安全构建起一道坚固的防护屏障。
2026-02-26 08:46:40
372
原创 基于KeyarchOS的OpenClaw部署实战:打造数据中心7x24小时的“AI管家”
近期,开源AI代理与自动化平台OpenClaw凭借“本地优先、主动执行、多渠道交互”的核心能力,迅速成为GitHub热门项目,从个人办公到团队协作,掀起一场AI自动化效率革命。(简称KOS)完成与OpenClaw的深度适配,并实现与飞书等主流办公与消息平台无缝打通,为企业级用户打造“智能执行+便捷操控+安全可靠”的基础设施底座,让AI Agent在服务器端的落地更稳定、更可控、更易用。
2026-02-09 11:03:45
666
原创 KeyarchOS|浪潮信息KOS 软件生态再升级:深度整合 isomaster-1.3.9-2,释放 ISO 编辑全部潜能
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。ISOMaster是一款功能强大的光盘镜像文件编辑工具,它专注于提供便捷、高效的ISO文件处理服务。
2026-02-09 10:07:30
415
原创 告别繁琐图形界面!KeyarchOS[浪潮信息KOS]通过 irssi-0.8.15-16 实现轻量高效 IRC 沟通
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。Irssi 是一款功能强大、模块化且高度可定制的开源命令行 IRC 客户端,由全球社区维护。它支持多网络连接、脚本扩展(如 Perl 脚本)和丰富的插件功能,常用于实时文本聊天和群组通信。
2026-02-09 10:06:04
340
原创 KeyarchOS适配ipvsadm-1.31-6
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。ipvsadm 是 Linux Virtual Server (LVS) 的管理工具,用于配置、管理和查看 IP 负载均衡规则。
2026-01-28 17:27:28
345
原创 KeyarchOS适配imapfilter-2.6.12-1
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。IMAPFilter 是一个邮件过滤实用程序,它通过 Internet 消息访问协议 (IMAP) 连接到远程邮件服务器,并向服务器发送搜索查询,并根据结果处理邮箱。
2026-01-28 17:26:11
392
原创 【实践】基于云峦KeyarchOS的BIG TCP深度解析与实践
随着云计算、大数据、人工智能等技术的快速发展,数据呈现出爆发式增长趋势,同时驱动着算力持续提升,然而,传统DRAM并未实现同步扩展以满足应用需求,应用对内存容量和带宽不断提高的需求,推动着内存扩展技术不断发展,在此背景下,CXL成为解决内存扩展瓶颈的最有前景的技术;小包场景中,要达到网卡的最大带宽,需要处理的数据包数量会激增,如100G带宽下,64字节小包的每秒处理量约为1.9亿个,此时CPU的处理资源会因高频中断和协议栈处理开销迅速耗尽,导致CPU先于网卡达到瓶颈,网卡带宽无法重复利用。
2026-01-27 10:08:44
627
原创 KeyarchOS适配finger-server-0.17-52
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。finger 是一个经典的 Unix/Linux 系统工具,用于查询用户的登录信息和状态。
2026-01-13 10:05:49
357
原创 KeyarchOS适配e00compr-1.0.1-6
浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统,支持x86、ARM等主流架构处理器,性能和稳定性居于行业领先地位,具备成熟的 CentOS 迁移和替换能力,可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接。e00conv是一个用于Arc/Info E00文件转换的工具,专门用于在不同的压缩级别之间转换 Arc/Info E00 格式的文件。
2026-01-13 10:04:00
336
原创 KeyarchOS适配dpdk-tools-18.11.8-1
dpdk-tools 是一组配套工具,用于支持和管理基于 DPDK(Data Plane Development Kit)的开发和部署环境。它包括多个实用工具,例如 dpdk-devbind、dpdk-pdump 和 dpdk-procinfo,分别用于设备驱动绑定管理、数据包捕获以及运行时环境信息查看。这些工具可以帮助用户快速配置网络设备、调试 DPDK 应用程序,并分析系统的网络性能和资源使用情况。
2025-12-17 08:42:07
366
原创 KeyarchOS适配dar-2.5.22-1
Disk Archive(简称dar) 是一款功能强大的命令行备份工具,专为目录树和文件的备份而设计。它不仅支持Linux、Windows、OpenSolaris、FreeBSD、NetBSD等主流操作系统,还能够在Mac OS X、Android以及Raspberry Pi等平台上运行。dar的核心功能由libdar库提供,并通过一系列命令行工具(如dar、dar_xform、dar_slave等)进行操作。此外,dar还提供了静态链接版本(dar_static),以满足不同系统环境的需求。详细见官网。
2025-12-17 08:40:40
620
原创 KeyarchOS适配calendar-1.28-1.20140613cvs
calendar 是一个简单的日历提醒工具,常用于在 Unix 和类 Unix 系统中查看近期的重要日期或事件。用户可以通过创建和编辑特定格式的日历文件,将个人的纪念日、节假日或其他重要事件记录下来,并使用该工具快速查看未来或过去几天内的事件。详情请见官网。
2025-12-17 08:39:08
366
原创 Linux运维效率“狂飙”!KOS智能助手使用攻略
还在为记不住Linux命令发愁?面对系统报错手足无措?KeyarchOS(简称KOS)开发了智能助手,通过自然语言交互打破技术壁垒,让Linux运维效率“狂飙”。下面,一起解锁这款运维神器的正确用法!
2025-12-08 08:51:21
80
原创 KeyarchOS适配calamaris-2.59-10
Calamaris 是一款开源的日志分析工具,主要用于分析和报告 Squid Proxy Server(或其他代理服务器)的日志文件。它可以帮助管理员了解代理服务器的运行状况、流量情况以及缓存命中率等,进而优化配置和提高网络性能,详情见官网。
2025-12-03 19:37:44
290
原创 KeyarchOS安装ykclient-2.15-1
-cai CAFILE 包含用于验证对等方的一个或多个证书的文件路径。--apikey Key 用于请求/响应HMAC验证的API密钥。使用rpmbuild命令进行编译和安装。--debug 打印调试信息。进入SPECS文件夹。
2025-12-03 19:36:11
408
原创 KeyarchOS安装tayga-0.9.2-3
d 启用调试信息(同时启用--nodetach)使用chroot()到数据目录(在配置文件中指定)使用rpmbuild命令进行编译和安装。将守护进程的进程ID写入pidfile。初始化后将gid设置为groupid。从configfile读取配置选项。初始化后将uid设置为userid。进入SPECS文件夹。
2025-12-03 19:34:30
240
原创 KeyarchOS适配ykclient-2.15
ykclient 是一个命令行工具,用于通过 YubiCloud 服务验证由 YubiKey 设备生成的一次性密码(OTP)。它允许用户将客户端标识符(CLIENTID)和 OTP 作为参数传递给命令,以确认 OTP 的有效性和唯一性,从而增强身份验证的安全性。ykclient 支持多种可选配置选项,如调试模式、自定义验证服务URL、证书验证等,以满足不同场景下的需求。详情介绍见官网。
2025-11-28 09:01:20
361
原创 KeyarchOS安装agedu-0-15.20171202.8a8299e
无密码登录mysql并更新root用户密码为newpass。可以使用以下命令,对/home目录扫描并生成报告。新建test数据库并查看数据库。打开网页,输入用户名和密码。启动并查看mysql服务。上传安装包至服务器并安装。
2025-11-28 08:59:52
336
原创 KeyarchOS安装afuse-0.4.1-3
afuse 完全在用户态运行,这意味着它可以利用用户的安全和环境设置,例如使用 ssh-agent 进行无密码 SSH 连接,afuse 可以自动挂载用户定义的远程文件系统。当用户尝试访问一个特定的挂载点时,afuse 会根据预设的模板自动执行挂载命令。这些模板支持占位符,如 %r(远程路径)和 %m(本地挂载点路径),afuse 会自动替换这些占位符。当尝试访问 /local/mount/point/ 目录下的某个路径时,afuse 会根据该路径自动填充 %r 和 %m 的值。
2025-11-28 08:58:20
521
原创 KeyarchOS适配tcpxtract-1.0.1-20
tcpxtract是一个基于文件签名从网络流量中提取文件的工具。基于文件类型的页眉和页脚提取文件(有时称为“雕刻”)是一种古老的数据恢复技术。像这样的工具使用这种技术从任意数据流中恢复文件。Tcpxtract专门使用这种技术来拦截通过网络传输的文件。满足类似需求的其他工具是漂网和EtherPEG。driftnet和EtherPEG是用于监视和提取网络上的图形文件的工具,通常由网络管理员用于监视其用户的互联网活动。
2025-11-21 14:35:34
299
原创 KeyarchOS适配seren-0.0.21-1
Seren是一个基于 Opus 编解码器的简单 VoIP(Voice over Internet Protocol)程序,允许你从终端创建语音会议,最多可容纳 10 名参与者,无需注册帐户、交换电子邮件或将人员添加到联系列表。加入现有会议所需的仅是其中一个参与者的主机名或 IP 地址。该程序还提供用户在通话进行中即时更改音质/比特率、加密通信以及记录通话的功能。详情介绍见官网。
2025-11-21 14:33:49
264
原创 KeyarchOS适配routino-2.0.3-1
Routino 是一个用于基于 OpenStreetMap 数据进行路由的开源工具,适合开发人员和技术用户。它可以为多种交通方式(如步行、骑行、驾车等)提供自定义路由,同时允许用户定义特定的偏好和限制条件,如路面类型、限速、单行道等。Routino 主要包含两个核心组件:routino-planetsplitter 用于将 .osm 格式的数据转换为 Routino 数据库,routino-router 则用于计算和规划路线。Routino 支持多平台部署,且提供丰富的配置选项,适合定制化需求。
2025-11-21 14:32:02
586
原创 KeyarchOS适配pmount-0.9.23-4_aarch
pmount是一个用于挂载可移动设备的命令行工具。它允许用户以非特权方式挂载和卸载可移动设备,如USB闪存驱动器、外部硬盘驱动器等。使用pmount,用户可以在不需要root权限的情况下挂载这些设备,这在安全性和便利性上都有一定的优势。pmount通常用于Unix-like系统中,比如Linux。详细见官网。
2025-10-28 08:57:33
379
原创 KeyarchOS适配hd-idle-1.05-4
hd-idle是一个开源项目,由开发者adelolmo创建。它的主要功能是监控和管理计算机硬盘的空闲时间,当硬盘长时间未被使用时,可以自动进入低功耗模式以延长其使用寿命并节省能源。详细见官网。
2025-10-28 08:56:01
377
原创 可移动媒体设备管理大师bashmount安装部署实践 | KeyarchOS(KOS)
bashmount是一个位于GitCode平台上的工具(该链接是GitHub项目的镜像地址),旨在通过命令行界面简化可移动媒体(如USB驱动器、外部硬盘等)的挂载和卸载操作。bashmount特别适用于需要频繁挂载和卸载可移动媒体的用户,如数据备份、文件传输、临时存储等场景。此外,它还可以作为系统管理员或脚本中自动化流程的一部分,用于处理大量可移动媒体的挂载和卸载任务。bashmount是一个实用的命令行工具,通过简化可移动媒体的挂载和卸载操作,提高了Linux用户的工作效率。输入1m,挂载vda1盘。
2025-10-28 08:54:17
705
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅