- 博客(94)
- 收藏
- 关注
RSS订阅原创 [MLSystem] Why Can We Do KVCache?
This article explores the use of KVCache in LLM inference acceleration. By caching and incrementally updating the Key (K) and Value (V) matrices, we can significantly reduce computation during inference. The concept of "prefix invariance" ensures that most
2025-01-17 12:07:52
872
原创 【Log System】云日志服务系统设计对比
在当今云原生技术盛行时代，服务上云已成为不可逆转的趋势，云计算不仅为企业带来了弹性的资源扩展和降低成本的优势，还极大地提升了业务创新的效率。在这一过程中，日志系统作为监控、诊断和优化服务的核心组件，其重要性日益凸显。一个高效、可靠的云日志服务系统，能够帮助企业更好地管理和分析日志数据，从而确保服务的稳定性和安全性。本文将深入探讨国内常见的云日志服务系统的设计对比。
2024-09-04 21:01:44
1457
原创 【Log Storage】SLS 技术分析
ClickHouse 和 Spark 的设计，一个追求实时性，一个追求可扩展性和容错。SLS 目前有两种模式：索引模式和扫描模式。其中索引模式的基础是 LogStore，一种云原生、多用户日志数据库。面临的问题：设计一个成本高效的云日志存储服务所面临问题：技术背景：过往的技术只能解决以上提到的部分问题，而没有综合的解决方案（否则就不会有这篇文章了）：以上提到的系统都采用 shared-nothing 架构，在数据量快速增大的情况下，数据迁移的成本会急剧上升，限制了弹性扩展。主要设计点：SLS 底层的 Log
2024-08-28 19:15:28
1201
原创 统计学习方法 牛顿法和拟牛顿法
统计学习方法 牛顿法和拟牛顿法的相关内容，包括：牛顿法、拟牛顿法的 DFP、BFGS 和 Broyden 类算法等
2023-11-05 12:38:07
427
原创 量化投资 布朗运动和 Black Sholes 模型
量化投资 布朗运动和 Black Sholes 模型的相关内容，包括：布朗运动、生成布朗运动的两种常见方式、Gambler's ruin problem、B-S 公式的推导等
2023-06-13 19:56:07
774
1
原创 并行分布式计算 并行算法常用设计技术
并行分布式计算 并行算法常用设计技术的相关内容，包括：划分技术、分治技术、平衡树技术、倍增技术和流水线技术等
2023-05-16 17:50:01
2209
原创 随机过程 Brown 运动（下）
随机过程 Brown 运动（下）的相关内容，包括：Brown 运动的最大值变量及反正弦律、Brown 运动的变型等
2023-04-26 16:39:25
1106
原创 随机过程 Markov 链（下）
随机过程 Markov 链（下）的相关内容，包括：Markov 链在分支过程和人口结构模型中的应用、连续时间 Markov 链等
2023-04-18 21:29:04
1179
原创 随机过程 Poisson 过程
随机过程 Poisson 过程的相关内容，包括：Poisson 过程的概念、事件发生各时刻的分布、一些衍生过程等
2023-03-21 21:51:08
1570
原创 设计模式快速复习
对 Design Pattern Explanation with C++ Implementation（By K_Eckel）的阅读总结
2023-03-20 23:05:22
317
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人