- 博客(52)
- 资源 (32)
- 收藏
- 关注
原创 一次 ClickHouse 服务器磁盘告警的排查与修复实录
预发布环境ClickHouse服务器因日志预留机制与系统日志刷屏形成恶性循环,致系统盘使用率飙升至81%。根因是日志写入失败后异常堆栈持续输出至syslog和journald,而缺乏logrotate、journald上限及rsyslog轮转配置,导致日志暴增。通过三步修复:清空日志并重启服务释放空间,配置logrotate、journald上限与rsyslog按天/大小轮转,最终磁盘使用率降至27%,告警解除。经验表明,日志系统必须设硬限额,预发布环境同样需完整日志防护策略。
2026-10-28 14:57:50
71
原创 一文解决 ClickHouse Docker 三大致命报错:版本兼容、ZK DNS、后台合并池参数冲突
本文记录了使用Docker版ClickHouse(24.3.2.23)承载Webfunny埋点业务时遇到的三大生产故障及解决方案。重点解决:1)容器启动失败问题,通过调整merge_tree线程池参数和修复ZK连接配置;2)UPDATE操作不生效问题,需扩容后台线程池并优化表级并发设置;3)Node镜像兼容性问题。文章提供了可直接复用的配置代码和优化建议,涵盖线程池调优、Mutation机制解析、业务隔离方案等核心内容,特别适用于埋点/APM类高并发写入场景的ClickHouse生产运维。
2026-07-20 22:14:47
320
1
原创 彻底解决CK备份臃肿!clickhouse-backup 安全增量备份生产级方案(可直接落地)
本文介绍了一种高效的ClickHouse增量备份方案,解决了传统全量备份占用资源大、耗时长的问题。该方案采用"周度全量+日度增量"策略,基于clickhouse-backup工具实现差异备份,仅上传新增/变更数据,显著降低存储和带宽消耗。核心优势包括:无级联风险(增量均基于固定全量基准)、备份速度快(1-10分钟)、存储占用小(从GB降至MB级)。文章详细提供了配置文件修改、备份脚本部署、定时任务设置等完整实施步骤,并分享了标准恢复流程。实际应用表明,该方案能使每周总存储占用减少50%以
2026-07-14 10:43:16
206
1
原创 前端埋点日志解决方案:完整 User-Agent 解析工具实现,爬虫识别、设备品牌、操作系统、浏览器版本全解析(附完整源码)
文章摘要:开发者常因User-Agent解析不准确导致日志失真、风控误判等问题。通用解析工具存在三大痛点:爬虫识别缺失、国产设备支持差、解析维度单一。本文介绍一款自研Node.js工具BrowserInfo,具备18+爬虫精准识别、全品牌设备适配(尤其国产机型)、精细化系统版本映射等能力,支持移动端/PC/爬虫全场景,具有高容错性且零依赖。该工具能有效解决设备识别模糊、流量污染、数据杂乱等问题,适用于日志分析、风控拦截、用户画像等业务场景,源码已提供关键解析方法。(149字)
2026-07-06 15:09:07
323
1
原创 查询越跑越卡?一文吃透 ClickHouse 自动 Merge 底层机制
本文详细解析ClickHouse的自动Merge机制,重点介绍MergeTree引擎的核心运行原理。自动Merge是后台线程将小数据块合并为大数据块的过程,可减少文件数量、执行去重聚合和压缩回收。文章阐述触发规则、合并优先级,特别强调ReplacingMergeTree/AggregatingMergeTree依赖Merge实现最终一致性。提供查看合并状态的方法,包括系统表和关键参数查询。针对性能问题,给出线程数控制、触发条件、限流保护等核心调优参数。还介绍手动Merge操作和常见问题解决方案,如小part
2026-06-28 09:18:16
311
原创 海量用户分群存储碾压实测:Array 彻底过时,ClickHouse Bitmap 存储节省100倍空间
开发最简单,但存储爆炸、查询拉胯,海量分群场景直接淘汰:小幅优化存储,但是无法解决人群运算慢的核心痛点,过渡方案Bitmap位图:ClickHouse用户分群场景终极最优解,百倍压缩、毫秒级人群计算,业内主流分析平台标准选型如果你的业务正在面临用户分群存储占用过高、人群报表查询超时、服务器磁盘压力大等问题,直接迁移Bitmap存储,性价比和性能提升肉眼可见。Webfunny用户分群正是采用了这种位图方式,大大降低了存储,提高性能。Webfunny。
2026-06-22 09:27:11
341
原创 Docker部署ClickHouse clickhouse-backup完整备份&恢复完整方案
备份目录需确保ClickHouse进程(UID=101)有写入权限,否则无法生成shadow数据。非MergeTree系列引擎的表无法执行FREEZE冻结分区,不会生成shadow数据目录。全端覆盖:H5 / 小程序 / APP / 鸿蒙全覆盖,统一导出口径。宿主机执行备份恢复会因路径不一致失败,所有操作必须在容器内执行。需准确判断备份、上传的真实失败情况,而非仅依赖命令返回值。一体化架构:监控 + 埋点同一套 SDK,数据互通无壁垒。需确保上传完成后再清理本地备份,避免数据丢失。
2026-06-17 10:28:53
381
1
原创 查表就能用!三大数据库时间分组统计函数 + SQL 对照大全
biz_datadt(日期时间类型) 统计指标:行数cnt、金额求和sum_amt,附带排序;周统计附带说明周起始规则差异。
2026-06-12 08:25:28
240
1
原创 漏斗分析功能:洞察用户转化路径,驱动业务增长
【摘要】漏斗分析是追踪用户转化路径的核心工具,通过可视化关键步骤的转化率,帮助识别流失环节并优化业务流程。Webfunny系统支持创建多步骤漏斗图,需配置用户行为节点、转化周期(如7天内完成),并基于唯一用户ID进行顺序匹配计算。转化率计算包含单步转化率(如80%)和整体转化率(如50%),典型应用场景包括电商购买、SaaS试用等。最佳实践建议:设置3-7个清晰步骤,结合A/B测试和用户体验优化,持续监控数据趋势。该工具能精准定位瓶颈(如购物车页流失16.7%),实现数据驱动的业务增长。(150字)
2026-06-10 22:02:07
301
1
原创 微服务架构神器 Nacos|注册发现、配置、治理一站式接入指南
对接 Nacos 只需2 个核心依赖yml 配置服务注册 / 发现自动完成,使用服务名调用支持权重、集群、元数据、健康检查、优雅上下线等治理能力配置中心支持动态刷新,无需重启服务生产必须做环境隔离、鉴权、高可用集群Webfunny全链路监控埋点平台 是一站式前端监控 + 用户行为埋点 + 大数据分析平台,天然适配点位细查、用户行为回溯、批量导出等场景:一体化架构:监控 + 埋点同一套 SDK,数据互通无壁垒私有化部署:数据完全本地化,满足企业合规要求。
2026-06-03 18:30:13
238
1
原创 高效代码管理:掌握Git Cherry Pick精准迁移提交
摘要: Git的cherry-pick命令用于将特定提交(单个或连续多个)从一个分支转移到另一个分支,适用于部分代码迁移场景。基本用法为git cherry-pick <commitHash>,支持转移分支最新提交(如git cherry-pick feature)。多提交转移可通过A..B(不包含A)或A^..B(包含A)语法实现。配置项包括编辑提交信息(-e)、不生成提交(-n)、冲突处理(--continue/--abort)等。此外,可通过添加远程仓库跨代码库转移提交。适用于需精准复用代
2026-06-01 09:18:59
232
1
原创 Webfunny用户分群功能详解:精准筛选与管理用户群体的利器
自定义属性的创建路径为【用户管理】-【用户属性】-【自定义用户属性】。在筛选条件中选择【用户分群】,从下拉列表中选择目标分群,即可基于该群体进行数据分析。Webfunny的用户分群功能是数据分析与运营管理的核心工具,支持通过多种方式创建和管理用户群体,便于后续的数据分析与运营触达。该方式支持通过用户属性 + 行为规则,定义动态用户分群,适合按条件筛选用户群体,分群数据可随用户行为自动更新。该方式适用于在数据查询或用户列表中,直接将当前结果保存为用户分群,操作便捷,适合快速提取特定场景的用户群体。
2026-05-28 20:05:29
203
1
原创 高效掌握 JeecgBoot JSelect 组件:外部传参、搜索回显与默认值设置全攻略
控制搜索框文字→ 用属性控制下拉选中值→ 用v-model外部父组件传参→接收 +watch监听赋值加showSearch才会显示搜索输入框,不加搜素框出不来。
2026-05-16 20:12:01
229
原创 Webfunny Apm + SkyWalking Agent 全链路监控实战:从集成到问题排查
配置集中化:通过独立配置文件管理 Agent 参数,支持多环境复用,降低维护成本;问题全覆盖:针对插件加载、版本兼容、端口冲突等高频问题,提供可直接落地的解决方案;验证流程化:通过「启动 → 请求 → 日志 → UI」四步验证,确保集成生效;生产可用:提供生产环境优化建议,兼顾监控效果和系统性能。作为一款成熟的 APM 工具,能够帮助团队快速定位分布式系统中的性能瓶颈和异常问题,建议在生产环境中全面推广。如果在集成过程中遇到其他问题,可参考Webfunny 官方文档或留言交流~
2026-05-09 20:11:26
230
原创 clickhouse内置函数和关键词总结
全端覆盖:H5 / 小程序 / APP / 鸿蒙全覆盖,统一导出口径。一体化架构:监控 + 埋点同一套 SDK,数据互通无壁垒。二、聚合函数(Aggregate Functions)作用:多行数据 → 单行结果(GROUP BY 必备)可定制强:支持接口扩展、分布式锁、限流降级等企业级能力。十、窗口函数(Window Functions)十一、用户行为 / 漏斗函数(特色)2. 去重与近似计算(性能优先)作用:文本处理、截取、匹配、拼接。八、JSON 函数(半结构化)四、数组函数(Array)
2026-04-29 16:27:56
431
原创 后端链路追踪局部采集和全量采集配置说明
摘要:本文提供OpenTelemetry JavaAgent全链路监控的完整配置方案。核心配置otel.instrumentation.methods.include=com.hbins.backstage.**[*]采用官方标准格式,其中**表示所有子包,[*]表示所有方法,可全面监控Controller、Service、DAO等各层业务代码。文中给出了三种部署方式:1)IDEA启动参数配置;2)Maven插件配置;3)生产环境启动命令,均包含完整的OTLP导出参数。该方案解决了分布式系统故障定位难、性能
2026-04-27 11:26:06
215
原创 后端全链路监控方案:Webfunny Apm
故障定位难:无法快速追踪请求流经路径,问题排查耗时久(某银行案例显示,未接入 APM 时异常定位需 45 分钟);性能瓶颈隐蔽:缺乏各组件耗时统计,难以识别慢 SQL、低效方法等瓶颈;系统行为不透明:微服务调用链路复杂,无法直观掌握系统运行状态。而结合 OpenTelemetry 可完美解决这些问题 —— 无需大规模改造 SSH 老项目,即可实现零侵入 / 低侵入的全链路追踪。本文将详细拆解对接过程,从环境配置到验证落地,带你快速上手。
2026-04-20 14:43:26
418
原创 高吞吐、低成本日志系统方案ClickHouse + Filebeat/Fluentd
下面给你一套的最简可落地架构,含组件分工、部署要点、建表示例和配置模板。一、整体架构(极简版)
2026-04-17 10:46:22
484
1
原创 多节点导出文件不冲突!Webfunny 分布式锁方案实战
本文介绍了Webfunny埋点平台针对多节点集群环境下并发导出问题的解决方案。通过MySQL分布式锁+中心校验+本地降级的架构设计,确保高并发场景下同一用户同一时刻仅执行一次有效导出。方案包含核心流程、Webfunny平台优势、多节点架构设计、MySQL锁表实现、降级策略等关键技术细节,已在企业级环境中稳定运行,有效解决了导出重复执行、资源抢占等问题,为埋点分析平台提供了高可用的基础能力。
2026-04-09 08:51:03
363
原创 为什么字段类型设计决定 ClickHouse 生死
在埋点分析、用户行为日志等大数据场景中,ClickHouse 凭借列式存储的高性能成为首选数据库。但很多团队都踩过同一个坑:明明用了 ClickHouse,查询还是慢、存储占用超标,甚至出现数据丢失 ——问题根源往往在字段类型设计。字段类型选不对,不仅会让 ClickHouse 的压缩优势荡然无存(列式存储核心优化点),还会导致查询性能暴跌、存储成本翻倍。
2026-03-31 08:00:00
438
原创 ClickHouse远程备份恢复避坑指南:从文件上传到单表恢复完整版
本文详细介绍了使用clickhouse-backup工具进行远程备份恢复的完整流程。关键步骤包括:确保远程备份文件目录名称完全一致、使用脚本自动解压备份tar包、执行全量或单表恢复命令。重点注意事项:备份目录权限设置、避免手动修改文件名、谨慎使用--rm参数。文章还推荐了Webfunny全链路监控系统,帮助实现业务系统全生命周期监控。通过规范操作流程和避坑指南,即使是新手也能顺利完成ClickHouse数据库的备份恢复工作。
2026-03-24 06:00:00
390
1
原创 webfunny埋点系统
一体化埋点 纯私有化部署数据“采集+管理+分析”智能一体化,更轻量、易使用,降低数据分析使用门槛,快速实现业务分析需求。
2022-08-11 09:52:50
1121
原创 GIT在Windows和Mac安装和使用
前端监控:www.webfunny.cn ;只需要简单几步,就可以搭建一套属于自己的前端监控系统,快来试试吧。(github:webfunny_monitor)GIT和SVN的对比:Git是分布式版本控制系统的一个完美实现,它与集中式版本控制系统SVN的基本区别如下:Git是分布式的,而SVN不是Git和SVN一样有自己的集中式版本库或服务器。但,GIT更倾向于被使用于分布式模式,也就是每个开发人员从中心版本库/服务器上chect out代码后会在自己的机器上克隆一个自己的版本库。...
2020-07-27 18:45:20
1398
原创 多线程模拟jmeter
背景:最近在帮忙搞一个模拟jmeter的功能,可以发送接口请求的程序,采用了多线程来处理,比如一次性启动100个或者更多的线程同时发送接口。-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------前..
2020-07-18 12:48:32
474
原创 java8的函数式编程
在平时开发工作中使用java8的一些总结,感受到它的方便和快捷。--------------------------------------------------------------------------前端监控:www.webfunny.cn ;只需要简单几步,就可以搭建一套属于自己的前端监控系统,快来试试吧。(github:webfunny_monitor)--------------------------------------------------...
2020-07-12 15:32:50
298
原创 强大的QLExpress
背景:最近上头让研究各种物流的运费计算,并获取最优配送物流方案,无意之间搜索到了QLExpress,它是阿里的一个组件,一种规则引擎的算法,QLExpress在阿里集团内部有很强的影响力,被广泛应用在电商场景中,在业务灵活多变的场景下常常需要规则引擎的支持。所以我就动手自己实现了一下GitHub地址:https://github.com/alibaba/QLExpress1、优势QLExpress脚本引擎被广泛应用在阿里的电商业务场景,具有以下的一些特性:1、线程安全,引...
2020-07-10 12:58:36
24290
4
原创 layui使用总结
本教程由 www.webfunny.cn 前端监控系统 提供。 只需要简单几步就可以搭建一套属于自己的前端监控系统,快来试试吧。layui 导出 excel 表格引用excel.js插件,这个是插件必须用到的文件,注意引入文件的路径。js写法如下:这是一个导出的操作按钮:<button type="button" lay-submit="" class="layu...
2020-02-28 23:04:26
819
转载 Ubuntu] 解决The program 'make' can be found in the following packages:
在ubuntu 输入make命令提示以下的错误信息,说make没有安装输入命令,按build-essential解决了sudo apt-get install build-essential
2020-02-17 23:27:32
1144
原创 一线大厂的真实面试问题
静态资源比如图片、视频等等缓存到离用户最近的网络节点) 浏览器缓存 使用合适的连接池(数据库连接池、线程池等等) 适当使用多线程进行开发。2. 设计高可用系统的常用手段降级: 服务降级是当服务器压力剧增的情况下,根据当前业务情况及流量对一些服务和页面有策略的降级,以此释放服务器资源以保证核心任务的正常运行。降级往往会指定不同的级别,面临不同的异常等级执行不同的处理。根据服务方式:...
2020-02-15 20:42:10
426
原创 Linux安装redis和部署
第一步:下载安装包 访问https://redis.io/download 到官网进行下载。这里下载最新的5.0版本.第二步:安装 1.通过远程管理工具,将压缩包拷贝到Linux服务器中,执行解压操作 tar -zxf redis-5.0.7.tar.gz 2.进入解压文件目录使用make对解压的Redis文件进行编译...
2020-02-06 16:20:35
188
转载 关于同时查询父子名称的SQL查询语句的写法 id name parentId parentName
parentid是1就是id为1的公司的子公司如图 查询出所有的信息后 由于我要呈现的是parentName 不是parentId所以想问下SQL语句怎么写 谢谢啦~~:)解法:SELECT sub.orgName AS 公司名, main.orgName AS 父公司名FROM 表名 main JOIN 表名 sub ON (main.id = sub.p
2014-12-09 16:36:19
3177
原创 手机号码的前后台验证写法
后台验证写法: Pattern p=Pattern.compile("^((13[0-9])|(15[^4,\\D])|(18[0,5-9]))\\d{8}$"); Matcher m=p.matcher(phone); m.matches();//true,匹配;false,不匹配。前台验证写法:function isMobil
2014-12-09 11:53:01
1048
转载 spring mvc 400,The request sent by the client was syntactically incorrect的问题
这是今天项目中遇到的一个让我纠结的问题,当时特郁闷,找了半天也没找到原因.最后一点一点的测试提交数据才慢慢发现其中的端倪,最后也给遇到类似问题的朋友一点建议吧!我的项目是运用SpringMVC作为控制层,然后是添加页面,页面需要提交一堆数据到服务器,当写完数据提交的时候,并没有如我想象的那样跳入控制层,而跳入下面页面:这个让我纠结了,以前都没遇到过,这个
2014-11-11 14:52:39
753
原创 使用FREEMARKER的一些总结
问题代码: ${student.birthday},STUDENT中BIRTHDAY为DATE类型的 问题:Can't convert the date to string, because it is not known which parts of the date variable are in use. Use ?date, ?time or ?datetime built-in,
2014-11-10 16:35:38
1537
原创 jquery的ajax同步和异步
之前一直在写JQUERY代码的时候遇到AJAX加载数据都需要考虑代码运行顺序问题。最近的项目用了到AJAX同步。这个同步的意思是当JS代码加载到当前AJAX的时候会把页面里所有的代码停止加载,页面出去假死状态,当这个AJAX执行完毕后才会继续运行其他代码页面假死状态解除。 而异步则这个AJAX代码运行中的时候其他代码一样可以运行。 jquery的async:false,这个属性 默认是
2014-10-26 15:07:28
493
转载 xml与json的区别,总结
JSON和XML的比较 ◆可读性 JSON和XML的可读性可谓不相上下,一边是简易的语法,一边是规范的标签形式,很难分出胜负。 ◆可扩展性 XML天生有很好的扩展性,JSON当然也有,没有什么是XML能扩展,而JSON却不能。不过JSON在Javascript主场作战,可以存储Javascript复合对象,有着xml不可比拟的优势。 ◆编码难度 XML有丰富的编码工具,
2014-10-26 15:01:33
553
转载 总结重写和重载区别
重写方法的规则如下:1. 参数列表:必须与被重写方法的参数列表完全匹配。 2. 返回类型:必须与超类中被重写的方法中声明的返回类型或子类型完全相同 3. 访问级别:一定不能比被重写方法强,可以比被重写方法的弱。 4. 非检查异常:重写方法可以抛出任何非检查的异常,无论被重写方法是否声明了该异常。 5. 检查异常:重写方法一定不能抛出新的检查异常,或比被重写方法声明的检查
2014-10-24 11:29:38
520
转载 org.tigris.subversion.javahl.ClientException: Attempted to lock an already-locked dir异常解决方法
myeclipse用svn提交的时候报错:Attempted to lock an already-locked dirsvn: Working copy 'D:/Program Files/MyEclipse 6.6flex/workspace/emis/WebRoot/emis/emresource' lockedorg.tigris.subversion.
2014-10-20 09:22:29
688
转载 MyEclipse 8.5 注册--取消MyEclipse Trial Expired解决办法
MyEclipse 8.5 注册--取消MyEclipse Trial Expired解决办法今天MyEclipse提示过期了,MyEclipse Trial Expired.网上找到了一个注册类可以生成注册码.import java.io.*; public class MyEclipseGen { private static
2014-09-01 21:26:56
796
INSTALL_FAILED_MISSING_SHARED_LIBRARY 的解决办法
2012-07-11
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅