- 博客(22)
- 收藏
- 关注
原创 helm安装配置jenkins
gitlab-pat配置gitlab的账号/密码凭证, 通过mvn clean deploy -DskipTests --settings $MAVEN_SETTINGS推送到微服务中配置的私有库。4、配置jenkins-values.yaml:(顺带JDK17、调度到zk3节点,用openebs-hostpath存储)5、进入http://ip:30080,配置Manage Jenkins ---->Plugins。8、spring-cloud-parent、common微服务中配置。
2025-07-01 14:23:11
583
原创 helm安装Harbor 2.10.1、openebs、local-path
环境,准备安装版本,并考虑使用 PV(Persistent Volume)和 PVC(Persistent Volume Claim)来持久化存储。
2025-06-16 17:24:00
463
原创 Zipkin、Prometheus、ELK集成到微服务中
模块用途Java集成方式Logstash日志收集日志存储Kibana日志查询Web UIZipkin链路追踪Prometheus指标采集Grafana指标展示配置数据源为 Prometheus。
2025-05-09 18:05:57
1060
原创 集成OpenTelemetry、Prometheus、loki的链路追踪方案
针对大型新微服务系统、兼顾和的的工业级可观测性方案一体化方案,基本覆盖了链路追踪(Tracing)、指标监控(Metrics)和日志管理(Logging)三大支柱。其他文档已经做了集群搭建分享,现在分享如何集成到微服务中。2、application.yaml配置3、Common全局组件的config。
2025-05-07 10:27:41
919
原创 3台CentOS8搭建OpenTelemetry
想要把OpenTelemetry + Grafana Tempo 、OpenTelemetry Metrics + Prometheus、OpenTelemetry Logs + Loki如何集成到目前的大型springCloud中,首先安装好docker、docker-compose,下面是在3台机器上安装步骤。
2025-04-29 14:21:03
931
原创 虚拟机centOS8安装docker
我的虚拟机镜像是CentOS-8.5.2111-x86_64-dvd1.iso,因为这个镜像已经不再维护,所以在系统安装完成后,需要做很多配置,比如yum,一开始是没有的,以下指令如果过程出现报错,重复清理即可。4、 下载新的 CentOS 8 镜像源。12、 安装Docker Compose。1、首先清理一下,有一些包是有冲突的。3、 备份原有的 YUM 配置文件。5、 修改 repo 文件中的。2、 卸载docker相关包。7、检查centOS的版本。11、 启动docker。10、安装docker。
2025-04-29 09:39:49
505
原创 ALS 协同过滤召回
要完成基于 ALS 协同过滤算法的推荐召回任务,针对 Hive 表结构和 HDFS 存储路径,以下是详细的执行流程、Scala 实现代码、依赖配置 (build.sbt) 以及提交流程。
2025-04-24 16:41:44
464
原创 热门商品召回方案
点击量热度:过去7天点击次数最多的商品。购买量热度:过去7天被支付宝支付(eventtype = "alipay")次数最多的商品。热度 = 点击量 * 1 + 加购量 * 2 + 支付量 * 3。
2025-04-24 15:21:30
336
原创 用户画像构建与标签生成
用户画像构建项目,,并写入 Hive 表,下面详细拆解整个流程,并给出完整的实现代码,用于在 Hive 表中构建画像标签。
2025-04-23 16:28:26
410
原创 读取亿级txt数据写入hive
在上打包 Scala Spark 程序,需要安装sbt(Scala Build Tool)并构建项目。下面是从环境安装到打包.jar的全流程(适配你 CentOS 虚拟机的 Spark 3.3.0 / Hive 3.1.0 / Hadoop 3.4.1)。
2025-04-23 15:22:40
432
原创 RFM用户活跃度与生命周期分析
你目前的 Hive 表准备得很充分,可以直接进行用户生命周期分析了。以下是一个完整的,包括数据处理思路和关键示例代码,适用于你已搭建好的 Hive 环境与表结构。
2025-04-23 15:02:08
454
原创 用户行为漏斗分析方案
太好了,既然表数据已经清洗完毕,接下来我们就可以专注于“漏斗转化率分析”的计算与展示工作。以下是一个完整的,适合你们目前使用 Spark + Hive + Superset 的技术栈。
2025-04-23 11:16:46
439
原创 spark处理kafka的用户行为数据写入hive
这些数据一般以 JSON 格式封装。在用户行为触发时,相关微服务调用 Kafka 生产者 API,将数据写入指定的 Kafka Topic(例如“user_events”)。Kafka 集群负责高吞吐量的数据传输及缓存缓冲。部署有 Spark(或 Spark Structured Streaming)的集群,通过读取 Kafka 中的数据,实时或批次处理数据。处理内容可以包括数据清洗、格式转换、聚合计算等。
2025-04-15 14:47:59
1172
原创 linux操作Oracle和Mysql
5、用超级管理角色登录,一般都会报错。1、docker拉取oracle镜像。6、其他指令,用的上就用。4、进入Oracle容器。3、启动Oracle。
2024-09-06 10:03:55
681
原创 springCloud集成elasticsearch
http://服务器ip:5601。console输入下面这段代码。找到dev tools。显示下面,即成功连接。
2024-09-05 14:29:52
1409
1
原创 Jenkins构建spring boot项目 一步一个脚印
1、下载安装maven3.6.3,参考下面这个文章即可完成下载、安装、环境变量配置操作2、修改docker启动指令,在构建项目前,一定要先配置好maven的系统环境变量3、配置完成maven后,就可以到Jenkins中创建一个任务了。
2024-08-22 17:26:44
819
原创 jenkins部署vue项目 细节拉满
安装完成后重启Jenkins,docker stop JenkinsId,docker start jenkinsId。
2024-08-20 16:09:25
499
原创 centOS8.2安装dooker、gitlab、Jenkins
gitlab访问地址,可以写域名。如果端口不写的话默认为80端口。#ssh主机ip,主机ip,主机ip,不是本地ip。# 让配置生效,esc,:wq退出后,执行下面的。或者jenkins/jenkins:2.471。里面找最新版的Jenkins。#修改gitlab.rb。
2024-08-20 14:09:14
817
原创 spring boot + caffeine使用
Caffeine基于ConcurrentHashMap设计,采用了近似LRU(Least Recently Used,最近最少使用)算法,以实现高速缓存淘汰策略。近似LRU算法:虽然Caffeine采用了高效的近似LRU算法,但在某些场景下,其性能可能不如精确的LRU算法。高性能:Caffeine性能优于许多其他缓存库,因其采用了近似LRU算法,实现了高效的缓存淘汰策略。仅支持Java:Caffeine为Java特有的缓存库,不能直接应用于其他编程语言。二、Caffeine 缓存优点与缺点。
2024-03-20 18:23:32
1089
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅