自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(67)
  • 收藏
  • 关注

原创 基于 Spark + Iceberg 湖仓一体的 Netflix 流媒体用户行为全链路数仓与 ALS 智能推荐决策系统(含穿透下钻大屏)

随着全球流媒体视频平台的爆发式增长,用户在平台上的播放日志、搜索行为、评分互动与跳出流失呈现出**“高并发写入、海量稀疏评分、复杂多模态行为(完播/快进/弃播)、时效性强”**等典型流式特征。冷启动与数据稀疏性严重:海量用户对海量影视资源的评分矩阵稀疏度常年高于 99.8%,传统基于皮尔逊相似度的 UserCF/ItemCF 极易遭遇维数灾难与内存溢出(OOM);缺乏 ACID 事务与行级更新:流媒体用户的完播状态、追剧进度往往持续更新,传统 Hive 无法支持细粒度行级并发写入,分区重写开销过高;

2026-10-18 16:17:38 394 1

原创 基于 Spark + Iceberg 湖仓一体的百万级跨境电商全链路交易分析与 RFM 智能决策系统(含穿透下钻与营销沙盒)

在全球化跨境电商与全渠道新零售浪潮下,交易链路往往呈现**“长链路、多触点、多币种、长履约周期、高退货归因复杂性”**等特征。元数据性能瓶颈:随着分区与小文件膨胀,Hive Metastore 承压严重,文件寻址延迟高;缺乏 ACID 事务支持:跨境退款、售后换货等状态回写往往导致全表或整分区重写,并发读写容易出现脏读与状态冲突;传统 RFM 模型的粗粒度缺陷:经典 RFM 模型仅关注RRR(最近一次消费)、FFF(消费频次)、MMM(消费总额),完全忽略了单笔客单价结构(AOV)以及。

2026-10-18 15:41:23 133 1

原创 【实战指南】告别接口逆向!将 PC 微信小程序实时映射到 Chrome DevTools 开发者工具

随着微信 PC 端升级到 4.x 全新架构(引入 RadiumWMPF 沙盒),传统的 --remote-debugging-port=9222 参数失效,内置调试开关 debugxweb.qq.com 也频繁报 502。面对小程序复杂的 JS-VMP 虚拟机混淆和动态风控签名(如某团 mtgsig / _token),硬啃逆向成本极高。本文将手把手带你使用开源利器 WMPFDebugger,通过 Frida 动态 Hook 技术,将 PC 微信小程序直接映射到 Chrome 浏览器中,实现真机投屏交互、

2026-08-28 18:31:24 294

原创 【大数据实战】Spark 2.2.2 完全分布式集群搭建

本文详细介绍了在Ubuntu16.04系统上搭建Spark2.2.2完全分布式集群的完整流程。通过3台虚拟机(1主2从)构建集群环境,涵盖网络配置、SSH免密登录、JDK安装、Spark参数调优等关键步骤。文章提供了集群启动验证方法,并演示了1GB大文件的PySpark词频统计实战案例,对分布式计算能力进行测试。最后总结了防火墙配置、主机名映射、内存分配等常见问题的解决方案,为大数据初学者提供了一份全面的Spark集群搭建指南。

2026-08-20 12:54:44 268

原创 hadoop分布式集群安装

本文详细介绍了在Ubuntu16系统上搭建Hadoop3.1.0完全分布式集群的完整流程。集群包含1个master节点和2个slave节点,涵盖网络配置、SSH免密登录、JDK安装、Hadoop部署等关键步骤。重点包括:配置主机映射和SSH互信;统一安装JDK并设置环境变量;修改Hadoop的6个核心配置文件;创建数据存储目录并同步配置到所有节点;添加用户权限后启动集群。通过格式化NameNode、启动HDFS/YARN服务,最终验证三节点集群正常运行。文章提供了详细的命令和配置示例,适合初学者按步骤操作搭

2026-08-18 20:02:32 235

原创 open claw(小龙虾)U盘版教程

本文介绍了一种基于U盘的简易AI部署方案。用户只需将安装包解压至U盘,运行Windows-Start.bat文件即可自动跳转浏览器界面。操作步骤包括选择AI模型、输入API密钥(支持免费和付费版本),并可选择接入微信/QQ聊天机器人。该方案无需电脑预装环境,部署完成后即可通过对话使用AI功能。文中提供了百度网盘下载链接(提取码:ts6u)和简要使用指南,并承诺对用户问题给予回复。

2026-03-30 16:47:01 3142 2

原创 基于Spark+Kafka构建实时分析(京东用户购物行为数据集)

本次需要安装Kafka(10.2.2),Hadoop(3.1.3),spark(2.4.0)简单介绍一下,本次使用的数据集是京东23年某月份的10w条用户购物数据做实时分析统计。安装包和数据集均在末尾免费分享,大家需要就去拿。

2026-03-11 17:19:56 73

原创 分享一批南宁市美食热搜榜top750的店铺基础信息以及好评评论信息。

本文介绍了一个基于大众点评数据的美食推荐与安全预警系统。该系统通过爬取店铺ID、名称、评分、人均消费、菜系分类、用户评论等关键字段,构建了包含店铺基础信息、用户评价和差评统计的数据集。使用Python实现数据采集,包含XPath解析、反爬机制、进度保存等功能,支持按城市分类存储数据。该系统可用于分析餐饮店铺质量、识别食品安全问题,为消费者提供推荐依据,同时帮助监管部门发现潜在风险店铺。数据结构包含店铺属性、用户评价和差评数量等关键指标,为后续的餐饮质量改善研究提供数据支持。

2026-01-19 17:53:08 70

原创 基于”逻辑回归“机器学习算法对用户购买行为进行预测

通过逻辑回归、随机森林、决策树、K-Means等算法对用户购买行为数据构建用户画像和预测购买行为,流程有数据处理、算法选择、特征分析、模型评分比较、确定模型、参数调优、应用模型、模型持久化等步骤。适合在校大学生用于毕设课题或学习算法流程。

2025-11-07 16:03:32 266

原创 2025年最新版本关于转转app的二手手机数据采集。

部分数据关键代码。

2025-09-11 17:40:10 935

原创 分享一篇关于雷电模拟器基于安卓9的安装环境及抓包的详细教程

市面上没有一篇好文章详细说明基于最新安卓9的雷电模拟器抓包的教程,在此我准备写一篇让大家少走一些弯路,本次使用的安卓模拟器是。3、模拟器配置完成后我们启动吧,进去后先按照一下代理软件(Postern-3.0.10),直接从电脑桌面拖拽进去就可以安装。6、现在开始试试抓包看看能不能,首先启动postern,然后配置代理信息,注意这个ip和端口要和小黄鸟一样。1、模拟器和抓包工具的安装在这里就不交怎么安装了哈,直接去官网下载安装包就行。4、然后再需要安装一下证书,可以启动小黄鸟然后选择证书、导出证书,记得。

2025-09-10 10:58:41 1069

原创 基于js和html的点名应用

分享一个在课堂或者是公司团建上需要点名的应用程序,开箱即用。1、双击打开后先选择人员名单(可以随时更改的)2、下面的滚动速度可以根据需求调整。

2025-08-13 18:09:13 387

原创 25年8月份最新文章—爬取某无忧网的岗位信息

本文介绍了一个基于Python和Playwright的爬虫程序,用于采集前程无忧网站上19个热门城市的1000条岗位信息。程序通过处理URL参数和验证码滑块,获取岗位名称、薪资、公司信息等关键字段,并使用pandas保存为CSV文件。代码包含详细的注释,实现了自动翻页、数据解析和异常重试机制,支持自定义搜索岗位名称。该爬虫可有效收集全国主要城市的招聘数据,为就业市场分析提供数据支持。

2025-07-29 15:16:22 449

原创 25年7月最新版本利用标准算法库对医保服务平台js逆向之signData进行分析

2025年7月份最新介绍了国家医保平台signData的生成过程,给出了完整的JS代码示例,需要安装sm-crypto包运行。后续文章将继续分析encData参数的加密过程。

2025-07-17 17:29:29 1130

原创 基于Django实现的“员工管理级大模型系统”

该项目提供了一个完整的Django框架实现,主要功能包括:1)基于RBAC的权限控制;2)数据可视化与实时更新;3)大模型交互与参数调优;4)QQ邮箱密码重置功能。

2025-06-26 11:47:26 316 1

原创 基于python实现高德经纬度转wgs_84经纬度

WGS84 (World Geodetic System 1984): 全球最常用的地理坐标系,是全球定位系统(GPS)使用的标准坐标系。BD-09 (Baidu Coordinate System): 百度地图使用的坐标系。高德地图不像百度一样在GCJ-02的基础上再加密,它是直接用GCJ-02的经纬度的。所以高德经纬度转wgs_84经纬度实际就是星坐标系GCJ-02转84经纬度。,所以我们拿到的高德经纬度实际就是火星坐标系GCJ-02。我们常见的坐标系有这三种,然后。下面代码就是python转的。

2025-03-14 12:09:07 801

原创 基于python实现百度经纬度转火星经纬度再转wgs_84经纬度

通常我们使用的经纬度都是wgs_84经纬度的,如在gps中,北斗卫星定位中等等,然后我们通常拿到的却是百度的经纬度,然后在这里需要转换一下。

2025-03-12 14:30:48 416

原创 Python 抓取百度地图小区 AOI 边界轮廓(百度墨卡托转 WGS84 坐标与 GeoJSON 导出实战)

利用python获取百度地图上某个小区的面积经纬度坐标

2024-12-27 11:15:03 1571

原创 爬取“连锁品牌网”的连锁数据

按照美食、购物、娱乐、服务、医疗、教育、酒店、金融、汽车等行业爬取。以下就是部分案例数据。

2024-12-26 18:30:03 314

原创 分享2024年12月份最新的小米电脑管家安装包

简单介绍一下这个小米电脑管家的作用,是可以在小米手机上和非小米电脑的Windows系统上实现文件互传和利用电脑操作手机屏幕。链接:https://pan.baidu.com/s/1KJCU3cJhZPgCH1eML7gZkQ?现在大多数的小米电脑管家安装包已经失效了,这里分享2024年12月25号最新日期测试的。安装包通过百度网盘分享。

2024-12-24 12:30:34 1145 2

原创 使用etl工具kettle的日常踩坑梳理之二、从Hive中导出数据

3、我现在想把hive中某一张表的数据导出来,就先点击输入下面的表输入,输出就是用什么格式的文件存储,比如我想用csv存储就选择这个文本文件输出。4、点击新建,配置好数据库连接信息,如果你配置了无须用正确的用户名和密码访问就还需要进入选项配置auth=noSasl。6、然后点击导出的csv进行简单的配置,比如保存的目录文件名称,设置分隔符,编码格式等(点击浏览可以设置)。7、然后按住shift键别动,用鼠标把两个拉起来,然后点击那个三角形启动,然后会弹出导出的过程。

2024-11-14 16:37:14 886

原创 使用etl工具kettle的日常踩坑梳理之一、从mysql中导出数据

3、我现在想把mysql中某一张表的数据导出来,就先点击输入下面的表输入,输出就是用什么格式的文件存储,比如我想用xlsx存储就选择这个excel。提醒一下,如果数据库连接那里报错就把mysql的jar包导入到kettle的lib目录下去,我这里倒了两个版本的,因为我要连接多个版本的MySQL。7然后按住shift键别动,用鼠标把两个拉起来,然后点击那个三角形启动,然后会弹出导出的过程。6、然后点击导出的excel进行简单的配置,比如保存的目录文件名称等(点击浏览可以设置)。

2024-11-14 16:18:49 579

原创 在使用sqoop对hive导入数据到MySQL中的时候出现:ERROR tool.ExportTool: Error during export: Export job failed!的解决方法

第二步可以在使用命令的时候添加--bindir,也就是指定生成的jar包在哪个目录。需要注意的是第一次跑就会报那个错误是还没在那个目录下生成相关文件,跑第二遍就正常了。第一步可以先确定在你安装sqoop的目录下有一个lib目录。

2024-11-12 18:14:45 514

原创 聊一聊Oracle的空间计算函数SDO_NN

上面这个表达式的含义也就是说在test2中找到一个距离test1很近的,sdo_num_res=1参数就是找一个,0.5是在0.5度或者米的范围内找。网上对这个函数介绍的很少,对使用上也很模糊,我来补充一下,让大家了解一下这个函数。test1的需要找到表,test2是从哪个表找,这样子应该可以理解了哈,

2024-07-08 15:55:45 370

原创 简单聊一下Oracle,MySQL,postgresql三种锁表的机制,行锁和表锁

Oracle,MySQL,postgresql三种锁表的机制,主要介绍行锁和表锁的机制和案例分析

2024-06-10 21:28:32 887

原创 分享一个自己写的很有用的python脚本,用于查看python所有包名称和大小的

这个脚本可以把所有包的名称+大小打印出来,然后可以方便让自己卸载一些不用的很大的

2024-06-06 16:52:39 822

原创 Chrome使用edge浏览器的插件

Google浏览器使用edge浏览器插件的流程

2024-06-05 10:47:35 760

原创 获取boss直聘的岗位信息--2023年7月份

在本篇博客中,我将分享如何使用Selenium进行网页数据采集,并展示一个具体的代码示例。我们将通过Selenium访问一个招聘网站,抓取招聘信息,并将数据保存到CSV文件中。

2024-06-05 10:44:40 991 4

原创 国内“大模型”AIGC产品体验分享

随着腾讯元宝APP的正式上线,国内大模型产品市场迎来了又一位重要参与者。我有机会体验过一些国内外的“大模型”AIGC产品,如百度的文心一言、阿里的通义千问、OpenAI的GPT-4,以及刚上线的腾讯元宝。

2024-06-05 10:34:04 888

原创 程序员职业生涯中的重要职业素养

作为程序员,具备上述职业素养对职业生涯的成功至关重要。持续学习、写出高质量代码、有效沟通、具备责任感和职业道德、适应变化并创新,都是每个程序员应努力培养的素质。在实际工作中,展示这些职业素养,不仅有助于个人职业发展,也对团队和项目的成功起到了积极作用。

2024-06-05 10:32:31 461

原创 GPT-4o横空出世:技术革命的新篇章

GPT-4o是OpenAI最新发布的语言模型,展现了在自然语言理解和生成方面的显著进步。与之前的版本(GPT-3.5和GPT-4.0)相比,GPT-4o具备更强的上下文理解能力、高质量的文本生成,以及优秀的多模态处理能力,同时在多语言支持和专业领域应用上也有明显提升。

2024-06-05 10:26:58 1269

原创 补充一下关于大众点评如何获取cookie的问题

这个教程主要介绍如何拿cookie,小白可以看看

2024-06-05 10:10:01 1254

原创 大众点评店铺信息及好评,中评,差评的爬虫程序最新版2024-5月份之差评数据的采集

将2024-5最新系列的大众点评的美食店铺信息采集流程分段分享出来,都是直接换个cookie就可以用了

2024-05-31 11:52:52 801

原创 大众点评店铺信息及好评,中评,差评的爬虫程序最新版2024-5月份之中评数据的采集

将2024-5最新系列的大众点评的美食店铺信息采集流程分段分享出来,都是直接换个cookie就可以用了

2024-05-31 11:51:14 297

原创 大众点评店铺信息及好评,中评,差评的爬虫程序最新版2024-5月份之好评数据的采集

将2024-5最新系列的大众点评的美食店铺信息采集流程分段分享出来,都是直接换个cookie就可以用了

2024-05-31 11:48:53 872

原创 大众点评店铺信息及好评,中评,差评的爬虫程序最新版2024-5月份之店铺详情信息采集

将2024-5最新系列的大众点评的美食店铺信息采集流程分段分享出来,都是直接换个cookie就可以用了

2024-05-31 11:40:06 418 2

原创 大众点评店铺信息及好评,中评,差评的爬虫程序最新版2024-5月份之基础店铺采集

将2024-5最新系列的大众点评的美食店铺信息采集流程分段分享出来,都是直接换个cookie就可以用了

2024-05-31 11:35:50 965 2

原创 使用fme把gis数据保存为gdb格式的,然后用arcgis map落图查看

记录一下fme工具和arcamp工具的使用

2024-05-24 12:20:05 1650

转载 第二篇:js逆向基础知识

【代码】第二篇:js逆向基础知识。

2024-05-19 23:01:49 249

转载 第一篇:爬虫基础内容回顾

我发现博客园里面作者死不悔改奇男子更新的js逆向爬虫系列非常好,特意这里一下发给大家看看,有条件的去关注一下原作者哟,每天一篇

2024-05-19 22:58:53 95

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除