每天一个算法,天天好心情。python学习中,先给机器语言思路

本文介绍了一种处理大规模数据集(10亿条记录)的高效算法,通过数据去重、分治策略和降序筛选,实现性能优化。首先分析数据重复量并去重,接着将数据集分为1000份进行独立处理,每份再按降序取前一千个元素,最后从这些集中再次降序获取最终的前一千个元素。

0 分析数据中重复量,来一波去重

1 分治,将10亿分成1000份,每份里面100,0000分数据。(性能调优)

2 对第一份处理:降序,然后取前一千个,然后对第二个,第1000个都这样处理。

3 剩下集中,降序获取前一千个。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值