大数据量处理的问题

在很多时候,会碰到数据量很大的问题,在处理大数据的问题上,主要有以下几种方式:

1。数据库优化,SQL优化。

2。查询条件优化。

3。临时表,历史表等。

前面这三种方式往往不能辙底的解决大数据量带来的问题(查询速度慢,造成锁表,死锁,数据回滚等),所以就出现了第四种比较间接的方式:

4。跑批。

      对于要求不同的结果,设计有所不同,但跑批的形式大体相同,如查询多张表中的大量数据,就可如此设计一张表,将查询所有的信息(包含查询条件),设计成一张表,然后将每天的数据在特定的时间(非业务时间)将需要的这些数据记到该时间表中,然后查询的时候就可以只查询些一张表即可。

      当然,这只是最简单的跑批,假如涉多个服务器的,多个数据库的时候,就会涉及到同步的问题;对于统计的问题,则是将每天的统计信息存于表中,当然,假如涉及明细问题,表的设计也有所不同。


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值