Apache Phoenix 删除亿级数据心得

Phoenix最早是saleforce的一个开源项目,后来成为Apache基金的顶级项目。

Phoenix是构建在HBase上的一个SQL层,能让我们用标准的JDBC APIs而不是HBase客户端APIs来创建表,插入数据和对HBase数据进行查询。

Phoenix完全使用Java编写,作为HBase内嵌的JDBC驱动。Phoenix查询引擎会将SQL查询转换为一个或多个HBase扫描,并编排执行以生成标准的JDBC结果集。直接使用HBase API、协同处理器与自定义过滤器,对于简单查询来说,其性能量级是毫秒,对于百万级别的行数来说,其性能量级是秒。


上面是Phoenix的整体介绍。由于项目中运用了phoenix,一直在增量的导入数据。导致Phoenix的空间不足。但是项目中只用到一个月以内的数据。所以,要进行冗余数据的删除的。

第一次实现:

DruidDataSource的数据源,导致报错MutationState size of 512000 isbigger than max allowed size of 500000 代码如下
<!--配置文件-->

 <bean id="phoenixDataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
    <!-- 基本属性 url、user、password -->
    <property name="url" value="${phoenix.url}"/>
    <property name="username" value="${phoenix.instanceNumber}"/>
    <property name="password" value="${phoenix.accessKey}"/>
    <property name="driverClassName" value="${phoenix.driver}"/>

    <!-- 配置初始化大小、最小、最大 -->
    <property name="initialSize" value="2"/>
    <property name="minIdle" value="2"/>
    <property name="maxActive" value="30"/>

    <!-- 配置获取连接等待超时的时间 -->
    <property name="maxWait" value="600000"/>

    <!-- 配置间隔多久才进行一次检测,检测需要关闭的空闲连接,单位是毫秒 -->
    <property name="timeBetweenEvictionRunsMillis" value="30000"/>

    <!-- 配置一个连接在池中最小生存的时间,单位是毫秒 -->
    <property name="minEvictableIdleTimeMillis" value="300000"/>

    <property name="validationQuery" value="SELECT 'x'"/>
    <property name="testWhileIdle" value="true"/>
    <property name="testOnBorrow" value="false"/>
    <property name="testOnReturn" value="false"/>

    <!-- 打开PSCache,并且指定每个连接上PSCache的大小 -->
    <property name="poolPreparedStatements" value="false"/>
    <property name="maxPoolPreparedStatementPerConnectionSize" value="-1"/>

    <!-- 配置监控统计拦截的filters -->
    <property name="filters" value="stat"/>
</bean>
 
 @Resource(name = "phoenixDataSource")
 private DruidDataSource phoenixDataSource;
	
 public Integer delete(String sql, Object... params) throws Exception {
            Connection conn = null;
            PreparedStatement statement = null;
            try {

                conn = phoenixDataSource.getConnection();
                conn.setAutoCommit(false);
                statement = conn.prepareStatement(sql);
                fillParameter(statement, param
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值