SpringBoot整合ShardingJdbc实现数据库水平分表实战

该文章展示了如何利用ShardingJDBC进行数据库分表,包括添加Maven依赖,配置SpringBoot应用和ShardingJDBC,创建分表策略,编写Entity、Mapper、Controller类,实现自定义分表算法,并处理LocalDateTime类型的转换异常。文章强调了ShardingJDBC相对于Mycat的易用性。

(1)添加Maven依赖

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>gdut.ff</groupId>
    <artifactId>ShardingJdbcTest</artifactId>
    <version>1.0-SNAPSHOT</version>

    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.3.12.RELEASE</version>
    </parent>

    <properties>
        <maven.compiler.source>8</maven.compiler.source>
        <maven.compiler.target>8</maven.compiler.target>
    </properties>

    <dependencies>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <dependency>
            <groupId>org.apache.shardingsphere</groupId>
            <artifactId>sharding-jdbc-spring-boot-starter</artifactId>
            <version>4.0.0-RC1</version>
        </dependency>

        <dependency>
            <groupId>org.mybatis.spring.boot</groupId>
            <artifactId>mybatis-spring-boot-starter</artifactId>
            <version>2.2.0</version>
        </dependency>

        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
            <version>8.0.18</version>
            <scope>runtime</scope>
        </dependency>

        <dependency>
            <groupId>com.zaxxer</groupId>
            <artifactId>HikariCP</artifactId>
        </dependency>

        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <version>1.18.4</version>
        </dependency>

        <dependency>
            <groupId>cn.hutool</groupId>
            <artifactId>hutool-all</artifactId>
            <version>5.7.5</version>
            <scope>compile</scope>
        </dependency>
    </dependencies>
</project>

(2)SpringBoot配置文件application.properties

server.port=8083
spring.application.name=shardingJdbc

mybatis.mapper-locations=classpath:mapper/*.xml
#mybatis.type-handlers-package=gdut.handler

logging.level.root=DEBUG

spring.shardingsphere.datasource.names=ds0
spring.shardingsphere.datasource.ds0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds0.driver-class-name=com.mysql.cj.jdbc.Driver
spring.shardingsphere.datasource.ds0.jdbc-url=jdbc:mysql://xx.xx.xx.xx:31090/shardingjdbc?useUnicode=true&characterEncoding=utf-8&useSSL=false&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true
spring.shardingsphere.datasource.ds0.username=root
spring.shardingsphere.datasource.ds0.password=root
spring.shardingsphere.sharding.tables.time_year_month.actual-data-nodes=ds0.time_year_month_$->{2023..2024}_$->{1..2}
spring.shardingsphere.sharding.tables.time_year_month.table-strategy.standard.sharding-column=create_date
spring.shardingsphere.sharding.tables.time_year_month.table-strategy.standard.precise-algorithm-class-name=gdut.algorithm.CreateDatePreciseShardingAlgorithm
spring.shardingsphere.sharding.tables.time_year_month.key-generator.column=id
spring.shardingsphere.sharding.tables.time_year_month.key-generator.type=SNOWFLAKE
spring.shardingsphere.props.sql.show=true

根据配置的分表策略,逻辑表是time_year_month,根据create_date字段分表,分表名称是time_year_month_2023_1、time_year_month_2023_2、time_year_month_2024_1、time_year_month_2024_2,ShardingJdbc不会自动创建表,需要我们自己去创建。分表算法是自定义的CreateDatePreciseShardingAlgorithm。这里主键自动生成,用的是雪花算法。
在这里插入图片描述
(3)创建Entity、Mapper、Controller类

package gdut.entity;

import com.fasterxml.jackson.annotation.JsonFormat;
import lombok.Data;

import java.io.Serializable;
import java.time.LocalDateTime;

@Data
public class TimeYearMonth implements Serializable {

    private long id;
    @JsonFormat(pattern = "yyyy-MM-dd HH:mm:ss")
    private LocalDateTime createDate;

}
package gdut.mapper;

import gdut.entity.TimeYearMonth;
import org.apache.ibatis.annotations.Insert;
import org.apache.ibatis.annotations.Select;

import java.util.List;

public interface TimeYearMonthMapper {

    void insertTime(TimeYearMonth timeYearMonth);

    List<TimeYearMonth> selectAll();

}
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="gdut.mapper.TimeYearMonthMapper">
    <resultMap id="BaseResultMap" type="gdut.entity.TimeYearMonth">
        <result column="id" jdbcType="BIGINT" property="id" />
        <result column="create_date" jdbcType="TIMESTAMP" property="createDate" javaType="java.time.LocalDateTime"/>
    </resultMap>

    <insert id="insertTime" parameterType="gdut.entity.TimeYearMonth">
        insert into time_year_month(create_date) values(#{createDate})
    </insert>

    <select id="selectAll" resultMap="BaseResultMap">
        select * from time_year_month
    </select>
    
</mapper>
package gdut.controller;

import gdut.entity.TimeYearMonth;
import gdut.mapper.TimeYearMonthMapper;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

import java.time.LocalDateTime;
import java.time.format.DateTimeFormatter;
import java.util.List;

@RestController
public class TimeController {

    @Autowired
    private TimeYearMonthMapper timeYearMonthMapper;

    @PostMapping("/insertTime")
    public String insertTime(@RequestParam("createDate")String createDate) {
        TimeYearMonth timeYearMonth = new TimeYearMonth();
        timeYearMonth.setCreateDate(LocalDateTime.parse(createDate, DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
        timeYearMonthMapper.insertTime(timeYearMonth);
        return "success";
    }

    @PostMapping("/selectAll")
    public List<TimeYearMonth> selectAll() {
        return timeYearMonthMapper.selectAll();
    }
}

(4)分表算法CreateDatePreciseShardingAlgorithm

package gdut.algorithm;

import org.apache.shardingsphere.api.sharding.standard.PreciseShardingAlgorithm;
import org.apache.shardingsphere.api.sharding.standard.PreciseShardingValue;

import java.time.LocalDateTime;
import java.util.Collection;

public class CreateDatePreciseShardingAlgorithm implements PreciseShardingAlgorithm<LocalDateTime> {

    @Override
    public String doSharding(Collection<String> collection, PreciseShardingValue<LocalDateTime> preciseShardingValue) {
        LocalDateTime value = preciseShardingValue.getValue();
        int year = value.getYear();
        int month = value.getMonthValue();
        String logicTableName = preciseShardingValue.getLogicTableName();
        return logicTableName + "_" + year + "_" + month;
    }
}

(5)启动类

package gdut;

import org.mybatis.spring.annotation.MapperScan;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.ComponentScan;

@SpringBootApplication(proxyBeanMethods = false)
@MapperScan("gdut")
@ComponentScan("gdut")
public class ShardingJdbcApplication {

    public static void main(String[] args) {
        SpringApplication.run(ShardingJdbcApplication.class, args);
    }
}

(6)LocalDateTime类型转化异常
参考:shardingJdbc的LocalDateTime问题

(7)测试
http://localhost:8083/selectAll
在这里插入图片描述
http://localhost:8083/insertTime?createDate=2024-01-23 10:00:00
在这里插入图片描述
总结:ShardingJdbc客户端分表还是挺容易实现的,比起Mycat需要搭建一个服务端和稍微麻烦的配置,我觉得ShardingJdbc会更容易上手一些。

参考

mybatis注入Date日期值为null的解决方法
springboot整合sharding-jdbc实现按年分库按月分表
使用ShardingJDBC实现按时间维度分表轻松支撑千万级数据

Spring Boot整合ShardingJDBC实现分库分表时,其典型使用场景并不局限于大量表的情况,而是可以根据实际业务需求灵活适用。尽管ShardingJDBC主要用于处理数据量大、并发高的场景,但其在少量表的情况下依然具备良好的适用性[^2]。 ### 适用性分析 1. **简化数据管理** 即使只有少量表,ShardingJDBC依然可以提供统一的数据访问接口,简化对分片数据的管理。它通过逻辑表的方式屏蔽底层数据库的复杂性,使开发者无需关心数据分布的细节,从而提升开发效率[^1]。 2. **提升性能与扩展性** 在少量表的情况下,如果单表数据量较大或访问压力较高,仍然可以通过分库分表策略提升查询性能。例如,将一张用户表按用户ID进行水平分片,分散到多个数据库或表中,避免单点瓶颈[^2]。 3. **灵活配置与治理能力** ShardingJDBC提供了丰富的分片策略和规则配置能力,包括标准分片、复合分片、Hint强制路由等,适用于不同规模的数据结构。即使只涉及少量表,也可以利用这些功能实现高效的数据库治理[^2]。 4. **读写分离支持** 对于少量表但高并发读操作的场景,ShardingJDBC支持与读写分离功能结合使用,进一步提升系统吞吐量[^4]。 5. **学习与测试用途** 对于初学者或项目初期阶段,即便当前只有少量表,使用ShardingJDBC进行开发和测试有助于提前熟悉分布式数据库的使用模式,为后续系统扩展打下基础[^1]。 ### 注意事项 - **复杂度控制** 如果系统规模较小且未来无明显扩展需求,引入ShardingJDBC可能会增加不必要的复杂度。此时可优先考虑传统单库单表方案。 - **运维成本** 使用分库分表方案会增加数据库实例的数量和配置复杂度,因此需要权衡其带来的性能收益与运维成本。 ### 示例配置(分库分表逻辑) 以下是一个简单的YAML配置示例,展示如何在Spring Boot中配置ShardingJDBC对少量表进行分片: ```yaml spring: shardingsphere: datasource: names: ds0,ds1 ds0: driver-class-name: com.mysql.cj.jdbc.Driver url: jdbc:mysql://localhost:3306/ds0 username: root password: root ds1: driver-class-name: com.mysql.cj.jdbc.Driver url: jdbc:mysql://localhost:3306/ds1 username: root password: root rules: sharding: tables: user: actual-data-nodes: ds$->{0..1}.user_$->{0..1} table-strategy: standard: sharding-column: user_id sharding-algorithm-name: user-table-inline key-generator: column: user_id type: SNOWFLAKE sharding-algorithms: user-table-inline: type: INLINE props: algorithm-expression: user_$->{user_id % 2} ``` 上述配置将`user`表按`user_id`字段进行水平分片,分布到两个数据库和每个数据库中的两个表中,适用于少量表的分片需求[^3]。 ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值