读写分离实现方式

引用:https://blog.youkuaiyun.com/zbw18297786698/article/details/54343188

           https://blog.youkuaiyun.com/jack85986370/article/details/51559232

           http://www.cnblogs.com/boothsun/p/7454901.html

很多大型网站,所处理的业务中,有大约70%是查询(select)相关的业务操作,而剩下的30%是写操作(insert、delete、update),故可使用读写分离的方式提升数据库的负载能力。

将所有的查询处理都放到从服务器上,写处理放在主服务器。

一、使用Spring基于应用层实现

在进入Service之前,使用AOP来做出判断,是使用写库还是读库,判断依据可以根据方法名判断,比如说以query、find、get等开头的就走读库,其他的走写库。

继承AbstractRoutingDataSource实现动态数据源切换

mybatis配置文件
<bean id="masterDataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
        <!-- 基本属性 url、user、password -->
        <property name="url" value="${jdbc.url}" />
        <property name="username" value="${jdbc.username}" />
        <property name="password" value="${jdbc.password}" />

        <!-- 配置初始化大小、最小、最大 -->
        <property name="initialSize" value="1" />
        <property name="minIdle" value="1" />
        <property name="maxActive" value="20" />

        <!-- 配置获取连接等待超时的时间 -->
        <property name="maxWait" value="60000" />

        <!-- 配置间隔多久才进行一次检测,检测需要关闭的空闲连接,单位是毫秒 -->
        <property name="timeBetweenEvictionRunsMillis" value="60000" />

        <!-- 配置一个连接在池中最小生存的时间,单位是毫秒 -->
        <property name="minEvictableIdleTimeMillis" value="300000" />

        <property name="validationQuery" value="SELECT 'x'" />
        <property name="testWhileIdle" value="true" />
        <property name="testOnBorrow" value="false" />
        <property name="testOnReturn" value="false" />

        <!-- 打开PSCache,并且指定每个连接上PSCache的大小 -->
        <property name="poolPreparedStatements" value="true" />
        <property name="maxPoolPreparedStatementPerConnectionSize" value="20" />
</bean>

<bean id="slaveDataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
    <!-- 基本属性 url、user、password -->
    <property name="url" value="${jdbc.r.url}" />
    <property name="username" value="${jdbc.r.username}" />
    <property name="password" value="${jdbc.r.password}" />

    <!-- 配置初始化大小、最小、最大 -->
    <property name="initialSize" value="1" />
    <property name="minIdle" value="1" />
    <property name="maxActive" value="20" />

    <!-- 配置获取连接等待超时的时间 -->
    <property name="maxWait" value="60000" />

    <!-- 配置间隔多久才进行一次检测,检测需要关闭的空闲连接,单位是毫秒 -->
    <property name="timeBetweenEvictionRunsMillis" value="60000" />

    <!-- 配置一个连接在池中最小生存的时间,单位是毫秒 -->
    <property name="minEvictableIdleTimeMillis" value="300000" />

    <property name="validationQuery" value="SELECT 'x'" />
    <property name="testWhileIdle" value="true" />
    <property name="testOnBorrow" value="false" />
    <property name="testOnReturn" value="false" />

    <!-- 打开PSCache,并且指定每个连接上PSCache的大小 -->
    <property name="poolPreparedStatements" value="true" />
    <property name="maxPoolPreparedStatementPerConnectionSize" value="20" />
</bean>

<bean id="dynamicDataSource" class="com.boothsun.util.datasource.DynamicDataSource">
    <property name="targetDataSources">
        <map key-type="java.lang.String">
            <!-- write -->
            <entry key="master" value-ref="masterDataSource"/>
            <!-- read -->
            <entry key="slave" value-ref="slaveDataSource"/>
        </map>
    </property>
    <property name="defaultTargetDataSource" ref="masterDataSource"/>
</bean>

<!-- MyBatis配置 -->
<bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
    <property name="dataSource" ref="dynamicDataSource"/>
    <!-- 显式指定Mapper文件位置 -->
    <property name="mapperLocations" value="classpath*:xmlmapper/*.xml"/>
</bean>

<bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
    <property name="basePackage" value="com.boothsun.mybatismapper"/>
    <property name="sqlSessionFactoryBeanName" value="sqlSessionFactory"/>
</bean>

<bean id="transactionManager"
      class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
    <property name="dataSource" ref="dynamicDataSource"/>
</bean>
<tx:annotation-driven transaction-manager="transactionManager" proxy-target-class="false"/>
spring获取数据源的源码:

 

DynamicDataSource方法:
public class DynamicDataSource extends AbstractRoutingDataSource {
    @Override
    protected Object determineCurrentLookupKey() {
        return DbContextHolder.getDbType();
    }
}
DbContextHolder方法
public class DbContextHolder {
// 注意:数据源标识保存在线程变量中,避免多线程操作数据源时互相干扰
private static final ThreadLocal<String> contextHolder=new ThreadLocal<String>();

public static void setDbType(String dbType){
contextHolder.set(dbType);
}

public static String getDbType(){
String dbType=(String) contextHolder.get();
return dbType;
}

public static void clearDbType(){
contextHolder.remove();
}
}

使用ThreadLocal实现简单的读写分离

@Component
@Aspect
public class DataSourceMethodInterceptor {

    @Before("execution(* com.xxx.xxx.xxx.xxx.service.impl.*.*(..))")
    public void dynamicSetDataSoruce(JoinPoint joinPoint) throws Exception {
        String methodName = joinPoint.getSignature().getName();
        // 查询读从库
        if (methodName.startsWith("select") || methodName.startsWith("load") || methodName.startsWith("get") || methodName.startsWith("count") || methodName.startsWith("is")) {
            DynamicDataSourceHolder.setDataSource("slave");
        } else { // 其他读主库
            DynamicDataSourceHolder.setDataSource("master");
        }
    }

}

 

优点:

1、多数据源切换方便,由程序自动完成;

2、不需要引入中间件;

3、理论上支持任何数据库;

缺点:

1、由程序员完成,运维参与不到;

2、不能做到动态增加数据源;

二、使用中间件实现读写分离

要求:

  1. 一主两从,做读写分离。
  2. 多个从库之间实现负载均衡。
  3. 可手动强制部分读请求到主库上。(因为主从同步有延迟,对实时性要求高的系统,可以将部分读请求也走主库)
mybatis配置文件
<bean id="master" class="com.alibaba.druid.pool.DruidDataSource" init-method="init"
      destroy-method="close">
    <property name="driverClassName" value="com.mysql.jdbc.Driver"/>
    <property name="url" value="${jdbc.url.master}"></property>
    <property name="username" value="${jdbc.username.master}"></property>
    <property name="password" value="${jdbc.password.master}"></property>
    <property name="maxActive" value="100"/>
    <property name="initialSize" value="10"/>
    <property name="maxWait" value="60000"/>
    <property name="minIdle" value="5"/>
</bean>

<bean id="slave1" class="com.alibaba.druid.pool.DruidDataSource" init-method="init"
      destroy-method="close">
    <property name="driverClassName" value="com.mysql.jdbc.Driver"/>
    <property name="url" value="${jdbc.url.slave1}"></property>
    <property name="username" value="${jdbc.username.slave1}"></property>
    <property name="password" value="${jdbc.password.slave1}"></property>
    <property name="maxActive" value="100"/>
    <property name="initialSize" value="10"/>
    <property name="maxWait" value="60000"/>
    <property name="minIdle" value="5"/>
</bean>

<bean id="slave2" class="com.alibaba.druid.pool.DruidDataSource" init-method="init"
      destroy-method="close">
    <property name="driverClassName" value="com.mysql.jdbc.Driver"/>
    <property name="url" value="${jdbc.url.slave2}"></property>
    <property name="username" value="${jdbc.username.slave2}"></property>
    <property name="password" value="${jdbc.password.slave2}"></property>
    <property name="maxActive" value="100"/>
    <property name="initialSize" value="10"/>
    <property name="maxWait" value="60000"/>
    <property name="minIdle" value="5"/>
</bean>

<bean id="randomStrategy" class="io.shardingjdbc.core.api.algorithm.masterslave.RandomMasterSlaveLoadBalanceAlgorithm" />

<master-slave:data-source id="shardingDataSource" master-data-source-name="master" slave-data-source-names="slave1,slave2" strategy-ref="randomStrategy" />

强制路由

使用读写分离,可能会有主从同步延迟的问题,对于一些实时性要求比较高的业务,需强制部分读请求访问主库。

HintManager 分片键值管理器

我们可使用hintManager.setMasterRouteOnly() .
@Test
public void HintManagerTest() {

    HintManager hintManager = HintManager.getInstance() ;
    hintManager.setMasterRouteOnly();

    OrderExample example = new OrderExample();
    example.createCriteria().andBusinessIdEqualTo(112);
    List<Order> orderList = orderMapper.selectByExample(example);
    System.out.println(JSONObject.toJSONString(orderList));

    hintManager.close();
}

阿里的mycat或360的Atlas也可以实现分库分表,读写分离和负载均衡等处理。

引用:https://www.cnblogs.com/liujiduo/p/5004691.html

转载于:https://www.cnblogs.com/tilamisu007/p/9360664.html

<think>首先,用户的问题是:“我想了解CopyOnWriteArrayList的读写分离实现方式请问CopyOnWriteArrayList读写分离实现原理Java并发”。我需要基于提供的引用内容来回答。关键引用:-引用[1]:提到CopyOnWriteArrayList是基于CopyOnWrite机制实现的,读操作快,写操作慢。-引用[2]:说明CopyOnWriteArrayList是线程安全的,读操作无锁,写操作通过创建底层数组的新副本来实现。-引用[3]:强调CopyOnWriteArrayList是读写分离的并发策略。-引用[4]和[5]:讨论了弱一致性,并提供了一个示例代码,展示了迭代器在写操作后可能读取旧数据。用户的问题焦点是“读写分离实现原理”。我需要解释CopyOnWriteArrayList如何实现读写分离。###回答结构-**介绍**:简要介绍CopyOnWriteArrayList和其目的。-**读写分离原理**:详细解释读操作和写操作的处理方式。-读操作:无锁,直接访问数组。-写操作:创建新副本,修改副本,然后原子性地替换原数组。-**弱一致性**:解释为什么迭代器是弱一致性的,并引用示例。-**适用场景**:基于引用,提到读多写少的场景。-**代码示例**:提供简单的Java代码来演示原理。-**相关问题**:根据系统指令,生成相关问题。###确保格式-行内数学表达式用$...$(但在这个主题中可能不常用,除非涉及公式)。-独立公式用$$...$$(同样,可能不适用)。-使用中文回答。-添加引用标识:例如,[^1]。-生成相关问题。###内容大纲1.**介绍**:CopyOnWriteArrayList是Java并发包中的一个线程安全列表,基于读写分离机制。2.**读写分离实现**:-读操作:直接访问底层数组,不需要锁,因此高效。-写操作:当修改列表时(如add,remove),会创建一个新数组的副本,在新副本上进行修改,然后原子性地将引用指向新数组。这确保写操作不影响读操作。-使用volatile数组引用来保证可见性。3.**弱一致性**:迭代器在创建时会捕获当前数组的快照,因此即使在迭代过程中列表被修改,迭代器也不会看到新变化,这可能导致弱一致性(引用[4]和[5])。4.**优点和缺点**:-优点:读操作高效,无锁;写操作不阻塞读。-缺点:写操作开销大,因为需要复制数组;内存占用高。5.**适用场景**:读多写少的场景,如缓存或配置管理(引用[1])。6.**代码示例**:提供简化版代码或伪代码来演示原理。7.**相关问题**:生成2-3个相关问题。###生成相关问题基于系统指令:1.CopyOnWriteArrayList的弱一致性如何影响并发编程?2.CopyOnWriteArrayList和Vector在性能上有什么区别?3.CopyOnWriteArrayList在哪些实际应用中常用?###引用处理在回答中,自然地添加引用标识:-当提到读操作快时:[^1]-当解释写操作时:[^2],[^3]-当讨论弱一致性时:[^4],[^5]###完整回答-用中文。-结构清晰:分段落。-确保真实可靠:基于提供的引用。</think>### CopyOnWriteArrayList 的读写分离实现原理 CopyOnWriteArrayList 是 Java 并发包(`java.util.concurrent`)中的一个线程安全列表类,它通过读写分离机制实现高效并发访问。核心思想是将读操作和写操作解耦:**读操作无锁且直接访问数据,写操作则通过创建底层数组的新副本来执行修改**,确保线程安全。下面基于 Java 并发机制逐步解析其实现原理。 #### 1. **读写分离的核心机制** - **读操作(无锁访问)**: - CopyOnWriteArrayList 内部维护一个 volatile 数组(如 `volatile Object[] array`),所有读操作(如 `get()`、`size()`)直接访问该数组。由于数组引用被声明为 `volatile`,保证了多线程下的可见性,读操作无需加锁即可获取最新数据[^2][^3]。 - 示例代码:读操作简单高效。 ```java public E get(int index) { return (E) array[index]; // 直接访问数组,无锁 } ``` - **写操作(副本复制)**: - 当执行写操作(如 `add()`、`remove()`、`set()`)时,会创建一个底层数组的新副本(拷贝),在新副本上执行修改。修改完成后,通过原子操作(如 `ReentrantLock`)将 volatile 数组引用指向新副本。旧数组会被垃圾回收[^2][^3]。 - 关键步骤: 1. 加锁(确保写操作互斥)。 2. 复制当前数组到新数组。 3. 在新数组上执行修改。 4. 原子性地更新数组引用。 5. 释放锁。 - 示例代码:写操作的核心逻辑。 ```java public boolean add(E e) { final ReentrantLock lock = this.lock; lock.lock(); // 加锁 try { Object[] elements = getArray(); int len = elements.length; Object[] newElements = Arrays.copyOf(elements, len + 1); // 创建副本 newElements[len] = e; // 修改副本 setArray(newElements); // 原子更新引用 return true; } finally { lock.unlock(); // 释放锁 } } ``` - 这种机制确保写操作不影响正在进行的读操作(读操作始终访问旧数组),实现读写分离[^3]。 #### 2. **弱一致性的表现** - 由于读操作访问的是写操作发生前的数组快照,迭代器(`Iterator`)在创建时会捕获当前数组状态。即使后续写操作修改了列表,迭代器也不会感知新变化,这称为**弱一致性**(weakly consistent)[^4][^5]。 - 示例场景(基于引用[4]): - 线程 A 创建迭代器并开始遍历列表。 - 线程 B 同时删除一个元素(创建新副本并更新引用)。 - 线程 A 的迭代器仍基于旧数组遍历,可能输出已被删除的元素。 - 代码演示: ```java CopyOnWriteArrayList<String> list = new CopyOnWriteArrayList<>(); list.add("A"); list.add("B"); Iterator<String> it = list.iterator(); // 创建迭代器(捕获快照) list.remove(0); // 写操作修改列表 while (it.hasNext()) { System.out.println(it.next()); // 输出 "A" 和 "B",尽管 "A" 已被删除 } ``` - 弱一致性适用于读多写少场景,避免了 `ConcurrentModificationException`,但可能返回过时数据[^5]。 #### 3. **优点与适用场景** - **优点**: - 读操作高效无锁,适合高频读取。 - 写操作线程安全,不阻塞读操作。 - **缺点**: - 写操作开销大(数组复制),不适合写密集型场景。 - 内存占用高(旧副本暂存)。 - **适用场景**:读多写少的应用,如缓存系统、配置管理或事件监听器列表(引用[1]中提到“读操作可以尽可能的快,而写即使慢一些也没关系”)[^1][^3]。 #### 4. **与其他容器的对比** - **vs Vector**:Vector 使用全表锁(`synchronized`),读写均互斥;CopyOnWriteArrayList 读写分离,读操作无锁,性能更高。 - **vs Collections.synchronizedList**:类似 Vector,锁粒度粗,而 CopyOnWriteArrayList 优化了读并发。 通过读写分离,CopyOnWriteArrayList 在保证线程安全的同时,显著提升了并发读性能,但需权衡写操作的开销和弱一致性[^2][^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值