多数据源
一、多数据源的典型使用场景
在实际开发中,经常可能遇到在一个应用中可能需要访问多个数据库的情况。以下是两种典型场景:
1 业务复杂(数据量大)
数据分布在不同的数据库中,数据库拆了, 应用没拆。 一个公司多个子项目,各用各的数据库,涉及数据共享…
2 读写分离
为了解决数据库的读性能瓶颈(读比写性能更高, 写锁会影响读阻塞,从而影响读的性能)。 很多数据库拥主从架构。也就是,一台主数据库服务器,是对外提供增删改业务的生产服务器;另一(多)台从数据库服务器,主要进行 读的操作。
可以通过中间件(ShardingSphere、mycat、mysql-proxy 、TDDL …), 但是有一些规模较小的公司,没有专门的中间件团队搭建读写分 离基础设施,因此需要业务开发人员自行实现读写分离。
二、 如何实现多数据源
原理:
对于大多数的java应用,都使用了spring框架,spring-jdbc模块提供了AbstractRoutingDataSource,其内部可以包含了多个 DataSource,然后在运行时来动态的访问哪个数据库。这种方式访问数据库的架构图如下所示:
应用直接操作的是AbstractRoutingDataSource的实现类,告诉AbstractRoutingDataSource访问哪个数据库,然后由 AbstractRoutingDataSource从事先配置好的数据源(ds1、ds2)选择一个,来访问对应的数据库。
1.当执行数据库持久化操作,只要集成了Spring就一定会通过DataSourceUtils获取Connection
2. 通过Spring注入的DataSource获取Connection 即可执行数据库操作
所以思路就是:只需配置一个实现了DataSource的Bean, 然后根据业务动态提供Connection即可 3.其实Spring已经提供一个DataSource实现类用于动态切换数据源——AbstractRoutingDataSource 4.分析AbstractRoutingDataSource即可实现动态数据源切换:
2.1、通过AbstractRoutingDataSource实现动态数据源
通过这个类可以实现动态数据源切换。如下是这个类的成员变量
private Map<Object, Object> targetDataSources;
private Object defaultTargetDataSource;
private Map<Object, DataSource> resolvedDataSources;
targetDataSources保存了key和数据库连接的映射关系
defaultTargetDataSource标识默认的连接 resolvedDataSources这个数据结构是通过targetDataSources构建而来,存储结构也是数据库标识和数据源的
映射关系
而AbstractRoutingDataSource实现了InitializingBean接口,并实现了afterPropertiesSet方法。afterPropertiesSet方法 是初始化bean的时候执行,通常用作数据初始化。
resolvedDataSources就是在这里赋值
5.so! 我们只需创建AbstractRoutingDataSource实现类DynamicDataSource然后 始化targetDataSources和key为 数据源标识(可以是字符串、枚举、都行,因为标识是Object)、defaultTargetDataSource即可
6.后续当调用AbstractRoutingDataSource.getConnection 会接着调用提供的模板方法:
determineTargetDataSource
7.通过determineTargetDataSource该方法返回的数据库标识 从resolvedDataSources 中拿到对应的数据源
8.so!我们只需DynamicDataSource中实现determineTargetDataSource为其提供一个数据库标识
总结: 在整个代码中我们只需做4件大事:
1.定义AbstractRoutingDataSource实现类DynamicDataSource
2.初始化时为targetDataSources设置 不同数据源的DataSource和标识、及defaultTargetDataSource
3.在determineTargetDataSource中提供对应的数据源标识即可 4、切换数据源识即
什么到这还不会? 附上代码:
- 配置多数据源 和 AbstractRoutingDataSource的自定义实现类:DynamicDataSource
配置多数据
DynamicDataSource 代码:
1 public class DynamicDataSource extends AbstractRoutingDataSource {
2
3 /**
4 * ThreadLocal 用于提供线程局部变量,在多线程环境可以保证各个线程里的变量独立于其它线程里的变量。
5 * 也就是说 ThreadLocal 可以为每个线程创建一个【单独的变量副本】,相当于线程的 private static 类型变量。
6 */
7 private static final ThreadLocal<String> CONTEXT_HOLDER = new ThreadLocal<>();
8
9 /**
10 * 决定使用哪个数据源之前需要把多个数据源的信息以及默认数据源信息配置好
11 *
12 * @param defaultTargetDataSource 默认数据源
13 * @param targetDataSources 目标数据源
14 */
15 public DynamicDataSource(DataSource defaultTargetDataSource, Map<Object, Object> targetDataSources) {
16 super.setDefaultTargetDataSource(defaultTargetDataSource);
17 super.setTargetDataSources(targetDataSources);
18 super.afterPropertiesSet();
19 }
20
21 @Override
22 protected Object determineCurrentLookupKey() {
23 return getDataSource();
24 }
25
26 public static void setDataSource(String dataSource) {
27 CONTEXT_HOLDER.set(dataSource);
28 }
29
30 public static String getDataSource() {
31 return CONTEXT_HOLDER.get();
32 }
33
34 public static void clearDataSource() {
35 CONTEXT_HOLDER.remove();
36 }
37
38 }
2.2、多数据源切换方式
切换方式看你具体需求:
2.2.1、AOP+自定义注解
不同业务的数据源: 一般利用AOP,结合自定义注解动态切换数据源:
1.自定义注解
1 @Target({ElementType.METHOD,ElementType.TYPE})
2 @Retention(RetentionPolicy.RUNTIME)
3 public @interface WR {
4 String value() default "W";
5 }
2.切面类
1
2 @Component
3 @Aspect
4 public class DynamicDataSourceAspect {
5
6 // 前置通知
7 @Before("within(com.tuling.dynamic.datasource.service.impl.*) && @annotation(wr)")
8 public void before(JoinPoint joinPoint, WR wr){
9 System.out.println(wr.value());
10 }
11
12 }
3.使用注解
1 @Service
2 public class FrendImplService implements FrendService {
3
4 @Autowired
5 FrendMapper frendMapper;
6
7
8 @Override
9 @WR("R") // 库2
10 public List<Frend> list() {
11 return frendMapper.list();
12 }
13
14 @Override
15 @WR("W") // 库1
16 public void save(Frend frend) {
17 frendMapper.save(frend);
18 }
19 }
2.2.2、MyBatis插件
读写分离的数据源:如果是MyBatis可以结合插件实现读写分离动态切换数据源
1
2 @Intercepts({@Signature(type = Executor.class, method = "update", args = {MappedStatement.class, Ob ject.class}),
3 @Signature(type = Executor.class, method = "query", args = {MappedStatement.class, Object.class, R owBounds.class,
4 ResultHandler.class})})
5 public class DynamicDataSourcePlugin implements Interceptor {
6
7
8 @Override
9 public Object intercept(Invocation invocation) throws Throwable {
10
11 Object[] objects = invocation.getArgs();
12 MappedStatement ms = (MappedStatement) objects[0];
13 // 读方法
14 if (ms.getSqlCommandType().equals(SqlCommandType.SELECT)) {
15
16 DynamicDataSource.name.set("R");
17 } else {
18 // 写方法
19 DynamicDataSource.name.set("W");
20 }
21 // 修改当前线程要选择的数据源的key
22
23 return invocation.proceed();
24 }
25
26 @Override
27 public Object plugin(Object target) {
28 if (target instanceof Executor) {
29 return Plugin.wrap(target, this);
30 } else {
31 return target;
32 }
33 }
34
35 @Override
36 public void setProperties(Properties properties) {
37
38 }
39 }
2.3、Spring集成多个MyBatis框架 实现多数据源
WDataSourceConfig
1 @MapperScan(basePackages = "com.tuling.dynamic.datasource.mapper.w", sqlSessionFactoryRef = "wSqlSe ssionFactory")
1 @Bean
2 @Primary
3 public SqlSessionFactory wSqlSessionFactory(@Qualifier("dataSource1") DataSource dataSource1)
4 throws Exception {
5 final SqlSessionFactoryBean sessionFactory = new SqlSessionFactoryBean();
6 sessionFactory.setDataSource(dataSource1);
7 sessionFactory.setMapperLocations(new PathMatchingResourcePatternResolver()
8 .getResources("classpath:mapper/w/*.xml"));
9 /*主库设置sql控制台打印*/
10 org.apache.ibatis.session.Configuration configuration = new org.apache.ibatis.session.Configurati n();
11 configuration.setLogImpl(StdOutImpl.class);
12 sessionFactory.setConfiguration(configuration);
13 return sessionFactory.getObject();
14 }
RDataSourceConfig
1 @MapperScan(basePackages = "com.tuling.dynamic.datasource.mapper.r", sqlSessionFactoryRef = "rSqlSe ssionFactory")
1 @Bean
2 public SqlSessionFactory rSqlSessionFactory(@Qualifier("dataSource2") DataSource dataSource2)
3 throws Exception {
4 final SqlSessionFactoryBean sessionFactory = new SqlSessionFactoryBean();
5 sessionFactory.setDataSource(dataSource2);
6 sessionFactory.setMapperLocations(new PathMatchingResourcePatternResolver()
7 .getResources("classpath:mapper/r/*.xml"));
8 /*从库设置sql控制台打印*/
9 org.apache.ibatis.session.Configuration configuration = new org.apache.ibatis.session.Configuratio n();
10 configuration.setLogImpl(StdOutImpl.class);
11 sessionFactory.setConfiguration(configuration);
12 return sessionFactory.getObject();
13 }
三、多数据源事务控制
在多数据源下,由于涉及到数据库的多个读写。一旦发生异常就可能会导致数据不一致的情况, 在这种情况希望使用事务 进行回退。
但是Spring的声明式事务在一次请求线程中只能使用一个数据源进行控制
但是对于多源数据库:
1.单一事务管理器(TransactionManager)无法切换数据源,需要配置多个TransactionManager。 2.@Transactionnal是无法管理多个数据源的。 如果想真正实现多源数据库事务控制,肯定是需要分布式事务。 这里讲解 多源数据库事务控制的一种变通方式。
1 @Bean
2 public DataSourceTransactionManager transactionManager1(DynamicDataSource dataSource){
3 DataSourceTransactionManager dataSourceTransactionManager = new DataSourceTransactionManager();
4 dataSourceTransactionManager.setDataSource(dataSource);
5 return dataSourceTransactionManager;
6 }
7
8 @Bean
9 public DataSourceTransactionManager transactionManager2(DynamicDataSource dataSource){
10 DataSourceTransactionManager dataSourceTransactionManager = new DataSourceTransactionManager();
11 dataSourceTransactionManager.setDataSource(dataSource);
12 return dataSourceTransactionManager;
13 }
1. 只使用主库TransactionManger
使用主库事务管理器,也就是说事务中产生异常时,只能回滚主库数据。但是因为数据操作顺序是先主后从,所以分一下三种情况: 1. 主库插入时异常,主库未插成功,这时候从库还没来及插入,主从数据是还是一致的
2. 主库插入成功,从库插入时异常,这时候在主库事务管理器监测到事务中存在异常,将之前插入的主库数据插入,主从数据还是 一致的
3. 主库插入成功,从库插入成功,事务结束,主从数据一致。
1 @Override
2 @WR("W")
3 public void save(Frend frend) {
4 frendMapper.save(frend);
5 //int a=1/0; 1.主库插入时异常,主库未插成功,这时候从库还没来及插入,主从数据是还是一致的
6 }
7
8 @Override
9 @WR("R")
10 @Transactional(
11 transactionManager = "transactionManager2",
12 propagation= Propagation.REQUIRES_NEW)
13 public void saveRead(Frend frend) {
14 frend.setName("xushu");
15 frendMapper.save(frend);
16 // int a=1/0; 2.主库插入成功,从库插入时异常,这时候在主库事务管理器监测到事务中存在异常,将之前插入的主库数 据插入,主从数据还是一致的
17 }
18
19 @Override
20 @Transactional(transactionManager = "transactionManager1")
21 public void saveAll(Frend frend) {
22 // 3. 无异常情况:主库插入成功,从库插入成功,事务结束,主从数据一致。
23 FrendService self= (FrendService)AopContext.currentProxy();
24 self.save(frend);
25 self.saveRead(frend);
26 //int a=1/0; 从库插入之后出现异常, 只能回滚主库数据 ,从库数据是无法回滚的 , 数据将不一致
27 }
当然这只是理想情况,例外情况:
4.从库插入之后出现异常, 只能回滚主库数据 ,从库数据是无法回滚的 , 数据将不一致
5.从库数据插入成功后,主库提交,这时候主库崩溃了,导致数据没插入,这时候从库数据也是无法回滚的。这种方式可以简单实现多源数 据库的事务管理,但是无法处理上述情况。
- 一个方法开启2个事务
spring编程式事务 :
1 // 读‐‐ 写库
2 @Override
3 public void saveAll(Frend frend) {
4 wtransactionTemplate.execute(wstatus ‐> {
5 rtransactionTemplate.execute(rstatus ‐> {
6 try{
7 saveW(frend);
8 saveR(frend);
9 int a=1/0;
10 return true;
11 }
12 catch (Exception e){
13 wstatus.setRollbackOnly();
14 rstatus.setRollbackOnly();
15 return false;
16 }
17 });
18 return true;
19 });
20 }
spring声明式事务:
@Transactional
1 @Transactional(transactionManager = "wTransactionManager")
2 public void saveAll(Frend frend) throws Exception {
3 FrendService frendService = (FrendService) AopContext.currentProxy();
4 frendService.saveAllR(frend);
5 }
6
7 @Transactional(transactionManager = "rTransactionManager"
8 ,propagation = Propagation.REQUIRES_NEW )
9 public void saveAllR(Frend frend) {
10 saveW(frend);
11 saveR(frend); 12 int a = 1 / 0; 13 }
四、dynamic-datasource多数源组件
两三个数据源、事务场景比较少
基于 SpringBoot 的多数据源组件,功能强悍,支持 Seata 分布式事务。
支持 数据源分组 ,适用于多种场景 纯粹多库 读写分离 一主多从 混合模式。
支持数据库敏感配置信息 加密 ENC()。 支持每个数据库独立初始化表结构schema和数据库database。 支持无数据源启动,支持懒加载数据源(需要的时候再创建连接)。 支持 自定义注解 ,需继承DS(3.2.0+)。 提供并简化对Druid,HikariCp,BeeCp,Dbcp2的快速集成。
提供对MybatisPlus,Quartz,ShardingJdbc,P6sy,Jndi等组件的集成方案。
提供 自定义数据源来源 方案(如全从数据库加载)。
提供项目启动后 动态增加移除数据源 方案。
提供Mybatis环境下的 纯读写分离 方案。
提供使用 spel动态参数 解析数据源方案。内置spel,session,header,支持自定义。 支持 多层数据源嵌套切换 。(ServiceA >>> ServiceB >>> ServiceC)。
提供 基于seata的分布式事务方案。
提供 本地多数据源事务方案。 附:不能和原生spring事务混用。
约定
- 本框架只做 切换数据源 这件核心的事情,并不限制你的具体操作,切换了数据源可以做任何CRUD。
- 配置文件所有以下划线 _ 分割的数据源 首部 即为组的名称,相同组名称的数据源会放在一个组下。
- 切换数据源可以是组名,也可以是具体数据源名称。组名则切换时采用负载均衡算法切换,默认是轮询的。
- 默认的数据源名称为 master ,你可以通过 spring.datasource.dynamic.primary 修改。
- 方法上的注解优先于类上注解。
- DS支持继承抽象类上的DS,暂不支持继承接口上的DS。
使用方法
引入dynamicdatasourcespringbootstarter。
mavencentral v3.5.0
1 <dependency>
2 <groupId>com.baomidou</groupId>
3 <artifactId>dynamic‐datasource‐spring‐boot‐starter</artifactId>
4 <version>${version}</version>
5 </dependency>
2.配置数据源。
spring:
2 datasource:
3 dynamic:
4 #设置默认的数据源或者数据源组,默认值即为master
5 primary: master
6 #严格匹配数据源,默认false. true未匹配到指定数据源时抛异常,false使用默认数据源
7 strict: false
8 datasource:
9 master:
10 url: jdbc:mysql://xx.xx.xx.xx:3306/dynamic
11 username: root
12 password: 123456
13 driver‐class‐name: com.mysql.jdbc.Driver # 3.2.0开始支持SPI可省略此配置
14 slave_1:
15 url: jdbc:mysql://xx.xx.xx.xx:3307/dynamic
16 username: root
17 password: 123456
18 driver‐class‐name: com.mysql.jdbc.Driver
19 slave_2:
20 url: ENC(xxxxx) # 内置加密,使用请查看详细文档
21 username: ENC(xxxxx)
22 password: ENC(xxxxx)
23 driver‐class‐name: com.mysql.jdbc.Driver
24
25 #......省略
26 #以上会配置一个默认库master,一个组slave下有两个子库slave_1,slave_2
1 # 多主多从 纯粹多库(记得设置primary) 混合配置
2 spring: spring: spring:
3
- 文章目录
- 繁