深入解析MySQL(10)——基于Apache ShardingSphere的高性能架构详解
🔥我的主页:九转苍翎⭐️个人专栏:《Java SE 》《Java集合框架系统精讲》《MySQL高手之路:从基础到高阶 》《计算机网络 》《Java工程师核心能力体系构建》天行健,君子以自强不息。
MySQL版本:8.0.44
Linux操作系统版本:Ubuntu 24.04 LTS
Apache ShardingSphere版本:5.3.2(已免费上传至我的资源)
JDBC驱动程序版本:8.0.30(已免费上传至我的资源)
1.理论 - 高性能架构模式
1.1 读写分离
将读操作和写操作分配到不同的数据库节点上,分散数据库读写操作的压力
单机架构与读写分离架构的区别演示
1.2 数据分片
在关系型数据库中,索引普遍采用 B+ 树结构。随着业务数据不断积累,单表数据量膨胀会导致 B+ 树高度增加,每次查询需要更多的磁盘 I/O,严重拖慢查询效率。此外,集中式数据库在高并发场景下容易成为系统瓶颈。为解决性能与扩展性问题,必须实施数据分片(Sharding),将数据分散存储到多个数据库节点
1.2.1 垂直分片
垂直分片的核心是按业务功能或数据属性进行纵向拆分。它将一个包含多个字段的“宽表”或一个包含多张表的数据库,按照功能模块、访问频率、数据类型等维度,拆分成不同的数据库或表组垂直分表
垂直分库
1.2.2 水平分片
水平分片的核心是按数据记录进行横向拆分。它将单张数据量过大的表,按照某种规则(如ID范围、哈希值、时间等)将数据行分散存储到多个结构相同的数据库或表中水平分库:如果单表切分之后,单台服务器依然无法满足数据库性能要求,那么就需要将多个表分散在不同的数据库服务器上
水平分表:将原来一张表中的数据根据某种规则拆分到多个表中,将拆分出的多张表尽量放在同一个数据库,主要是避免跨库事务。水平分表后会有效降低 B+ 树高度,从而减少磁盘 I/O
1.3 读写分离和数据分片
2.实践方式 - 高性能架构模式
2.1 代码封装
- 代码侵入性强:分片逻辑与业务代码深度耦合
- 维护困难:分片逻辑散落在代码各处,难以统一管理。变更分片策略需要修改代码并重新发布
2.2 中间件封装
3.Apache ShardingSphere
Apache ShardingSphere 是一款开源的分布式数据库解决方案,旨在不替换底层数据库的前提下,通过插件化架构增强其数据处理与治理能力。截止2026年1月,它一共推出ShardingSphere-JDBC和ShardingSphere-Proxy两款产品,分别面向不同的部署与使用场景
3.1 ShardingSphere-JDBC(了解)
定位为轻量级 Java 框架,在 Java 的 JDBC 层提供的额外服务
3.2 ShardingSphere-Proxy
定位为独立的透明化数据库代理服务。它通过原生实现数据库二进制网络协议,屏蔽了后端数据库集群的复杂性,为所有客户端提供一个统一的、标准的数据库访问入口(支持多种语言)简单来说,可以将 ShardingSphere-Proxy 理解为一个“数据库网关”。 应用程序和DBA像操作一个普通的、单点的MySQL服务器一样去操作它,而背后所有的数据分片、路由等分布式逻辑,则由Proxy完全在内部处理并隐藏
工作原理:
- 客户端发送 SQL 语句到 ShardingSphere-proxy。
- ShardingSphere-proxy 接收 SQL 语句并解析操作类型,如select,insert,update,delete
- 基于操作类型、分片规则等条件,路由引擎会进行精准计算,确定该条 SQL 需要访问的具体物理分片(转发到底层真实的数据库节点)
- 底层真实数据库节点执行 SQL 语句,并将结果返回给 ShardingSphere-proxy。
ShardingSphere-proxy 合并不同数据节点返回的数据,并将最终结果返回给客户端
3.3 Dokcer安装ShardingSphere-Proxy
3.3.1 创建Docker容器
# -e JJVM_OPTS="-Xms256m -Xmx256m -Xmn128m" # 初始堆内存256m,量大堆内存256m,新生代内存128mdocker run -d\-p3307:3307 \-v /org/shardingsphere/proxy/conf:/opt/shardingsphere-proxy/conf \-v /org/shardingsphere/proxy/ext-lib:/opt/shardingsphere-proxy/ext-lib \-v /org/shardingsphere/proxy/logs:/opt/shardingsphere-proxy/logs \-eJVM_OPTS="-Xms256m -Xmx256m -Xmn128m"\--name ss-proxy \ apache/shardingsphere-proxy:5.3.2 创建容器后还需要在conf和ext-lib目录下添加配置文件(yaml)和驱动程序(jar)。可以从Apache ShardingSphere官网下载二进制包,然后提取出配置文件,避免手动创建配置文件
下载链接:ShardingSphere-Proxy 二进制包
3.3.2 配置server.yaml
在conf目录下配置server.yaml
mode:type: Standalone # 单机模式authority:# 授权users:# 用户配置-user: root@% # 配置一个用户,用户名为root@%password:123456# 为用户指定密码privilege:# 权限type: ALL_PERMITTED # 授予用户所有权限props:# 属性配置sql-show:true# 显示执行的SQL语句proxy-mysql-default-version: 8.0.44 # MySQL版本号3.3.3 上传MySQL驱动
ShardingSphere-Proxy 数据库代理服务连接 MySQL 数据库时,需要把 MySQL 驱动包放入宿主机映射扩展目录/ext-lib中
3.3.4 日志配置
在conf目录下配置logback.xml
<?xml version="1.0"?><configuration><!-- 日志输入到文件 --><appendername="SHARDING_FILE"class="ch.qos.logback.core.rolling.RollingFileAppender"><!-- 日志路径 --><file>./logs/shardingsphere.log</file><encoder><!-- 日志输入的样式 --><pattern>[%-5level] %d{yyyy-MM-dd HH:mm:ss.SSS} [%thread] %-5level %logger{36} - %msg%n</pattern></encoder><rollingPolicyclass="ch.qos.logback.core.rolling.TimeBasedRollingPolicy"><fileNamePattern>shardingsphere.%d{yyyy-MMdd}.%i.log</fileNamePattern><timeBasedFileNamingAndTriggeringPolicyclass="ch.qos.logback.core.rolling.SizeAndTimeBasedFNATP"><maxFileSize>100MB</maxFileSize></timeBasedFileNamingAndTriggeringPolicy></rollingPolicy></appender><rootlevel="INFO"><appender-refref="SHARDING_FILE"/></root></configuration>3.3.5 测试连接
# 重新启动容器docker restart ss-proxy # 查看状态,启动成功dockerps# 指定主机和端口号进行连接 mysql -h127.0.0.1-P3307-uroot-p1234564.实践 - 读写分离
4.1 架构图
4.2 服务器规划
| 数据库服务器 | 容器名 | 端口号 |
|---|---|---|
| 主服务器 | org-mysql-master | 53306 |
| 从服务器1 | org-mysql-slave1 | 53307 |
| 从服务器2 | org-mysql-slave2 | 53308 |
4.3 创建数据库服务器
参考深入解析MySQL(9)——主从复制架构详解创建一个主服务器和两个从服务器,并开启主从复制
4.4 配置读写分离
在/org/shardingsphere/proxy/conf目录下配置config-readwrite-splitting.yaml文件
databaseName: org_proxy_db # shardingsphere中代理的库名dataSources:write_ds:# 主节点,写服务器url: jdbc:mysql://YOUR_IP_ADDRESS:53306/org_db?characterEncoding=utf8&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true&useSSL=falseusername: root password:123456connectionTimeoutMilliseconds:30000idleTimeoutMilliseconds:60000maxLifetimeMilliseconds:1800000maxPoolSize:50minPoolSize:1read_ds_0:# 从节点,读服务器url: jdbc:mysql://YOUR_IP_ADDRESS:53306/org_db?characterEncoding=utf8&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true&useSSL=falseusername: root password:123456connectionTimeoutMilliseconds:30000idleTimeoutMilliseconds:60000maxLifetimeMilliseconds:1800000maxPoolSize:50minPoolSize:1read_ds_1:# 从节点,读服务器url: jdbc:mysql://YOUR_IP_ADDRESS:53306/org_db?characterEncoding=utf8&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true&useSSL=falseusername: root password:123456connectionTimeoutMilliseconds:30000idleTimeoutMilliseconds:60000maxLifetimeMilliseconds:1800000maxPoolSize:50minPoolSize:1rules:-!READWRITE_SPLITTING# 读写分离dataSources:readwrite_ds:staticStrategy:writeDataSourceName: write_ds readDataSourceNames:- read_ds_0 - read_ds_1 loadBalancerName: random # 负载均衡策略名,必须与下面配置的名字一致loadBalancers:# 分别为不的同负载均衡策略指定内置的类型random:# 随机,与上面的负载均衡策略名对应type: RANDOM # 内置类型, 固定为RANDOMround_robin:# 轮询type: ROUND_ROBIN # 固定为ROUND_ROBINweight:# 权重type: WEIGHT # 固定为WEIGHTprops:read_ds_0:2.0read_ds_1:1.04.5 启动ShardinSphere
# 启动容器docker start ss-proxy # 查看容器是否启动成功dockerps# 连接ShardinSphere mysql -h127.0.0.1-P3307-uroot-p4.6 测试
# 进入容器dockerexec-it ss-proxy envLANG=C.UTF-8 /bin/bash # 查看ShardingSphere的实时日志,以实际目录和文件名为准tail-f /opt/shardingsphere-proxy/logs/shardingsphere.log 查看日志
如果在事务中查询数据,所有的SQL操作都会被路由到主服务器,避免跨库事务
操作数据库
mysql>use org_proxy_db;Database changed mysql>insertinto t_user values(1,'张三'),(2,'李四'),(3,'王五'); Query OK,3rows affected (0.01 sec) mysql>select*from t_user;+----+--------+| id | name |+----+--------+|1| 张三 ||2| 李四 ||3| 王五 |+----+--------+3rowsinset(0.01 sec) mysql>select*from t_user;+----+--------+| id | name |+----+--------+|1| 张三 ||2| 李四 ||3| 王五 |+----+--------+3rowsinset(0.01 sec)5.实践 - 垂直分片
5.1 架构图
5.2 服务器规划
| 数据库服务器 | 容器名 | 端口号 |
|---|---|---|
| 用户服务器 | server-user | 53310 |
| 订单服务器 | server-order | 53311 |
5.3 创建server-user容器
创建数据库
createdatabaseifnotexists user_db characterset utf8mb4 collate utf8mb4_0900_ai_ci;-- 选择数据库use user_db;-- 创建用户表createtableifnotexists t_user ( id bigintprimarykeyauto_increment, name varchar(20));进入Docker容器
# 进入Docker容器 root@VM-0-7-ubuntu:~# docker exec -it server-user env LANG=C.UTF-8 /bin/bash# 运行Mysql客户端 bash-5.1# mysql -uroot -p# 修改密码 mysql>set password ='123456';创建server-user容器
docker run -d\-p53310:3306 \-v /org/mysql/user/conf:/etc/mysql/conf.d \-v /org/mysql/user/mysql:/var/lib/mysql \-eMYSQL_ROOT_PASSWORD=123456\--name server-user \ mysql:8.0.44 5.4 创建server-order容器
创建数据库
createdatabaseifnotexists order_db characterset utf8mb4 collate utf8mb4_0900_ai_ci;-- 选择数据库use order_db;-- 创建订单表createtableifnotexists t_order ( id bigintprimarykeyauto_increment, order_no varchar(30)comment'订单号', amount decimal(12,2)comment'订单金额', user_id bigintcomment'用户编号');进入Docker容器
# 进入Docker容器 root@VM-0-7-ubuntu:~# docker exec -it server-order env LANG=C.UTF-8 /bin/bash# 运行Mysql客户端 bash-5.1# mysql -uroot -p# 修改密码 mysql>set password ='123456';创建server-order容器
docker run -d\-p53311:3306 \-v /org/mysql/order/conf:/etc/mysql/conf.d \-v /org/mysql/order/mysql:/var/lib/mysql \-eMYSQL_ROOT_PASSWORD=123456\--name server-order \ mysql:8.0.44 5.5 垂直分库配置
在/org/shardingsphere/proxy/conf目录下配置config-sharding.yaml文件
databaseName: sharding_db dataSources:server_user:url: jdbc:mysql://YOUR_IP_ADDRESS:53310/user_db?characterEncoding=utf8&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true&useSSL=falseusername: root password:123456connectionTimeoutMilliseconds:30000idleTimeoutMilliseconds:60000maxLifetimeMilliseconds:1800000maxPoolSize:50minPoolSize:1server_order:url: jdbc:mysql://YOUR_IP_ADDRESS:53311/order_db?characterEncoding=utf8&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true&useSSL=falseusername: root password:123456connectionTimeoutMilliseconds:30000idleTimeoutMilliseconds:60000maxLifetimeMilliseconds:1800000maxPoolSize:50minPoolSize:1rules:-!SHARDINGtables:t_user:actualDataNodes: server_user.t_user t_order:actualDataNodes: server_order.t_order 5.6 启动ShardinSphere
# 启动容器docker start ss-proxy # 查看容器是否启动成功dockerps# 连接ShardinSphere mysql -h127.0.0.1-P3307-uroot-p6.实践 - 水平分片
6.1 架构图
水平分库 + 水平分表
6.2 服务器规划
| 数据库服务器 | 容器名 | 端口号 |
|---|---|---|
| 订单服务器 | server-order0 | 63310 |
| 订单服务器 | server-order1 | 63311 |
6.3 创建server-order容器
# 创建server-order0docker run -d\-p63310:3306 \-v /org/mysql/order0/conf:/etc/mysql/conf.d \-v /org/mysql/order0/mysql:/var/lib/mysql \-eMYSQL_ROOT_PASSWORD=123456\--name server-order0 \--restart always \ mysql:8.0.44 # 创建server-order1docker run -d\-p63311:3306 \-v /org/mysql/order1/conf:/etc/mysql/conf.d \-v /org/mysql/order1/mysql:/var/lib/mysql \-eMYSQL_ROOT_PASSWORD=123456\--name server-order1 \--restart always \ mysql:8.0.44 6.4 进入Docker容器
# 进入Docker容器dockerexec-it server-order0 envLANG=C.UTF-8 /bin/bash # docker exec -it server-order1 env LANG=C.UTF-8 /bin/bash# 运行Mysql客户端 mysql -uroot-p# 修改root用户密码 mysql>set password ='123456';6.5 创建数据库
-- 在两个Docker容器都执行相同的SQL语句createdatabaseifnotexists order_db characterset utf8mb4 collate utf8mb4_0900_ai_ci;-- 选择数据库use order_db;-- 创建订单表t_order0createtableifnotexists t_order0 ( id bigintprimarykey, order_no varchar(30)comment'订单号', amount decimal(12,2)comment'订单金额', user_id bigintcomment'用户编号');-- 创建订单表t_order1createtableifnotexists t_order1 ( id bigintprimarykey, order_no varchar(30)comment'订单号', amount decimal(12,2)comment'订单金额', user_id bigintcomment'用户编号');6.6 水平分片配置
databaseName: sharding_db dataSources:server_order0:url: jdbc:mysql://81.69.218.112:63310/order_db?characterEncoding=utf8&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true&useSSL=falseusername: root password:123456connectionTimeoutMilliseconds:30000idleTimeoutMilliseconds:60000maxLifetimeMilliseconds:1800000maxPoolSize:50minPoolSize:1server_order1:url: jdbc:mysql://81.69.218.112:63311/order_db?characterEncoding=utf8&serverTimezone=Asia/Shanghai&allowPublicKeyRetrieval=true&useSSL=falseusername: root password:123456connectionTimeoutMilliseconds:30000idleTimeoutMilliseconds:60000maxLifetimeMilliseconds:1800000maxPoolSize:50minPoolSize:1rules:-!SHARDINGtables:t_order:actualDataNodes: server_order${0..1}.t_order${0..1}databaseStrategy:# 分库策略standard:# 用于单分片键的标准分片场景shardingColumn: user_id #分片列名称shardingAlgorithmName: alg_db_inline_userid # 分片算法名称tableStrategy:#分表策略standard:shardingColumn: order_no # 分片列名称shardingAlgorithmName: alg_hash_mod # 分片算法名称# 配置分片算法shardingAlgorithms:alg_db_inline_userid:type: INLINE props:algorithm-expression: server_order${user_id % 2}# 分片算法,根据user_id对2取模 alg_hash_mod:type: HASH_MOD props:sharding-count:26.7 启动ShardinSphere
# 启动容器docker start ss-proxy # 查看容器是否启动成功dockerps# 连接ShardinSphere mysql -h127.0.0.1-P3307-uroot-p6.8 测试
# 进入容器dockerexec-it ss-proxy envLANG=C.UTF-8 /bin/bash # 查看ShardingSphere的实时日志,以实际目录和文件名为准tail-f /opt/shardingsphere-proxy/logs/shardingsphere.log -- 路由到 server-order1insertinto t_order (id, order_no, user_id, amount)values(1,'BIT001',1,20.00);insertinto t_order (id, order_no, user_id, amount)values(2,'BIT002',1,20.00);insertinto t_order (id, order_no, user_id, amount)values(3,'BIT003',1,20.00);insertinto t_order (id, order_no, user_id, amount)values(4,'BIT004',1,20.00);-- 路由到 server-order0insertinto t_order (id, order_no, user_id, amount)values(1,'BIT001',2,20.00);insertinto t_order (id, order_no, user_id, amount)values(2,'BIT002',2,20.00);insertinto t_order (id, order_no, user_id, amount)values(3,'BIT003',2,20.00);insertinto t_order (id, order_no, user_id, amount)values(4,'BIT004',2,20.00);