mysql冷热数据分离方案(MySQL中使用流式查询避免数据OOM)
mysql冷热数据分离方案
MySQL中使用流式查询避免数据OOM目录
- 一、前言
- 二、JDBC实现流式查询
-
三、性能测试
- 3.1. 测试大数据量普通查询
- 3.2. 测试大数据量流式查询
- 3.3. 测试小数据量普通查询
- 3.4. 测试小数据量流式查询
- 四、总结
一、前言
程序访问MySQL
数据库时,当查询出来的数据量特别大时,数据库驱动把加载到的数据全部加载到内存里,就有可能会导致内存溢出(OOM)。
其实在MySQL
数据库中提供了流式查询,允许把符合条件的数据分批一部分一部分地加载到内存中,可以有效避免OOM;本文主要介绍如何使用流式查询并对比普通查询进行性能测试。
二、JDBC实现流式查询
使用JDBC的PreparedStatement/Statement
的setFetchSize
方法设置为Integer.MIN_VALUE
或者使用方法Statement.enableStreamingResults()
可以实现流式查询,在执行ResultSet.next()
方法时,会通过数据库连接一条一条的返回,这样也不会大量占用客户端的内存。
|
public int execute(String sql, boolean isStreamQuery) throws SQLException { Connection conn = null ; PreparedStatement stmt = null ; ResultSet rs = null ; int count = 0 ; try { //获取数据库连接 conn = getConnection(); if (isStreamQuery) { //设置流式查询参数 stmt = conn.prepareStatement(sql, ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY); stmt.setFetchSize(Integer.MIN_VALUE); } else { //普通查询 stmt = conn.prepareStatement(sql); } //执行查询获取结果 rs = stmt.executeQuery(); //遍历结果 while (rs.next()){ System.out.println(rs.getString( 1 )); count++; } } catch (SQLException e) { e.printStackTrace(); } finally { close(stmt, rs, conn); } return count; } |
「PS」:上面的例子中通过参数isStreamQuery
来切换「流式查询」与「普通查询」,用于下面做测试对比。
三、性能测试
创建了一张测试表my_test
进行测试,总数据量为27w
条,分别使用以下4个测试用例进行测试:
- 大数据量普通查询(27w条)
- 大数据量流式查询(27w条)
- 小数据量普通查询(10条)
- 小数据量流式查询(10条)
3.1. 测试大数据量普通查询
|
@Test public void testCommonBigData() throws SQLException { String sql = "select * from my_test" ; testExecute(sql, false ); } |
3.1.1. 查询耗时
27w 数据量用时 38 秒
3.1.2. 内存占用情况
使用将近 1G 内存
3.2. 测试大数据量流式查询
|
@Test public void testStreamBigData() throws SQLException { String sql = "select * from my_test" ; testExecute(sql, true ); } |
3.2.1. 查询耗时
27w 数据量用时 37 秒
3.2.2. 内存占用情况
由于是分批获取,所以内存在30-270m波动
3.3. 测试小数据量普通查询
|
@Test public void testCommonSmallData() throws SQLException { String sql = "select * from my_test limit 100000, 10" ; testExecute(sql, false ); } |
3.3.1. 查询耗时
10 条数据量用时 1 秒
3.4. 测试小数据量流式查询
|
@Test public void testStreamSmallData() throws SQLException { String sql = "select * from my_test limit 100000, 10" ; testExecute(sql, true ); } |
3.4.1. 查询耗时
10 条数据量用时 1 秒
四、总结
MySQL 流式查询对于内存占用方面的优化还是比较明显的,但是对于查询速度的影响较小,主要用于解决大数据量查询时的内存占用多的场景。
「DEMO地址」:https://github.com/zlt2000/mysql-stream-query
到此这篇关于MySQL中使用流式查询避免数据OOM的文章就介绍到这了,更多相关MySQL 流式查询内容请搜索开心学习网以前的文章或继续浏览下面的相关文章希望大家以后多多支持开心学习网!
原文链接:https://segmentfault.com/a/1190000038792484
- windows 安装解压版 mysql5.7.28 winx64的详细教程(windows 安装解压版 mysql5.7.28 winx64的详细教程)
- mysql查看执行计划
- mysql错误代码之1064的解决方案(mysql错误代码之1064的解决方案)
- mysql 多表连接查询(MySQL多表查询的具体实例)
- mysql创建表存在哪里(MySQL的表空间是什么)
- mysql中innodb四种事务级别(MySQL InnoDB 锁的相关总结)
- mysqltruncate(MYSQL中Truncate的用法详解)
- mysql mvcc 隔离级别(详解MySQL事务的隔离级别与MVCC)
- mysql有哪些索引和聚簇索引(MySQL 独立索引和联合索引的选择)
- python中怎么连接mysql(python远程连接MySQL数据库)
- mysql行级锁使用教程(浅析MySQL的lru链表)
- mysql重复插入数据教程(Mysql避免重复插入数据的4种方式)
- mysql存储过程遍历数据(Mysql 存储过程中使用游标循环读取临时表)
- mysql8.0使用(MySQL 8.0新特性 — 检查性约束的使用简介)
- django操作默认数据库(Django数据库类库MySQLdb使用详解)
- mysql如何解决主从延迟(MySQL主从延迟问题解决)
- 全椒人,你还记得吗 那年,那人,那网,那些我们的青春记忆(全椒人你还记得吗)
- 全椒人在苏州10周年联谊会在苏州举办(全椒人在苏州10周年联谊会在苏州举办)
- 这个全椒人被通报表彰,看看你认识吗(这个全椒人被通报表彰)
- 全椒人,38年集体回忆 1980-2018 ,看完不要哭(全椒人38年集体回忆)
- 董元奔吟咏历代文人 1012新旧均可 全椒人张璪 1022 -1093(董元奔吟咏历代文人)
- 泪目 这位 刷屏 的英雄,是全椒人的骄傲(泪目这位刷屏)
热门推荐
- webapp隐藏地址栏
- python 文本分析 摘要(用Python逐行分析文件方法)
- 小程序数字化怎么布局(用position:sticky完美解决小程序吸顶问题的实现方法)
- jquery获取outerhtml
- pythonhtml文件转换成pdf库(Python3转换html到pdf的不同解决方案)
- mysql怎么使用null(MySQL null与not null和null与空值''''的区别详解)
- mysql数据库三种模式(MySQL数据库是如何实现XA规范的)
- php数组详解(php数组和链表的区别总结)
- docker 容器移植(Docker构建kubectl镜像的实现步骤)
- python零基础入门五小时(从0开始的Python学习016异常)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9