mysqlsql语句的优化(MySQL优化之如何写出高质量sql语句)
mysqlsql语句的优化
MySQL优化之如何写出高质量sql语句前言
关于数据库优化,网上有不少资料和方法,但是不少质量参差不齐,有些总结的不够到位,内容冗杂。这篇文章就来给大家详细介绍了26条优化建议,下面来一起看看吧
1. 查询sql尽量不要使用全查 select *,而是 select + 具体字段。
反例:
|
select * from student; |
正例:
|
select id, name , age from student; |
理由:
- 只取需要的字段,可以节省资源、减少cpu和io以及网络开销。
- select * 进行查询时,无法使用到覆盖索引,就会造成回表查询。
- 使用具体字段可以减少表结构变动带来的影响。
2. 使用预编译语句进行数据库操作
理由:
- 预编译语句可以重复使用计划,减少sql编译所需要的时间
- 可以解决动态sql所带来的sql注入的问题
- 只传参数,比传递sql语句更高效
- 相同语句可以一次解析,多次使用,提高处理效率
3. 禁止使用不含字段列表的 insert 语句
反例:
|
insert into values ( 'a' , 'b' , 'c' ); |
正例:
|
insert into t(a, b, c) values ( 'a' , 'b' , 'c' ); |
理由:
- 不含字段名的 insert 语句,很难区分到底对应的是什么字段,而且只能全值插入,可读性差。
- 一旦表结构发生改变,很难修改。
4. 尽量避免在 where 子句中使用 or 来连接条件
案例:新建一个user表,它有一个普通索引userid,表结构如下:
|
create table ` user ` ( `id` int (11) not null auto_increment, `user_id` int (11) not null , `age` int (11) not null , ` name ` varchar (30) not null , primary key (`id`), key `idx_userid` (`userid`) ) engine=innodb default charset=utf8; |
查询userid为1 或者 年龄为 18 岁的用户
反例:
|
select id, user_id, age, name from user where userid=1 or age =18 |
正例:
|
# 使用 union all select id, user_id, age, name from user where userid=1 union all select * from user where age = 18 # 或者分开两条sql写 select id, user_id, age, name from user where userid=1; select * from user where age = 18 |
理由:
- 使用or可能会使索引失效,从而全表扫描。
- 对于 or + 没有索引 的字段,如上面的 age 这种情况,假设它走了userid 的索引,但是走到 age 查询条件时,它还得全表扫描,也就是需要三步过程:全表扫描+索引扫描+合并,如果它一开始就走全表扫描,直接一遍扫描就完事。
- mysql是有优化器的,处于效率与成本考虑,遇到or条件,索引可能失效,看起来也合情合理。
5. 使用 where 条件查询,要限定要查询的数据,避免返回多余的行,同时避免数据类型的隐式转换
假设 id 为 int 类型,查询 id = 1 的数据
反例:
|
select id, name from student where id = '1' ; |
正例:
|
select id, name from student where id = 1; |
理由:
- 需要什么数据,就去查什么数据,避免返回不必要的数据,节省开销。
- 隐式转换会导致索引失效
6. 静止在 where 子句中对字段进行表达式操作或函数转换,这将导致系统放弃使用索引而进行全表扫描
假设 user 表的 age 字段,加了索引,对其进行数据查询
反例:
|
select name , age from user where age - 1 = 20; |
正例:
|
select name , age from user where age = 21; |
理由:
- age 加了索引,但是因为对它进行运算查询,导致索引不生效,大大的降低效率。
7. 尽量避免在 where 子句中使用 != 或 <> 操作符,否则将引擎放弃使用索引而进行全表扫描。
(mysql中适用)
反例:
|
select age, name from user where age <> 18; |
正例:
|
# 可以考虑分开两条sql写 select age, name from user where age < 18; select age, name from user where age > 18; |
理由:
- 使用!=和<>很可能会让索引失效
8. 对查询优化,应考虑在where及order by涉及的列上建立索引,尽量避免全表扫描。
反例:
|
select name , age, address from user where address = '深圳' order by age ; |
正例:添加索引再查询
|
alter table user add index idx_address_age (address,age) |
9. where子句中考虑使用默认值代替 null
反例:(这种会全查所有数据)
|
select user_id, name , age from user where age is not null ; |
正例:
|
# 表字段age设置0为默认值代替 null select user_id, name , age from user where age > 0; 1 2 |
理由:
- 并不是说使用了 is null 或者 is not null 就会不走索引了,这个跟mysql版本以及查询成本都有关。
- 如果mysql优化器发现,走索引比不走索引成本还要高,肯定会放弃索引,这些条件 !=,> isnull,is not null 经常让索引失效,其实是因为一般情况下,查询的成本高,优化器自动放弃索引的。
- 如果把 null 值,换成默认值,很多时候让走索引成为可能,同时,表达意思会相对清晰一点。
10. 如果查询结果只有一条或者只需要一条记录(可能最大/小值),建议使用 limit 1
假设现在有student学生表,要找出一个名字叫 tom 的人.
|
create table `student` ( `id` int (11) not null , ` name ` varchar (50) default null , `age` int (11) default null , ` date ` datetime default null , `sex` int (1) default null , primary key (`id`) ) engine=innodb default charset=utf8mb4; |
反例:
|
select id, name from student where name = 'tom ' |
正例
|
select id, name from employee where name = 'tom ' limit 1; |
理由:
加上 limit 1 分页后,只要找到了对应的一条记录,就不会继续向下扫描了,效率将会大大提高。
如果name是唯一索引的话,是不必要加上 limit 1 了,因为limit的存在主要就是为了防止全表扫描,从而提高性能,如果一个语句本身可以预知不用全表扫描,有没有limit ,性能的差别并不大。
11. 优化 limit 分页语句
我们日常做分页需求时,一般会用 limit 实现,但是当偏移量特别大的时候,查询效率就变得低下
反例:
|
select id, name ,age from student limit 10000,10 |
正例:
|
# 方案一 :返回上次查询的最大记录(偏移量) select id, name from student where id > 10000 limit 10; |
|
# 方案二: order by + 索引 select id, name from student order by id limit 10000,10; |
|
# 方案三:在业务允许的情况下限制页数: |
理由:
- 当偏移量大的时候,查询效率就会越低,因为mysql并非是跳过偏移量直接去取后面的数据,而是先把偏移量 + 要取的条数,然后再把前面偏移量这一段的数据抛弃掉再返回的。
- 如果使用优化方案一,返回上次最大查询记录(偏移量),这样可以跳过偏移量,效率提升不少。
- 方案二使用 order by+索引,也是可以提高查询效率的。
- 方案三的话,建议跟业务讨论,有没有必要查这么后的分页。因为绝大多数用户都不会往后翻太多页。
12. 尽量避免向客户端返回过多数据量,使用limit分页
假设业务需求是,用户请求查看自己最近一年观看过的电影数据。
反例:
|
# 一次性查询所有数据回来 select * from livinginfo where watchid =useid and watchtime >= date_sub(now(),interval 1 y) |
正例:
|
# 分页查询 select * from livinginfo where watchid =useid and watchtime>= date_sub(now(),interval 1 y) limit offset,pagesize # 如果是前端分页,可以先查询前两百条记录,因为一般用户应该也不会往下翻太多页 select * from livinginfo where watchid =useid and watchtime>= date_sub(now(),interval 1 y) limit 200 ; |
13. 优化 like 语句
当用到模糊关键字查询使用 like 时,like很可能让索引失效。
反例:
|
select * from student where name like '%strive_day' ; -- 或者使用 % 包裹 select * from student where name like '%strive_day%' ; |
正例:
|
select * from student where name like 'strive_day%' ; |
理由:
- 把 % 放前面,不会走索引查询。
- 把 % 放关键字后面,会走索引进行查询。
- 将 % 包裹关键字,也不会走索引查询。
- 无前置 %,只有后置 % 才会走索引查询
14. 尽量避免在索引列上使用mysql的内置函数
案例:查询最近七天内登陆过的用户(假设 logintime 字段加了索引)
反例:
|
select * from system_user user where date_add( user .logintime,interval 7 day ) >= now(); |
正例:
|
select * from system_user user where user .logintime >=date_add(now(),interval - 7 day ); |
理由:
- 索引列上使用mysql的内置函数,索引会失效
- 如果索引列不加内置函数,会走索引查询
15. 使用联合索引时,注意索引列的顺序,一般遵循 最左匹配原则
假设有一个联合索引 (user_id, age),user_id 在前,age 在后。
反例:
|
select user_id, name , age from user where age = 10; |
正例:
|
# 符合最左匹配原则 select user_id, name , age from user where userid = 1 and age = 21; # 符合最左匹配原则 select user_id, name , age from user where userid = 1; |
理由:
- 当我们创建一个联合索引的时候,如(k1,k2,k3),相当于创建了(k1)、(k1,k2)和(k1,k2,k3)三个索引,这就是最左匹配原则。
- 联合索引不满足最左原则,索引一般会失效,但是这个还跟mysql优化器有关的。
16. 在适当时候,使用覆盖索引。
覆盖索引能够使得你的sql语句不需要 回表,仅仅访问索引就能够得到所有需要的数据,大大提高了查询效率。
反例:
|
# like 模糊查询,不走索引 select user_id, name , age from user where user_id like '%123%' |
|
# id为主键,那么为普通索引,即覆盖索引。 select user_id, name , age from user where userid like '%123%' ; |
17. 删除冗余和重复索引
反例:
|
key `idx_userid` (`userid`) key `idx_userid_age` (`userid`,`age`) |
正例:
|
key `idx_userid_age` (`userid`,`age`) # 删除 userid 的索引( key `idx_userid_age` (`userid`,`age`)) # 因为组合索引(a,b)相当于创建了(a)和(a,b)索引。 |
理由:
- 重复的索引需要维护,并且优化器在优化查询的时候也需要逐个地进行考虑,这会影响性能
18. inner join 、left join、right join,优先使用inner join,如果是left join,左边表结果尽量小
inner join 内连接,在两张表进行连接查询时,只保留两张表中完全匹配的结果集
left join 在两张表进行连接查询时,会返回左表所有的行,即使在右表中没有匹配的记录。
right join 在两张表进行连接查询时,会返回右表所有的行,即使在左表中没有匹配的记录。
都满足sql需求的前提下,优先使用inner join(内连接),如果要使用left join,左边表数据结果尽量小,如果有条件的尽量放到左边处理。
反例:
|
select name , age from tab1 t1 left join tab2 t2 on t1.age = t2.age where t1.id = 2; |
正例:
|
select name , age from ( select * from tab1 where id = 2) t1 left join tab2 t2 on t1.age = t2.age; |
理由:
- 如果 inner join 是等值连接,或许返回的行数比较少,所以性能相对会好一点
- 使用了左连接,左边表数据结果尽量小,条件尽量放到左边处理,意味着返回的行数可能比较少
19. 如果插入数据过多,考虑 批量插入
反例:
|
for ( user u :list) { insert into user ( name ,age) values ( name , age)} |
正例:
|
//一次500批量插入,分批进行 insert into user ( name ,age) values <foreach collection= "list" item= "item" index = "index" separator= "," > (#{item. name },#{item.age}) </foreach> |
理由:
- 批量插入性能好,减少时间损耗。
20. 尽量少用 distinct 关键字
distinct 关键字一般用来过滤重复记录,以返回不重复的记录。在查询一个字段或者很少字段的情况下使用时,给查询带来优化效果。但是在字段很多的时候使用,却会大大降低查询效率。
反例:
|
# 去重多个字段 select distinct * from user ; |
正例:
|
select distinct name from user ; |
理由:
- 带 distinct 的语句 cpu 时间和占用时间都高于不带distinct的语句。
- 因为当查询很多字段时,如果使用distinct,数据库引擎就会对数据进行比较,过滤掉重复数据,然而这个比较、过滤的过程会占用系统资源,cpu时间。
21. 不要有超过5个以上的表连接
理由:
- 连表越多,编译的时间和开销也就越大
- 连表可读性差,把连接表拆开成较小的几个执行,可读性更高
22. 数据量大的时候,如何优化更新语句。
数据量大的时候,需要避免同时修改或删除过多数据,同时会造成cpu利用率过高,从而影响别人对数据库的访问。
反例:
|
# 一次删除10万或者100万+条数据 delete from user where id < 1000000; # 或者采用单一循环操作,效率低,时间漫长 for ( user user :list){ delete from user ;} |
正例:
|
# 分批进行删除,如每次500 delete user where id < 500 delete user where id >= 500 and id < 1000; ... delete user where id >= 999500 and id < 1000000; |
理由:
- 一次性 删除/更新 太多数据,可能会有 lock wait timeout exceed 的错误,所以建议分批操作。
23. 合理使用 exist 和 in
假设表a表示某企业的员工表,表b表示部门表,查询所有部门的所有员工sql
反例::
|
select * from a where deptid in ( select deptid from b); |
这样写等价于:
先查询部门表b
select deptid from b
再由部门deptid,查询a的员工
select * from a where a.deptid = b.deptid
可以抽象成这样的一个循环语句: