当前位置:山东群英会技巧>文章>MySQL

MySQL延迟关联性能优化方法

山东群英会技巧 www.iba5.com.cn 【背景】

  某业务数据库load 报警异常,cpu usr 达到30-40 ,居高不下。使用工具查看数据库正在执行的sql ,排在前面的大部分是:

SELECT id, cu_id, name, info, biz_type, gmt_create, gmt_modified,start_time, end_time, market_type, back_leaf_category,item_status,picuture_url FROM relation where biz_type ='0' AND end_time >='2014-05-29' ORDER BY id asc LIMIT 149420 ,20;


表的数据量大致有36w左右,该sql是一个非常典型的排序+分页查询:order by col limit N,OFFSET M , MySQL 执行此类sql时需要先扫描到N行,然后再去取 M行。对于此类大数据量的排序操作,取前面少数几行数据会很快,但是越靠后,sql的性能就会越差,因为N越大,MySQL 需要扫描不需要的数据然后在丢掉,这样耗费大量的时间。 

【分析】

针对limit 优化有很多种方式,
1 前端加缓存,减少落到库的查询操作
2 优化SQL
3 使用书签方式 ,记录上次查询最新/大的id值,向后追溯 M行记录。
4 使用Sphinx 搜索优化。
对于第二种方式 我们推荐使用"延迟关联"的方法来优化排序操作,何谓"延迟关联" :通过使用覆盖索引查询返回需要的主键,再根据主键关联原表获得需要的数据。

【解决】

根据延迟关联的思路,修改SQL 如下:

优化前

[email protected] 12:33:48>explain SELECT id, cu_id, name, info, biz_type, gmt_create, gmt_modified,start_time, end_time, market_type, back_leaf_category,item_status,picuture_url FROM relation where biz_type =\'0\' AND end_time >=\'2014-05-29\' ORDER BY id asc LIMIT 149420 ,20;
+----+-------------+-------------+-------+---------------+-------------+---------+------+--------+-----------------------------+
| id | select_type | table       | type  | possible_keys | key         | key_len | ref  | rows   | Extra                       |
+----+-------------+-------------+-------+---------------+-------------+---------+------+--------+-----------------------------+
| 1  | SIMPLE      | relation    | range | ind_endtime   | ind_endtime | 9       | NULL | 349622 | Using where; Using filesort |
+----+-------------+-------------+-------+---------------+-------------+---------+------+--------+-----------------------------+
1 row in set (0.00 sec)

其执行时间:

优化后:

SELECT a.* FROM relation a, (select id from relation where biz_type ='0' AND end_time >='2014-05-29' ORDER BY id asc LIMIT 149420 ,20 ) b where a.id=b.id

[email protected] 12:33:43>explain SELECT a.* FROM relation a, (select id from relation where biz_type ='0' AND end_time >='2014-05-29' ORDER BY id asc LIMIT 149420 ,20 ) b where a.id=b.id;
+----+-------------+-------------+--------+---------------+---------+---------+------+--------+-------+
| id | select_type | table       | type   | possible_keys | key     | key_len | ref  | rows   | Extra |
+----+-------------+-------------+--------+---------------+---------+---------+------+--------+-------+
| 1  | PRIMARY     | <derived2>  | ALL    | NULL          | NULL    | NULL    | NULL | 20     |       |
| 1  | PRIMARY     | a           | eq_ref | PRIMARY       | PRIMARY | 8       | b.id | 1      |       |
| 2  | DERIVED     | relation    | index  | ind_endtime   | PRIMARY | 8       | NULL | 733552 |       |
+----+-------------+-------------+--------+---------------+---------+---------+------+--------+-------+
3 rows in set (0.36 sec)

执行时间:

优化后 执行时间 为原来的1/3 。

相关阅读:

  • 学习贯彻十九大精神不忘初心 牢记使命 奔向未来 2018-11-29
  • 读出你的爱!市儿童公园父亲节亲子朗诵会等你来 2018-11-13
  • 默滕斯神仙球卢卡库2球 比利时3 2018-11-13
  • 世界杯专版 竞猜型彩票 赔率是公认的竞猜利器 2018-11-10
  • 候选案例:亿滋希望厨房 2018-11-10
  • 世界杯五大未解之谜,第五个你最关心,但一样没答案 2018-11-08
  • 端午假期陕西接待游客1913.2万人次 旅游收入86.15亿元 2018-11-02
  • 努力把各级党组织锻造得更加坚强有力——四论认真学习贯彻省委十二届四次全会精神 2018-11-02
  • 端午节,广州荔枝湾“扒龙船” 2018-11-02
  • 回复@“老笑头”,本人觉得你越来越幼稚可笑了。连“再什么主义,你没生产资料咋劳动?”这样的话都说出来了。你长大后没有经历过全中国的公有制时代,不清楚是可能... 2018-10-29
  • 国务院安委办约谈三市政府负责人 2018-10-23
  • 湖南着力推动习近平新时代中国特色社会主义思想深入人心 2018-10-22
  • 冠军教头离任!四川队官宣不再与杨学增指导续约 2018-09-25
  • 【理上网来·辉煌十九大】十九大报告指明实现干部清正、政府清廉、政治清明改革途径 2018-09-16
  • 一语惊坛(5月10日):半岛和平,是中朝两国的共同愿望。 2018-09-14
  • 891| 279| 785| 347| 167| 980| 583| 759| 551| 185| 818| 942| 830| 755| 502|