你知道MySQL的Limit有性能问题吗

Arno 发布于2019-05-23 17:28 / 502人阅读

摘要：问题对于小的偏移量，直接使用来查询没有什么问题，但随着数据量的增大，越往后分页，语句的偏移量就会越大，速度也会明显变慢。优化思想避免数据量大时扫描过多的记录解决子查询的分页方式或者分页方式。

MySQL的分页查询通常通过limit来实现。

MySQL的limit基本用法很简单。limit接收1或2个整数型参数，如果是2个参数，第一个是指定第一个返回记录行的偏移量，第二个是返回记录行的最大数目。初始记录行的偏移量是0。

为了与PostgreSQL兼容，limit也支持limit # offset #。

问题：

对于小的偏移量，直接使用limit来查询没有什么问题，但随着数据量的增大，越往后分页，limit语句的偏移量就会越大，速度也会明显变慢。

优化思想：

避免数据量大时扫描过多的记录

解决：

子查询的分页方式或者JOIN分页方式。

JOIN分页和子查询分页的效率基本在一个等级上，消耗的时间也基本一致。

下面举个例子。一般MySQL的主键是自增的数字类型，这种情况下可以使用下面的方式进行优化。

下面以真实的生产环境的80万条数据的一张表为例，比较一下优化前后的查询耗时：

-- 传统limit，文件扫描
[SQL]SELECT * FROM tableName ORDER BY id LIMIT 500000,2;
受影响的行: 0
时间: 5.371s

-- 子查询方式，索引扫描
[SQL]
SELECT * FROM tableName
WHERE id >= (SELECT id FROM tableName ORDER BY id LIMIT 500000 , 1)
LIMIT 2;
受影响的行: 0
时间: 0.274s

-- JOIN分页方式
[SQL]
SELECT *
FROM tableName AS t1
JOIN (SELECT id FROM tableName ORDER BY id desc LIMIT 500000, 1) AS t2
WHERE t1.id <= t2.id ORDER BY t1.id desc LIMIT 2;
受影响的行: 0
时间: 0.278s

可以看到经过优化性能提高了将近20倍。

优化原理：

子查询是在索引上完成的，而普通的查询时在数据文件上完成的，通常来说，索引文件要比数据文件小得多，所以操作起来也会更有效率。因为要取出所有字段内容，第一种需要跨越大量数据块并取出，而第二种基本通过直接根据索引字段定位后，才取出相应内容，效率自然大大提升。

因此，对limit的优化，不是直接使用limit，而是首先获取到offset的id，然后直接使用limit size来获取数据。

在实际项目使用，可以利用类似策略模式的方式去处理分页，例如，每页100条数据，判断如果是100页以内，就使用最基本的分页方式，大于100，则使用子查询的分页方式。

相关文章

MySQL索引与查询优化

Windows操作系统安装MySQL解压版

MySQL 主键自增 Auto Increment用法

MySQL数据库存储引擎简介

服务器托管 GPU服务器 mysql索引性能的问题你知道你应该知道数据分析知道你

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/7299.html

[灵魂拷问]MySQL面试高频100问(工程师方向)

摘要：黑客技术点击右侧关注，了解黑客的世界开发进阶点击右侧关注，掌握进阶之路开发点击右侧关注，探讨技术话题作者丨呼延十排版丨团长前言本文主要受众为开发人员所以不涉及到的服务部署等操作且内容较多大家准备好耐心和瓜子矿泉水前一阵系统的学习了一下也有 ...

gyl_coder 2021-09-02 15:21 评论0 收藏0
运维定位服务故障时，前5分钟都在忙啥？

摘要：我们基本上都会从以下步骤入手，这些也是绝大多数运维工程师在定位故障时前几分钟的主要排查点一尽可能搞清楚问题的前因后果不要一下子就扎到服务器前面，你需要先搞明白对这台服务器有多少已知的情况，还有故障的具体情况。遇到服务器故障，问题出现的原因很少可以一下就想到。我们基本上都会从以下步骤入手，这些也是绝大多数运维工程师在定位故障时前几分钟的主要排查点：一、尽可能搞清楚问题的前因后果不要一下子就扎...

tainzhi 2019-04-25 17:22 评论0 收藏0