摘要：欢迎大家前往腾讯云社区，获取更多腾讯海量技术实践干货哦作者邢家树，高级工程师，目前就职于腾讯基础架构部数据库团队。导语是腾讯云自主研发的数据库智能性能调优工具。
欢迎大家前往腾讯云+社区，获取更多腾讯海量技术实践干货哦~
作者：邢家树，高级工程师，目前就职于腾讯TEG基础架构部数据库团队。腾讯数据库技术团队维护MySQL内核分支TXSQL，100%兼容原生MySQL版本，对内支持微信红包，彩票等集团内部业务，对外为腾讯云CDB for MySQL提供内核版本。
导语：CDBTune是腾讯云自主研发的数据库智能性能调优工具。相比于现有业界通用方法，CDBTune无需细分负载类型和积累大量样本，通过智能学习参与参数调优，获得较好的参数调优效果。
数据库系统复杂，且负载多变，调优对DBA非常困难：
参数多，达到几百个
不同数据库没有统一标准，名字、作用和相互影响等差别较大
依靠人的经验调优，人力成本高，效率低下
工具调优，不具有普适性
总结起来就是三大问题：复杂，效率低，成本高。腾讯云的智能性能调优工具如何在不断实践中破解这些问题呢？
实践一：启发式搜索方法/Search-Based Algorithm
输入包括两部分：
参数约束：包括要调优的参数集合和参数的上下界；
资源的限制：调优过程在多少轮以后停止。
Configuration Sampler：会对输入参数进行取样，生成配置；配置会被设置到SUT（也就是待调优环境）。System Manipulator：它和SUT进行交互，设置参数，并且会获得SUT的性能数据。
Performance Optimizer：根据配置和性能数据找到最优的配置。PO算法主要包括两个方法：DDS和RBS。
lDivide-and-Diverge Sampling (DDS)
这里通过DDS来划分参数的子空间，降低问题的复杂度。首先把每个参数划分成k个区域，那么n个参数就有k^n个组合，从而降低复杂度。假设k和n如果比较大的话，空间可能还是很大。如何处理？此时可用超抽样的方法，只抽出k个样本解决。
lRecursive Bound-and-Search (RBS)
在一个性能平面上的某个点附近，总是能找到性能相近或者更好性能的点，也就是说可能找到更好的配置。在已有的样本里，找到性能最好的那个配置。然后在这个配置周围，运行多轮，递归寻找可能更好的配置。
基于搜索的方法可能的问题是，抽样和测试可能耗时很长，而且可能陷入局部最优。
实践二：机器学习方法/Machine Learning
主要包括三个步骤：
l识别负载特征
对metric进行了降维，metric是指系统的内部状态指标，比如MySQL的innodb_metric。这里用了两个方法，一个是FA，一个是K均值聚类。
识别配置参数和性能的相关性
配置参数有几百个，先通过Lasso线性回归参数和性能的关系进行排序。优先考虑对性能影响较大的参数。
自动调优
匹配目标workload，也就是根据负载在不同配置下面运行，表现出来的metric特性，匹配到最相似的负载。然后，根据匹配到的负载，推荐最优的配置。这里用到高斯过程，同时加入exploration/ exploitation，即探索、利用的过程。
这种方法的问题是，调优过程非常依赖历史数据，要匹配到相似的workload才可以，对训练数据要求比较高。如果匹配不到，则找不到很好的配置。
实践三：深度学习方法/Deep Learning
通过深度学习网络，推荐需要最终调节的参数：
获得Workload对应的内部metric
学习调参过程中内部metric的变化规律
学习最终需要调节的参数
这个模型高度依赖训练数据，需要获得各种负载在各种配置下的性能数据。而数据库的负载和配置的组合实在太多了，基本不可能覆盖到。假设匹配不到类似场景，调优结果可能不理想。
实践四：深度强化学习方法/Reinforcement Learning
在强化学习中，模拟人与环境交互的过程。Agent会根据观察到的状态state，做出相应的反应action。同时，Environment接受action，改变自己的状态。这个过程会根据一定规则，产生相应的reward，也就是对于action的评价。
最终通过实践比较，我们选取使用强化学习的模型，开发数据库参数调优工具CDBTune。它强调调参的动作，摆脱以数据为中心的做法。
强化学习与参数调优，我们定义如下规则：
规则：每间隔一定时间调参，获得性能数据
奖励：性能提高获得正奖励值，下降获得负奖励值
目标：调参时间/次数尽可能少，获得较高的期望奖励值
状态：系统内部metric指标
我们把系统的内部metric叫做内部指标；外部的性能数据，比如TPS/QPS/Latency叫做外部指标。在数据库参数调优场景中，具体做法是：Agent选择一个参数调整的action（也可能是多个参数）作用于数据库，根据执行action后的外部指标，计算应该获得的即时奖励。
在强化学习对应到参数调优这个场景。此场景的问题是：强化学习需要构造一张表，表明在某种状态下，执行某个操作，获得的收益后，我们才知道执行什么操作获得的收益是最大的。但是数据库的状态空间（性能指标）和动作空间（配置组合）特别大，组合这样一张表出来是不可能的任务。此时深度强化学习就派上用场了，我们要通过一个深度网络逼近这个Q-table的效果，也就是CDBTune的实现方法。
CDBTune实现
S为当前数据库性能状态（内部指标），S"为下一状态数据库性能状态
r为即时奖励，w为神经网络参数，a为采取的动作（配置参数的执行）
Q为状态行为价值函数
此模型主要分成两部分。
l数据库环境：如图左边，参数会被设置到这个环境里，然后环境的内部指标和外部指标会被采集，反馈给右边的模型。
l深度强化学习网络：如图右边，实现算法类似DeepMind发布的Nature DQN，采用两个Q-Network。
另外，Replay Memory是我们的记忆池，历史数据会被记录下来。然后训练会不断进行，不断加入记忆池。深度学习网络会从记忆池中随机选取样本机型训练。
在估计一个action的reward的时候，基于一个假设：我们的回报取决于对未来每一步的结果影响；而影响最大的，是最近的回报。通过
近似获得这个Q值。对于一个样本（s, a）而言，我们可以得到真正的回报r。这时候我们可以获得他们之前的Loss，调整左边的网络，使两边的Loss越来越小。这样我们的网络就会逐渐收敛，获得更好的推荐。
数据形式和相关策略
效果评估
通过测试可以看到，在不需要任何前期数据收集的情况下，CDBTune通过自我学习参数调优过程，达到较优的参数调优效果，CDBTune调优获得的吞吐和延时性能均达到较为理解的水平。这也是深度强化学习方法相对于其他几种方法的优势所在。
总结：
基于DQN智能调参的优势
化繁为简，无需对负载进行精确分类
调参动作更符合实际调参时的情况
无需获取足够多的样本来，减少前期数据采集的工作量
利用探索-开发（Exploration & Exploitation）特点，降低对训练数据的依赖，减小陷入局部最优的可能性
在实践过程中，我们也遇到一些问题：
选择动作实际运行，训练效率不高，训练周期长
对连续配置离散化处理，可能导致推荐配置的精度不高，收敛较慢
使用动作的最大Q值，导致Q值的过高估计问题
针对这些问题，我们也在不断优化和改进我们的模型，优化参数。相信CDBTune可以在未来取得更好的效果。
此文已由作者授权腾讯云+社区发布，原文链接：https://cloud.tencent.com/dev...
欢迎大家前往腾讯云+社区或关注云加社区微信公众号（QcloudCommunity），第一时间获取更多海量技术实践干货哦~
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/62479.html
摘要：因此，腾讯内部目前正在研发一个智能化的产品，可以通过包括数据挖掘，或是架构师与客户沟通等方式，对客户的数据库应用场景进行画像，从而实现定制化服务。 欢迎大家前往腾讯云+社区，获取更多腾讯海量技术实践干货哦~ 作者介绍：鲁越，腾讯云数据库架构师团队负责人，主要负责腾讯云数据库MySQL、Redis、Oracle等数据库售前架构、运维、调优等工作，曾就职于网易和尼比鲁。 腾讯云数据库海量运...
摘要：更新复制元数据包含的位置等信息。三内核功能的优化预留运维帐号连接数配额在腾讯云上，不时遇到用户异常或者从而占满的最大连接限制，这是帐号无法登录以进行紧急的运维操作。确保主库宕机时数据的一致性。 欢迎大家前往腾讯云+社区，获取更多腾讯海量技术实践干货哦~ 本文由腾讯云数据库团队 发表于云+社区专栏作者介绍：简怀兵，腾讯云数据库高级工程师，负责腾讯云CDB内核及基础设施建设；先后供职于Th...
摘要：更新复制元数据包含的位置等信息。三内核功能的优化预留运维帐号连接数配额在腾讯云上，不时遇到用户异常或者从而占满的最大连接限制，这是帐号无法登录以进行紧急的运维操作。确保主库宕机时数据的一致性。 欢迎大家前往腾讯云+社区，获取更多腾讯海量技术实践干货哦~ 本文由腾讯云数据库团队 发表于云+社区专栏作者介绍：简怀兵，腾讯云数据库高级工程师，负责腾讯云CDB内核及基础设施建设；先后供职于Th...
摘要：腾讯内核研发专家张青林在腾讯云未来峰会的开发者专场做了主题为云计算时代数据库核弹头的技术内容分享，本次分享从五个方面介绍腾讯云和的概念腾讯云作为国内云计算领先公司，在全球建立了多个数据中心，供数于万计的开发者使用。 欢迎大家前往腾讯云+社区，获取更多腾讯海量技术实践干货哦~ 5月23-24日，以焕启为主题的腾讯云+未来峰会在广州召开，广东省各级政府机构领导、海内外业内学术专家、行业大咖...
摘要：腾讯云和阿里云针对按量计费的云服务器，均要求账户内有一定的余额腾讯云好像没有最低充值要求，充值元即可阿里云要求账户内至少有元余额。基于上述原因，我们分别在腾讯云和阿里云创建最低配版的云数据库和。 云计算市场争夺阿里云作为名副其实的国内业界第一，名声非常大，不过最近 IT 之家的事闹出来之后，我有点庆幸最终没有选择它。腾讯云算是业界老二，而且有着腾讯这个强大的靠山，云服务产品的种类和质量...
阅读 3581·2021-09-09 09:33
阅读 2801·2019-08-30 15:56
阅读 2808·2019-08-30 15:56
阅读 3054·2019-08-30 15:55
阅读 376·2019-08-30 15:53
阅读 2060·2019-08-30 15:52
阅读 538·2019-08-28 18:16
阅读 2179·2019-08-26 13:51
