UAVStack的慢SQL数据库监控功能及其实现

biaoxiaoduan 发布于2019-08-06 14:51 / 2326人阅读

摘要：页面展示的统计追踪等信息则通过的接口获取四功能展示数据库监控目前已实现的功能有分类统计数据库连接池监控慢耗时分布统计慢统计慢追踪以及调用链日志关联功能。

作者： 王林林 
出处：UAVStack智能运维 
来源：宜信技术学院
技术沙龙001期|AI中台：一种敏捷的智能业务支持方案|宜信技术沙龙 3月28日晚8点线上直播，点击报名

UAVStack是一个全维监控与应用运维平台。UAV.Monitor具备监控功能，包含基础监控、应用/服务性能监控、日志监控、业务监控等。在应用监控中，UAV可以根据应用实例画像；其中应用实例组件可以对日志、服务、客户端等进行画像；基于客户端的画像又分为Http、Dubbo、MQ、Kafka、JDBC、Redis、MongoDB等等。

一、背景

作为一个工作多年的程序员或运维人员，相信你一定遇到过以下情况：

· 场景一：系统出现异常情况，运维人员没能在第一时间发现，反而是业务方在使用过程中反馈系统崩溃、页面点不开。查看系统日志，发现一直在报连接数据库异常；

· 场景二：新功能上线稳定运行一段时间后，用户反馈页面响应越来越慢，打开一个页面要等好久。排查问题，发现是一个慢SQL影响了整个功能的体验。

为此，UAVStack开发了数据库监控功能。最初，数据库监控功能只是对数据源、数据库连接池进行了指标采集，通过客户端画像可以查看实时的数据库连接池信息以及操作计数。最近UAVStack又解锁了一项新功能——慢SQL监控，使数据库监控功能更加完善。

今天小编就向大家介绍一下数据库监控的具体实现。文章中出现的以下关键字全部用简称代替：

· 中间件增强框架：英文MonitorFramework，简称MOF

· 健康管理服务：英文HealthManager，简称HM

· 监控代理程序：英文MonitorAgent，简称MA

二、关键技术&UAV自研框架

· MOF Agent注入机制：MOF Agent的注入机制以Java agent以及Javaassit技术作为基础支撑。Java agent负责拦截和转换字节码流，转换过程中使用Javaassist进行解析和修改，在应用服务器生命周期的关键位置注入切点，为MOF框架初始化、应用的画像信息和实时监控数据信息捕获提供基础。

· InterceptFramework框架：在应用启动的特定生命周期内改写字节码，植入特定的逻辑处理代码，即画像数据采集，采集的数据包含服务画像以及客户端画像；客户端画像包含Http、Dubbo、MQ、Kafka、JDBC、Redis、MongoDB等常见的开源组件，系统中调用的第三方服务都会被列为是客户端的对象，比如系统中调用了第三方系统的接口都属于客户端的范畴。

· CaptureFramework框架：通过InterceptFramework框架在特定的生命周期改写字节码植入特定的逻辑代码，在植入的逻辑代码中可以通过CaptureFramework画像的Monitor捕获体系的能力采集数据以及数据存储。具体实现为采用doCapture来实现在特定的捕获点执行抓取数据行为，采用doPreStore来实现在存储数据结构之前的一些捕获动作，对抓取的数据进行特殊数据的处理，获取到处理完成后的数据再通过UAVServer调用具体的Supporter，最后实现数据落地。

三、组成部分

慢SQL监控的实现分为四个组成部分：

· 慢SQL的动态启停：慢SQL的监控启/停依赖于MOF的Global Filter机制。在应用初始化时，UAV对应用的Filter进行了改写，提供了向MOF下发指令的接口。只要调用接口传入规定的参数便可以实现对慢SQL监控的动态启停。UAV系统中并不存在其它服务直接调用MOF的操作，都是通过MA来完成的。大家可以把MA理解为服务请求方与MOF之间的媒介。

· 慢SQL数据采集：依赖InterceptFramework框架在特定的生命周期改写字节码植入特定逻辑，同时采用MOF的CaptureFramework框架进行数据抓取并生成抓取结果。MA会对生成结果的文件进行定时采集并封装成固定的数据结构发送至MQ。

· 数据存储：在HM中创建独立的feature进行数据处理，消费MA推送至MQ中的数据，完成数据清洗再存储至ES。由于数据采集的结果进行了特殊的约定，从MQ拿到的数据并不能直接转换成相应的结果，需要进行相应的解析处理才能进行存储（由于采集的数据中字段较多、可能含有特殊的字符会影响对数据的解析，在生成数据结果时有规则约束才能实现数据的正确解析）。数据库监控的feature还提供了查询、统计慢SQL操作的相关接口。

· 页面展示：操作页面可自主启停数据库监控，设置慢SQL的时间阈值。启停以及时间阈值的设置依赖于MA向MOF发送指令。页面展示的SQL统计、追踪等信息则通过HM的接口获取;

四、功能展示

数据库监控目前已实现的功能有SQL分类统计、数据库连接池监控、慢SQL耗时分布统计、慢SQL统计、慢SQL追踪以及调用链/日志关联功能。

SQL分类统计：

· 数据来源：OpenTSDB（通过画像采集指标）

· 针对插入、删除、更新、查询、批量操作进行分类统计

· 根据时间分布展示数据库的访问情况，根据时间分布展示数据库的访问情况，展示所选时间段的总访问计数（累计值)

· 可以自定义时间条件查询历史数据

数据库连接池监控：

· 数据来源：OpenTSDB（通过画像采集指标）

· 可以查看连接池总连接数、活动连接数、空闲连接数的变化曲线

慢SQL耗时分布统计：

· 数据来源：ES

· 慢SQL统计可根据分类进行展示统计

· 针对慢SQL的耗时分布统计，最多查询100条

· 根据时间分布展示数据库慢SQL的访问情况，展示当前时间点的慢SQL访问时间、SQL、耗时

· 可以根据设置查询历史数据

慢SQL统计：

· 数据来源：ES

· 针对所有类型的SQL

· 根据时间分布展示数据库某时间段的慢SQL统计

· 可以根据设置查询历史数据

慢SQL追踪：

· 数据来源：ES

· 查询条件为：关键字、是否慢SQL追踪、时间范围

· 根据搜索条件查询SQL追踪列表，列表展示内容为：SQL语句、总执行次数、执行总时间、平均执行时间、操作-可查看详情

慢SQL追踪-详情查看：

· 数据来源：ES

· 慢SQL详情：点击某一条慢SQL统计可查看详情：包含开始执行时间、执行时长、入参、执行结果、影响条数

慢SQL追踪-调用链关联：

· 应用监控中需开启轻度调用链

· 点击某一行详细的执行时间，可以跳转至调用链页面，查看调用链的详细内容（相关的调用链高亮显示）

慢SQL追踪-日志关联：

· 应用监控中需开启日志归集

· 点击某一行详细的调用链内容的日志关联，可查看相应的日志信息，相关的日志行数高亮显示

五、总结

数据库监控是不容忽视的，好的数据库监控可以帮助优化系统并进行实时预警。通过文中介绍的数据库连接池监控，运维人员可以随时关注数据库连接池的状态，有效防止系统出现连接池活动连接数占满无法连接数据库的情况；而慢SQL监控功能可以动态展示一个系统的SQL情况，帮助优化SQL语句，让系统更稳定。

idc机房托管混合云 UAVStack 邮件监控功能问题实现WEBRTC功能打赏功能实现

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/62841.html

UAVStack的慢SQL数据库监控功能及其实现

摘要：页面展示的统计追踪等信息则通过的接口获取四功能展示数据库监控目前已实现的功能有分类统计数据库连接池监控慢耗时分布统计慢统计慢追踪以及调用链日志关联功能。作者：王林林出处：UAVStack智能运维来源：宜信技术学院技术沙龙001期|AI中台：一种敏捷的智能业务支持方案|宜信技术沙龙 3月28日晚8点线上直播，点击报名 UAVStack是一个全维监控与应用运维平台。UAV.Mon...

luodongseu 2019-06-25 19:10 评论0 收藏0
UAV MOF工作原理之Agent注入机制原理

摘要：注入机制作为工作的基础，也为无侵入捕获应用数据提供可能。代码注入机制结合和技术，在应用字节码加载到之前进行字节码改写。当然，修改字节码文件流的动作是在中进行的。 UAVStack的中间件增强框架专题（MOF）】为大家详细讲述UAV中的MOF Agent是如何借助javaagent（premain）和javaassist技术在对应用无侵入的前提下完成数据捕获的。欢迎继续关注UAVStac...

atinosun 2019-08-16 14:01 评论0 收藏0
UAVStack之文件数据归集

摘要：日志采集器文件数据采集端，负责数据读取过滤以及上送。任务执行文件数据归集任务。数据发布器发布已读取上来的文件数据。支持启停文件数据归集功能，可动态选择需要读取的文件。支持按日小时或分钟查看不同时间的文件数据。本周我们向大家介绍UAVStack中的文件数据归集功能。该功能可以有效解决日志查找费时和日志文件丢失等问题，帮助快速定位解决问题，规避日志访问权限可能带来的安全风险。前言在分...

王岩威 2019-05-28 19:01 评论0 收藏0
中间件增强框架之-CaptureFramework框架

摘要：本文为大家讲解中的框架。在系统中，中间件增强框架探针提供了应用画像及性能数据收集等功能，其中数据收集功能主要采集四类数据实时数据画像数据调用链接数据生成以及线程数据分析数据。提供服务，供后续抓取使用，其中服务注册了三个，分别为。本文为大家讲解MOF中的CaptureFramework框架。该框架提供统一的数据抓取行为和生成抓取结果能力，实现实时数据采集。背景应用服务监控是智能运维...

zhaofeihao 2019-08-16 14:13 评论0 收藏0
有赞 MySQL 自动化运维系统 —— ZanDB

摘要：四自动化运维之路二期在设计系统时架构时，我们选择使用架构模式，在数据库服务器上部署我们使用自研的，系统通过服务调度执行各种任务，避免数据库服务器通过明文密码直连的元数据库，增加系统的健壮性和安全性。文 | 杨一 on 运维一、前言有赞作为新零售的软件服务供应商，随着业务的不断发展，从第一批几十家商户到现在300万商家，涉及零售，美业，餐饮，自媒体等众多商家，业务规模以及访问量爆发...

yvonne 2019-07-31 18:02 评论0 收藏0