ELK 构建 MySQL 慢日志收集平台

本文讲解如何通过一套开源日志存储和检索系统 ELK 构建 MySQL 慢日志收集及分析平台。

创新互联2013年至今，是专业互联网技术服务公司，拥有项目网站设计制作、网站建设网站策划，项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命，1280元锦江做网站,已为上家服务,为锦江各地企业和个人服务,联系电话:13518219792

ELK、EFK 简介

想必你对 ELK、EFK 都不陌生，它们有一个共同的组件：Elasticsearch（简称ES），它是一个实时的全文搜索和分析引擎，可以提供日志数据的收集、分析、存储 3 大功能。另外一个组件 Kibana 是这套检索系统中的 Web 图形化界面系统，可视化展示在 Elasticsearch 的日志数据和结果。

ELF/EFK 工具集中还有 l 和 F 这两个名称的缩写，这两个缩写代表的工具根据不同的架构和使用方式而定。

L 通常是 Logstash 组件，它是一个用来搜集、分析、过滤日志的工具 。

F 代表 Beats 工具（它是一个轻量级的日志采集器），Beats 家族有 6 个成员，Filebeat 工具，它是一个用于在客户端收集日志的轻量级管理工具。

F 也可以代表工具 fluentd，它是这套架构里面常用的日志收集、处理转发的工具。

那么它们（Logstash VS Beats VS fluentd）有什么样的区别呢？Beats 里面是一个工具集，其中包含了 Filebeat 这样一个针对性的日志收集工具。Logstash 除了做日志的收集以外，还可以提供分析和过滤功能，所以它的功能会更加的强大。

Beats 和 fluentd 有一个共同的特点，就是轻量级，没有 Logstash 功能全面。但如果比较注重日志收集性能，Beats 里面的 Filebeat 和 fluentd 这两个工具会更有优势。

Kafka 是 ELK 和 EFK 里面一个附加的关键组件（缩写 K），它主要是在支持高并发的日志收集系统里面提供分布式的消息队列服务。

ELK 的优势

在此之前，先介绍 ELK 日志分析会有一些什么样的优势？主要有 3 点：

1、它是一套开源、完整的日志检索分析系统，包含收集、存储、分析、检索工具。我们不需要去开发一些额外的组件去完成这套功能，因为它默认的开源方式就提供了一整套组件，只要组合起来，就可以完成从日志收集、检索、存储、到整个展示的完整解决方案了。

2、支持可视化的数据浏览。运维人员只要在控制台里选择想关注的某一段时间内的数据，就可以查看相应的报表，非常快捷和方便。

3、它能广泛的支持一些架构平台，比如我们现在讲到的 K8s 或者是云原生的微服务架构。

Kafka 作为日志消息队列，客户端通过 Filebeat 收集数据（日志）后将其先存入 Kafka，然后由 Logstash 提取并消费，这套架构的好处是：当我们有海量日志同步情况下，直接存入服务端 ES 很难直接应承接海量流量，所以 Kafka 会进行临时性的存取和缓冲，再由 Logstash 进行提取、过滤，通过 Logstash 以后，再把满足条件的日志数据存入 ES。

ES 不再是以单实例的方部署，而是采用集群架构，考虑 Kafka 的集群模式， Logstash 也使用集群模式。

我们会看到这套架构稍微庞大，大中型的企业往往存储海量数据（上百 T 或 P 级）运维日志、或者是系统日志、业务日志。

完成ELK服务搭建后，首先我需要开启的是 MySQL 的慢查询配置，那么通过 set global slow_query_log=‘ON‘，这样就可以开启慢查询日志，还需要设置好慢查询日志标准是大于 1 秒的，那么同样是 set global long_query_time 大于或等于 1，它的意思是大于 1 秒的查询语句，才会认为是慢查询，并且做日志的记录。

那么另外还要设置慢查询日志的位置，通过 set global slow_query_log = 日志文件路径，这里设置到 filebeat 配置监听的路径下，就完成了慢查询日志的路径设置。

配置完成以后，需要在 MySQL 终端上，模拟执行一条执行时间较长的语句，比如执行 select sleep(5)，这样就会模拟执行一条查询语句，并且会让它休眠 5 秒。接下来我们看到服务端窗口的 MySQL 这条 sleep 语句已经执行完毕了，同时我们可以再打开 filebeat 的推送窗口，发现这里产生了一条推送日志，表示成功地把这条日志推送给了 ES。

那么接下来我们就可以通过浏览器打开 Kibana 的管理后台，从界面里来看一看检索日志的记录和一些可视化展示的图表，我们可以点击界面上的 Discover 按钮，同时选择好对应的时间周期，然后可以增加一个 filter 过滤器，过滤器里面敲入对应的关键字来进行索引。

这里我敲入的是 slow.query 这个关键字，就会匹配出对应的可以检索的项目，点击想要查询的对应项目，展示出想检索的某一个时间周期内对应的一些日志记录，以及它的图表是什么样子的，同时在下方会有对应的 MySQL 的日志信息打印出来，通过 Kibana 这样的可视化界面就能够看到的相关信息了。

mysql运维管理（八）：合格的运维管理员必须掌握的常用工具

在MySQL日常运维工作中，经常会用到各种管理工具，这些工具属于mysql自带的管理工具，存储在mysql目录下的bin目录中，例如对象查看，备份，日志分析等，熟练使用是运维开发人员的必备工作，这些工具参数很多，这里介绍常用选项，更多详细可参考帮助文件。

在mysql工具集中，管理员使用最频繁的就是mysql命令了，它是连接数据库的客户端工具，类似oracle中的sqlplus，通过它可以进入mysql控制台界面。在大部分情况下，使用简单，命令语法如下：

常用选项：选项一般有两种表达方式，一种是"-"+选项单词缩写和选项值；另一种是“--”+选项的完整单词“=”选项实际值。例如我们连接数据库的两种命令如下：

myisampack是一个表压缩工具，它对MyISAM存储引擎表能进行高度压缩，可以很大的节省磁盘空间，但是压缩后的表只能读，不能写，不能进行DML操作，所以它的使用场景一般是归档 历史 数据。命令如下：

当对一个压缩表进行增加操作时会报一个错误：ERROR 1036 Table is read only,但时对查询和统计时可以正常操作的。

mysqladmin是一个对数据库进行管理操作的客户端工具，可用来检查服务器是否可用、显示数据库版本号和状态，还可以直接新增一个数据库，也可对数据库进行关闭，功能和mysql类似，它的参数和mysql差异不大，命令如下：

它还可以修改root密码，命令如下

MySQL自带的mysqlbinlog工具的作用是解析二进制binlog的日志内容，把二进制数据还原成mysql可以执行的SQL语句。我有篇文章专门介绍该工具的使用，请具体参考：

传送门：mysql运维管理（七）：使用Mysqlbinlog工具恢复增量数据

mysqlcheck工具可以用来检查和修复MyISAM存储引擎的表,还能做优化的工作，例如check、repair、analyze、optimize等等功能。具体命令如下：

注意，如果是innodb引擎的表，不能用上述优化工具。

mysqldump工具用来逻辑备份数据库，或者数据迁移。该工具是最常用的备份工具。

我有篇文章专门介绍该工具的使用，请具体参考：

传送门：mysql运维管理（五）：掌握MySQLdump逻辑备份工具使用

它是数据导入工具，专门用来处理mysqldump 加-T选项后导出的文本文件，基本用法很简单，命令如下：

客户端对象查找工具，用来查找数据库，数据库的表，表中列或者索引，具体使用命令如下:

不加任何选项，默认显示所有数据库。

常用参数：

--count ,用来显示数据库和表的统计信息，不指定数据库的话，显示所有库信息

-k或者--keys，用来显示指定表中所有索引，例如查看employees库中employees表的索引信息，

在使用mysql使用过程中，会经常出现错误，错误信息都会带有一个编码，具体编码代表什么意思，就需要perror来查看。用法很简单：

举个例子，我们故意写错一个查询语句，例如：

现在有一个编码1054，我们可以用perror查看下

结果跟用工具显示的内容差不多，当然第三方工具也会显示错误信息。

本章做了一个常用工具的使用汇总，并举例说明了基本用法，熟练使用是每个运维人员必修内容，当然还有很多参数没有一一列举，可以参考相关帮助文档。

mysql运维需要掌握到什么程度

云运维涉及的方面比较广，基础知识仍然是必不可少：Linux基础，基本linux命令的使用，Shell脚本编程，Linux操作系统知识（Ubuntu，CentOS系统等）。

了解完基础知识后，可以给自己确定下方向：

1、大数据方向： 涉及Hadoop（hdfs，yarn等），spark，hbase，hive，storm等知识

2、虚拟化技术：openstack，kvm，nova，docker，vmware，xen等

3、应用：mysql，redis，memcached，sqlserver

4、对目前的云提供商的业务的了解：阿里云，腾讯云，京东云，金山云，AWS等

5、脚本开发（DevOps必备）：python，ruby

6、比较常用的运维工具：jenkins，chef，puppet，ansible等

可以每项都了解下，最好选择几个，多做实践。

企业业务系统数据库用Oracle、Mysql和SQL sever等多种数据库，如何运维管理？

公司系统就用了很多种数据库MySQL、SQL sever、Oracle、MariaDB，基础架构使用大厂云的IAAS平台，但是数据库的运维管理需要自己做。我们去年弄了一套远光的YGdata，运维方便了很多。提供统一RDS支撑平台，即开即用、性能卓越，运行比较稳定，没有出现过故障，运维团队整体专业性都能大大提高了，给领导的各类报告也特别容易，而且好看多了。

网页名称：怎么做mysql运维平台 mysql日常运维工作
文章URL：http://scyingshan.cn/article/doosged.html