【数据库】Redis进阶篇

ssshooter 发布于2019-07-24 16:23 / 2216人阅读

摘要：子进程负责把进程内的数据分批写入文件，这个过程属于密集操作，通常子进程对单核利用率接近。如果部署多个实例，尽量保证同一时刻只有一个子进程执行重写工作。避免在大量写入时做子进程重写操作，这样将导致父进程维护大量页副本，造成内存消耗。

欢迎关注公众号：【爱编码】
如果有需要后台回复2019赠送1T的学习资料哦！！

继续接着上一篇【数据库】Redis基础篇

事务

为了保证多条命令组合的原子性，Redis提供了简单的事务功能以及集成Lua脚本来解决这个问题。简单介绍Redis中事务的使用方法以及它的局限性。

127.0.0.1:6379> multi
OK
127.0.0.1:6379> sadd user:a:follow user:b
QUEUED
127.0.0.1:6379> zadd user:b:fans 1 user:a
QUEUED
127.0.0.1:6379> exec
1) (integer) 1
2) (error) WRONGTYPE Operation against a key holding the wrong kind of value
127.0.0.1:6379> sismember user:a:follow user:b
(integer) 1

Redis提供了简单的事务功能，**将一组需要一起执行的命令放到multi和
exec两个命令之间**。

multi命令代表事务开始。
exec命令代表事务结束。
它们之间的命令是原子顺序执行的。
它不支持事务中的回滚特性。

Lua脚本

基本语法教程可参考下面这个网址：
https://www.runoob.com/lua/lu...

在Redis中执行Lua脚本有两种方法：eval和evalsha。

发布订阅

Redis提供了基于“发布/订阅”模式的消息机制，此种模式下，消息发布
者和订阅者不进行直接通信，发布者客户端向指定的频道（channel）发布消息，订阅该频道的每个客户端都可以收到该消息。

发布消息

publish channel:sports "Tim won the championship"

订阅消息

subscribe channel:sports

有关订阅命令有两点需要注意：

客户端在执行订阅命令之后进入了订阅状态，只能接收subscribe、

psubscribe、unsubscribe、punsubscribe的四个命令。

新开启的订阅客户端，无法收到该频道之前的消息，因为Redis不会对

发布的消息进行持久化。

Redis发布订阅与成熟MQ的比较

（1）MQ支持多种消息协议，包括AMQP，MQTT，Stomp等，并且支持JMS规范，但Redis没有提供对这些协议的支持；
（2）MQ提供持久化功能，但Redis无法对消息持久化存储，一旦消息被发送，如果没有订阅者接收，那么消息就会丢失；
（3）MQ提供了消息传输保障，当客户端连接超时或事务回滚等情况发生时，消息会被重新发送给客户端，Redis没有提供消息传输保障。

总之，MQ所提供的功能远比Redis发布订阅要复杂，毕竟Redis不是专门做发布订阅的，但是如果系统中已经有了Redis，并且需要基本的发布订阅功能，就没有必要再安装MQ了，因为可能MQ提供的功能大部分都用不到，而且你可以容忍redis发布订阅的缺点的话，可以考虑用它。

持久化

Redis支持RDB和AOF两种持久化机制，持久化功能有效地避免因进程退出造成的数据丢失问题，当下次重启时利用之前持久化的文件即可实现数据恢复。

RDB持久化

RDB持久化是把当前进程数据生成快照保存到硬盘的过程，触发RDB持
久化过程分为手动触发和自动触发。

手动触发和自动触发操作方法参考这位大神的文章：
https://www.cnblogs.com/ysoce...

RDB的优缺点
优点：

RDB是一个紧凑压缩的二进制文件，代表Redis在某个时间点上的数据快照。非常适用于备份，全量复制等场景。比如每6小时执行bgsave备份，并把RDB文件拷贝到远程机器或者文件系统中（如hdfs），用于灾难恢复。

Redis加载RDB恢复数据远远快于AOF的方式。

缺点：

RDB方式数据没办法做到实时持久化/秒级持久化。因为bgsave每次运

行都要执行fork操作创建子进程，属于重量级操作，频繁执行成本过高。

RDB文件使用特定二进制格式保存，Redis版本演进过程中有多个格式的RDB版本，存在老版本Redis服务无法兼容新版RDB格式的问题。

针对RDB不适合实时持久化的问题，Redis提供了AOF持久化方式来解决。

AOF持久化

AOF（append only file）持久化：以独立日志的方式记录每次写命令，重启时再重新执行AOF文件中的命令达到恢复数据的目的。
AOF的主要作用是解决了数据持久化的实时性，目前已经是Redis持久化的主流方式。

开启AOF，通过修改redis.conf配置文件

appendonly yes    ##默认不开启。

AOF文件名通过appendfilename配置设置，默认文件名appendonly.aof。保存路径同RDB持久化方式一致，通过dir配置指定。

AOF的工作流程如下图：

1）所有的写入命令会追加到aof_buf（缓冲区）中。
2）AOF缓冲区根据对应的策略向硬盘做同步操作。
3）随着AOF文件越来越大，需要定期对AOF文件进行重写，达到压缩的目的。
4）当Redis服务器重启时，可以加载AOF文件进行数据恢复。

更详细的工作原理可以参考书籍【Redis开发与运维(付磊)】
或者参考这篇文章：
https://redisbook.readthedocs...

温馨提示
场景：AOF文件可能存在结尾不完整的情况，比如机器突然掉电导致AOF尾部文件命令写入不全。

解决方法：

对于错误格式的AOF文件，先进行备份，然后采用redis-check-aof --fix命令进行修复，修复后使用diff-u对比数据的差异，找出丢失的数据，有些可以人工修改补全。

Redis为我们提供了aof-load-truncated配置来兼容这种情况，默认开启。加载AOF时，当遇到此问题时会忽略并继续启动，同时打印如下警告日志：

# !!! Warning: short read while loading the AOF file !!!
# !!! Truncating the AOF at offset 397856725 !!!
# AOF loaded anyway because aof-load-truncated is enabled

持久化的优化

Redis持久化功能一直是影响Redis性能的高发地。主要有以下方面

1. fork操作
起因：对于高流量的Redis实例OPS可达5万以上，如果fork操作耗时在秒级别将拖慢Redis几万条命令执行，对线上应用延迟影响非常明显。正常情况下fork耗时应该是每GB消耗20毫秒左右。可以在info stats统计中查latest_fork_usec指标获取最近一次fork操作耗时，单位微秒。

优化：
1）优先使用物理机或者高效支持fork操作的虚拟化技术，避免使用Xen。
2）控制Redis实例最大可用内存，fork耗时跟内存量成正比，线上建议每个Redis实例内存控制在10GB以内。
3）合理配置Linux内存分配策略，避免物理内存不足导致fork失败。
4）降低fork操作的频率，如适度放宽AOF自动触发时机，避免不必要的全量复制等。

2. CPU
CPU开销分析。子进程负责把进程内的数据分批写入文件，这个过程属于CPU密集操作，通常子进程对单核CPU利用率接近90%。
CPU消耗优化。Redis是CPU密集型服务，不要做绑定单核CPU操作。由于子进程非常消耗CPU，会和父进程产生单核资源竞争。
不要和其他CPU密集型服务部署在一起，造成CPU过度竞争。如果部署多个Redis实例，尽量保证同一时刻只有一个子进程执行重写工作。

3. 内存
内存消耗优化：
1）同CPU优化一样，如果部署多个Redis实例，尽量保证同一时刻只有一个子进程在工作。
2）避免在大量写入时做子进程重写操作，这样将导致父进程维护大量页副本，造成内存消耗。

4. 硬盘
优化方法如下：
a）不要和其他高硬盘负载的服务部署在一起。如：存储服务、消息队列服务等。
b）AOF重写时会消耗大量硬盘IO，可以开启配置no-appendfsync-on-rewrite，默认关闭。表示在AOF重写期间不做fsync操作。
c）当开启AOF功能的Redis用于高流量写入场景时，如果使用普通机械磁盘，写入吞吐一般在100MB/s左右，这时Redis实例的瓶颈主要在AOF同步硬盘上。
d）对于单机配置多个Redis实例的情况，可以配置不同实例分盘存储AOF文件，分摊硬盘写入压力。

注：配置no-appendfsync-on-rewrite=yes时，在极端情况下可能丢失整个AOF重写期间的数据，需要根据数据安全性决定是否配置。

5.AOF追加阻塞
当开启AOF持久化时，常用的同步硬盘的策略是everysec，用于平衡性能和数据安全性。对于这种方式，Redis使用另一条线程每秒执行fsync同步硬盘。当系统硬盘资源繁忙时，会造成Redis主线程阻塞，

阻塞流程分析：
1）主线程负责写入AOF缓冲区。
2）AOF线程负责每秒执行一次同步磁盘操作，并记录最近一次同步时间。
3）主线程负责对比上次AOF同步时间：如果距上次同步成功时间在2秒内，主线程直接返回。如果距上次同步成功时间超过2秒，主线程将会阻塞，直到同步操作完成。

优化AOF追加阻塞问题主要是优化系统硬盘负载,优化方法参考第4点。

总结

本文主要学习Redis的事务、发布订阅、以及持久化。
后续会继续学习Redis集群等方面的知识。

最后

如果对 Java、大数据感兴趣请长按二维码关注一波，我会努力带给你们价值。觉得对你哪怕有一丁点帮助的请帮忙点个赞或者转发哦。
关注公众号【爱编码】，回复2019有相关资料哦。

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/37150.html

PHP学习方向-进阶3_MySQL篇（四）

摘要：关注回复，获取原理锁的解析以及使用场景关注回复，获取高级知识块关注回复，获取的相关知识关注回复，获取相关的知识轻轻关注，将推心的不错经验和知识数据库篇 MySQL CRUD JOIN、LEFT JOIN 、RIGHT JOIN、INNER JOIN UNION GROUP BY + COUNT + WHERE 组合案例常用 MySQL 函数，如：now()、md5()、conc...

lk20150415 2019-07-31 18:26 评论0 收藏0
PHP学习方向-进阶3_MySQL篇（四）

摘要：关注回复，获取原理锁的解析以及使用场景关注回复，获取高级知识块关注回复，获取的相关知识关注回复，获取相关的知识轻轻关注，将推心的不错经验和知识数据库篇 MySQL CRUD JOIN、LEFT JOIN 、RIGHT JOIN、INNER JOIN UNION GROUP BY + COUNT + WHERE 组合案例常用 MySQL 函数，如：now()、md5()、conc...

wing324 2019-07-01 10:34 评论0 收藏0
PHPer面试指南-PHP 篇

摘要：本书的地址篇收集了一些常见的基础进阶面试题，基础的面试题不再作答。如何实现持久化持久化，将在内存中的的状态保存到硬盘中，相当于备份数据库状态。相当于备份数据库接收到的命令，所有被写入的命令都是以的协议格式来保存的。本书的 GitHub 地址：https://github.com/todayqq/PH... PHP 篇收集了一些常见的基础、进阶面试题，基础的面试题不再作答。基础篇 ...

stackvoid 2019-06-28 18:19 评论0 收藏0
Java入门基础知识点总结（详细篇）

摘要：深入理解数据库管理系统通用知识及数据库的使用与管理。为后台开发打下坚实基础。项目文档，项目规范，需求分析，数据库设计，工程构建，需求评审，配置管理，修复，项目管理等。很多新手在学习java的时候都比较迷茫，不知道从哪里开始学起，这里就给大家整理了一份java开发学习路线，比较系统全面，可参...

shinezejian 2021-09-08 09:36 评论0 收藏0
PHP学习方向-进阶2（三）

摘要：关注回复，获取原理锁的解析以及使用场景关注回复，获取高级知识块关注回复，获取的相关知识关注回复，获取相关的知识轻轻关注，将推心的不错经验和知识实践篇给定二维数组，根据某个字段排序如何判断上传文件类型，如：仅允许 jpg 上传不使用临时变量交换两个变量的值 $a=1; $b=2; => $a=2; $b=1; strtoupper 在转换中文时存在乱码，你如何解决？php...

ingood 2019-07-01 10:33 评论0 收藏0