1.设计思想.md

Redis存储结构图

架构图

Redis是一个由ANSI C语言编写，性能优秀、支持网络、可持久化的K-K内存数据库，并提供多种语言的API。它常用的类型主要是 String、List、Hash、Set、ZSet 这5种。

Redis在互联网公司一般有以下应用:

String：缓存、限流、计数器、分布式锁、分布式Session

Hash：存储用户信息、用户主页访问量、组合查询

List：微博关注人时间轴列表、简单队列

Set：赞、踩、标签、好友关系

Zset：排行榜

Redis的对象redisObject

当我们执行set hello world命令时，会有以下数据模型：

  • dictEntry：Redis给每个key-value键值对分配一个dictEntry，里面有着key和val的指针，next指向下一个dictEntry形成链表，这个指针可以将多个哈希值相同的键值对链接在一起，由此来解决哈希冲突问题(链地址法)。

  • sds：键key“hello”是以SDS（简单动态字符串）存储，后面详细介绍。

  • redisObject：值val“world”存储在redisObject中。实际上，redis常用5中类型都是以redisObject来存储的；而redisObject中的type字段指明了Value对象的类型，ptr字段则指向对象所在的地址。

String

embstr：<=39字节的字符串。
int：8个字节的长整型。
raw：大于39个字节的字符串。

数据结构：

struct sdshdr {
   // buf 中已占用空间的长度
   int len;
   // buf 中剩余可用空间的长度
   int free;
   // 数据空间
   char buf[]; // ’\0’空字符结尾

};

杜绝缓冲区溢出：使用C字符串的操作时，如果字符串长度增加（如strcat操作）而忘记重新分配内存，很容易造成缓冲区的溢出；而SDS由于记录了长度，相应的操作在可能造成缓冲区溢出时会自动重新分配内存，杜绝了缓冲区溢出。

list

List对象的底层实现是quicklist（快速列表，是ziplist 压缩列表 和linkedlist 双端链表 的组合）。
Redis中的列表支持两端插入和弹出，并可以获得指定位置（或范围）的元素，可以充当数组、队列、栈等。

quickList 是 zipList 和 linkedList 的混合体。它将 linkedList 按段切分，每一段使用 zipList 来紧凑存储，多个 zipList 之间使用双向指针串接起来。因为链表的附加空间相对太高，prev 和 next 指针就要占去 16 个字节 (64bit 系统的指针是 8 个字节)，另外每个节点的内存都是单独分配，会加剧内存的碎片化，影响内存管理效率。

Hash

Hash对象的底层实现可以是ziplist（压缩列表）或者hashtable（字典或者也叫哈希表）。

Hash对象只有同时满足下面两个条件时，才会使用ziplist（压缩列表）：
1. 哈希中元素数量小于512个；
2. 哈希中所有键值对的键和值字符串长度都小于64字节。

源码可以简化成如下结构：

这个结构类似于JDK7以前的HashMap<String,Object>，当有两个或以上的键被分配到哈希数组的同一个索引上时，会产生哈希冲突。

Set

Set集合对象的底层实现可以是intset（整数集合）或者hashtable（字典或者也叫哈希表）。

intset（整数集合）当一个集合只含有整数，并且元素不多时会使用intset（整数集合）作为Set集合对象的底层实现。
数据结构：

typedef struct intset {
   // 编码方式
   uint32_t encoding;
   // 集合包含的元素数量
   uint32_t length;
   // 保存元素的数组
   int8_t contents[];
} intset;

intset底层实现为有序，无重复数组保存集合元素。 intset这个结构里的整数数组的类型可以是16位的，32位的，64位的。如果数组里所有的整数都是16位长度的，如果新加入一个32位的整数，那么整个16的数组将升级成一个32位的数组。升级可以提升intset的灵活性，又可以节约内存，但不可逆。

ZSet

当一个有序集合的元素数量比较多或者成员是比较长的字符串时，Redis就使用skiplist（跳跃表）作为ZSet对象的底层实现。

skiplist的查找时间复杂度是LogN，可以和平衡二叉树相当，但实现起来又比它简单。跳跃表(skiplist)是一种有序数据结构，它通过在某个节点中维持多个指向其他节点的指针，从而达到快速访问节点的目的。

typedef struct zskiplist {
    // 表头节点和表尾节点
   struct zskiplistNode *header, *tail;
   // 表中节点的数量
   unsigned long length;
   // 表中层数最大的节点的层数
   int level;
} zskiplist;
typedef struct zskiplistNode {
   // 成员对象
   robj *obj;
   // 分值
   double score;
    // 后退指针
   struct zskiplistNode *backward;
   // 层
   struct zskiplistLevel {
       // 前进指针
       struct zskiplistNode *forward;
        // 跨度---前进指针所指向节点与当前节点的距离
       unsigned int span;
   } level[];
} zskiplistNode;

施行数据淘汰策略。

redis 提供 6种数据淘汰策略通过maxmemory-policy设置策略：

volatile-lru：从已设置过期时间的数据集（server.db[i].expires）中挑选最近最少使用的数据淘汰
volatile-ttl：从已设置过期时间的数据集（server.db[i].expires）中挑选将要过期的数据淘汰
volatile-random：从已设置过期时间的数据集（server.db[i].expires）中任意选择数据淘汰
allkeys-lru：从数据集（server.db[i].dict）中挑选最近最少使用的数据淘汰
allkeys-random：从数据集（server.db[i].dict）中任意选择数据淘汰
no-enviction（驱逐）：禁止驱逐数据

2.命令文档.md

list

BLPOP
BRPOP

BRPOPLPUSH

安全的队列、循环列表

LINDEX
LINSERT
LLEN
LPOP
LPUSH
LPUSHX
LRANGE
LREM
LSET
LTRIM
RPOP
RPOPLPUSH
RPUSH
RPUSHX

3.源码解析.md

工作模式

tps: 单进程单线程

Redis快的主要原因是：

  1. 完全基于内存
  2. 数据结构简单，对数据操作也简单
  3. 使用多路 I/O 复用模型

和Memcached不同，Redis并没有直接使用Libevent，
而是自己完成了一个非常轻量级的对select、epoll、evport、kqueue这些通用的接口的实现。
在不同的系统调用选用适合的接口，linux下默认是epoll。
因为Libevent比较重更通用代码量也就很庞大，拥有很多Redis用不上的功能，Redis为了追求“轻巧”并且去除依赖，就选择自己去封装了一套。

  • 单进程单线程好处
    代码更清晰，处理逻辑更简单
    不用去考虑各种锁的问题，不存在加锁释放锁操作，没有因为可能出现死锁而导致的性能消耗
    不存在多进程或者多线程导致的切换而消耗CPU

  • 单进程单线程弊端
    无法发挥多核CPU性能，不过可以通过在单机开多个Redis实例来完善；

其他一些优秀的开源软件采用的模型
多进程单线程模型：Nginx
单进程多线程模型：Memcached

4.高可用方案.md

原文：Java技术站

Redis 单副本

Redis 单副本，采用单个 Redis 节点部署架构，没有备用节点实时同步数据，不提供数据持久化和备份策略，
适用于数据可靠性要求不高的纯缓存业务场景。

架构图

  • 优点：

    架构简单，部署方便；
    高性价比：缓存使用时无需备用节点（单实例可用性可以用 supervisor 或 crontab 保证），当然为了满足业务的高可用性，也可以牺牲一个备用节点，但同时刻只有一个实例对外提供服务；
    高性能。

  • 缺点：

    不保证数据的可靠性；
    在缓存使用，进程重启后，数据丢失，即使有备用的节点解决高可用性，但是仍然不能解决缓存预热问题，因此不适用于数据可靠性要求高的业务；
    高性能受限于单核 CPU 的处理能力（Redis 是单线程机制），CPU 为主要瓶颈，所以适合操作命令简单，排序、计算较少的场景。
    也可以考虑用 Memcached 替代。

Redis 多副本（主从）

Redis 多副本，采用主从（replication）部署结构，
相较于单副本而言最大的特点就是主从实例间数据实时同步，并且提供数据持久化和备份策略。
主从实例部署在不同的物理服务器上，根据公司的基础环境配置，可以实现同时对外提供服务和读写分离策略。

架构图

  • 优点：
    高可靠性：
    一方面，采用双机主备架构，能够在主库出现故障时自动进行主备切换，从库提升为主库提供服务，保证服务平稳运行；
    另一方面，开启数据持久化功能和配置合理的备份策略，能有效的解决数据误操作和数据异常丢失的问题；
    读写分离策略：从节点可以扩展主库节点的读能力，有效应对大并发量的读操作。

  • 缺点：
    故障恢复复杂，如果没有 RedisHA 系统（需要开发），当主库节点出现故障时，需要手动将一个从节点晋升为主节点，同时需要通知业务方变更配置，并且需要让其它从库节点去复制新主库节点，整个过程需要人为干预，比较繁琐；

    主库的写能力受到单机的限制，可以考虑分片；
    主库的存储能力受到单机的限制，可以考虑 Pika；

    原生复制的弊端在早期的版本中也会比较突出，
    如：Redis 复制中断后，Slave 会发起 psync，此时如果同步不成功，则会进行全量同步，主库执行全量备份的同时可能会造成毫秒或秒级的卡顿；又由于 COW 机制，导致极端情况下的主库内存溢出，程序异常退出或宕机；主库节点生成备份文件导致服务器磁盘 IO 和 CPU（压缩）资源消耗；发送数 GB 大小的备份文件导致服务器出口带宽暴增，阻塞请求，建议升级到最新版本。

Redis Sentinel（哨兵）

Redis Sentinel 是社区版本推出的原生高可用解决方案，
其部署架构主要包括两部分：Redis Sentinel 集群 和 Redis 数据集群。

其中 Redis Sentinel 集群是由若干 Sentinel 节点组成的分布式集群，可以实现故障发现、故障自动转移、配置中心和客户端通知。
Redis Sentinel 的节点数量要满足 2n+1（n>=1）的奇数个。

架构图

  • 优点：
    Redis Sentinel 集群部署简单；

    能够解决 Redis 主从模式下的高可用切换问题；

    很方便实现 Redis 数据节点的线形扩展，轻松突破 Redis 自身单线程瓶颈，可极大满足 Redis 大容量或高性能的业务需求；

    可以实现一套 Sentinel 监控一组 Redis 数据节点或多组数据节点。

  • 缺点：
    部署相对 Redis 主从模式要复杂一些，原理理解更繁琐；

    资源浪费，Redis 数据节点中 slave 节点作为备份节点不提供服务；

    Redis Sentinel 主要是针对 Redis 数据节点中的主节点的高可用切换，对 Redis 的数据节点做失败判定分为主观下线和客观下线两种，对于 Redis 的从节点有对节点做主观下线操作，并不执行故障转移。

    不能解决读写分离问题，实现起来相对复杂。

  • 建议：
    如果监控同一业务，可以选择一套 Sentinel 集群监控多组 Redis 数据节点的方案，反之选择一套 Sentinel 监控一组 Redis 数据节点的方案。

    sentinel monitor配置中的建议设置成 Sentinel 节点的一半加 1，当 Sentinel 部署在多个 IDC 的时候，单个 IDC 部署的 Sentinel 数量不建议超过（Sentinel 数量 – quorum）。

    合理设置参数，防止误切，控制切换灵敏度控制：

    a. quorum

    b. down-after-milliseconds 30000

    c. failover-timeout 180000

    d. maxclient

    e. timeout

    部署的各个节点服务器时间尽量要同步，否则日志的时序性会混乱。

    Redis 建议使用 pipeline 和 multi-keys 操作，减少 RTT 次数，提高请求效率。

    自行搞定配置中心（zookeeper），方便客户端对实例的链接访问。

Redis Cluster

Redis Cluster 是社区版推出的 Redis 分布式集群解决方案，主要解决 Redis 分布式方面的需求，比如，当遇到单机内存，并发和流量等瓶颈的时候，Redis Cluster 能起到很好的负载均衡的目的。

Redis Cluster 集群节点最小配置 6 个节点以上（3 主 3 从），其中主节点提供读写操作，从节点作为备用节点，不提供请求，只作为故障转移使用。

Redis Cluster 采用虚拟槽分区，所有的键根据哈希函数映射到 0～16383 个整数槽内，每个节点负责维护一部分槽以及槽所印映射的键值数据。

架构图

  • 优点：
    无中心架构；

    数据按照 slot 存储分布在多个节点，节点间数据共享，可动态调整数据分布；

    可扩展性：可线性扩展到 1000 多个节点，节点可动态添加或删除；

    高可用性：部分节点不可用时，集群仍可用。通过增加 Slave 做 standby 数据副本，能够实现故障自动 failover，节点之间通过 gossip 协议交换状态信息，用投票机制完成 Slave 到 Master 的角色提升；

    降低运维成本，提高系统的扩展性和可用性。

  • 缺点：
    Client 实现复杂，驱动要求实现 Smart Client，缓存 slots mapping 信息并及时更新，提高了开发难度，客户端的不成熟影响业务的稳定性。目前仅 JedisCluster 相对成熟，异常处理部分还不完善，比如常见的“max redirect exception”。

    节点会因为某些原因发生阻塞（阻塞时间大于 clutser-node-timeout），被判断下线，这种 failover 是没有必要的。

    数据通过异步复制，不保证数据的强一致性。

    多个业务使用同一套集群时，无法根据统计区分冷热数据，资源隔离性较差，容易出现相互影响的情况。

    Slave 在集群中充当“冷备”，不能缓解读压力，当然可以通过 SDK 的合理设计来提高 Slave 资源的利用率。

    Key 批量操作限制，如使用 mset、mget 目前只支持具有相同 slot 值的 Key 执行批量操作。对于映射为不同 slot 值的 Key 由于 Keys 不支持跨 slot 查询，所以执行 mset、mget、sunion 等操作支持不友好。

    Key 事务操作支持有限，只支持多 key 在同一节点上的事务操作，当多个 Key 分布于不同的节点上时无法使用事务功能。

    Key 作为数据分区的最小粒度，不能将一个很大的键值对象如 hash、list 等映射到不同的节点。

    不支持多数据库空间，单机下的 redis 可以支持到 16 个数据库，集群模式下只能使用 1 个数据库空间，即 db 0。

    复制结构只支持一层，从节点只能复制主节点，不支持嵌套树状复制结构。

    避免产生 hot-key，导致主库节点成为系统的短板。

    避免产生 big-key，导致网卡撑爆、慢查询等。

    重试时间应该大于 cluster-node-time 时间。

    Redis Cluster 不建议使用 pipeline 和 multi-keys 操作，减少 max redirect 产生的场景。

Redis 自研

Redis 自研的高可用解决方案，主要体现在配置中心、故障探测和 failover 的处理机制上，通常需要根据企业业务的实际线上环境来定制化。

架构图
架构图

  • 优点：
    高可靠性、高可用性；
    自主可控性高；
    贴切业务实际需求，可缩性好，兼容性好。

  • 缺点：
    实现复杂，开发成本高；
    需要建立配套的周边设施，如监控，域名服务，存储元数据信息的数据库等；
    维护成本高。

5.redis治理.md

bigKey

其实不然，按照经验来说 ，如何定义bigKey 呢?

字符串类型：它的big体现在单个value值很大，一般认为超过10KB就是bigkey。
非字符串类型：哈希、列表、集合、有序集合，它们的big体现在元素个数太多。

Redis进阶-Redis键值设计及BigKey问题=

Copyright © 2018 INSTALL.REN