你好,游客 登录
背景:
阅读新闻

学会这15点,让你分分钟拿下Redis数据库

[日期:2018-05-14] 来源:民工哥Linux运维  作者: [字体: ]

  1、Redis简介

  REmote DIctionary Server(Redis) 是一个由Salvatore Sanfilippo写的key-value存储系统。Redis是一个开源的使用ANSI C语言编写、遵守BSD协议、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。它通常被称为数据结构服务器,因为值(value)可以是 字符串(String), 哈希(Map), 列表(list), 集合(sets) 和 有序集合(sorted sets)等类型。

  大家都知道了redis是基于key-value的no sql数据库,因此,先来了解一下关于key相关的知识点。

  (1)任何二进制的序列都可以作为key使用

  (2)Redis有统一的规则来设计key

  (3)对key-value允许的较大长度是512MB

  2、支持的语言

  ActionScriptBashCC#C++ClojureCommonLisp

  CrystalDDartElixiremacslispErlang

  FancygawkGNUPrologGoHaskellHaxeIoJavaJavascript

  JuliaLuaMatlabmrubyNimNode.jsObjective-C

  OCamlPascalPerlPHPPureDataPythonRRacket

  RebolRubyRustScalaSchemeSmalltalkSwiftTclVBVCL

  3、Redis的应用场景到底有哪些??

  (1)较常用的就是会话缓存

  (2)消息队列,比如支付

  (3)活动排行榜或计数

  (4)发布、订阅消息(消息通知)

  (5)商品列表、评论列表等

  4、Redis安装

  关于redis安装与相关的知识点介绍请参考 Nosql数据库服务之redis

  安装的大概步骤如下:

  Redis是c语言开发的,安装redis需要c语言的编译环境

  如果没有gcc需要在线安装:yum install gcc-c++

  第一步:获取源码包:wget http://download.redis.io/releases/redis-3.0.0.tar.gz

  第二步:解压缩redis:tar zxvf redis-3.0.0.tar.gz

  第三步:编译。进入redis源码目录(cd redis-3.0.0)。执行 make

  第四步:安装。make install PREFIX=/usr/local/redis

  #PREFIX参数指定redis的安装目录

  5、Redis数据类型

  Redis一共支持五种数据类型

  string(字符串)

  hash(哈希)

  list(列表)

  set(集合)

  zset(sorted set 有序集合)

  string(字符串)

  它是redis较基本的数据类型,一个key对应一个value,需要注意是一个键值较大存储512MB。

  127.0.0.1:6379>setkey"helloworld"

  OK

  127.0.0.1:6379>getkey

  "helloworld"

  127.0.0.1:6379>getsetkey"nihao"

  "helloworld"

  127.0.0.1:6379>msetkey1"hi"key2"nihao"key3"hello"

  OK

  127.0.0.1:6379>getkey1

  "hi"

  127.0.0.1:6379>getkey2

  "nihao"

  127.0.0.1:6379>getkey3

  "hello"

  相关命令介绍

  set 为一个Key设置value(值)

  get 获得某个key对应的value(值)

  getset 为一个Key设置value(值)并返回对应的值

  mset 为多个key设置value(值)

  hash(哈希)

  redis hash是一个键值对的集合, 是一个string类型的field和value的映射表,适合用于存储对象

  127.0.0.1:6379>hsetredishash1"001"

  (integer)1

  127.0.0.1:6379>hgetredishash1

  "001"

  127.0.0.1:6379>hmsetredishash1"001"2"002"

  OK

  127.0.0.1:6379>hgetredishash1

  "001"

  127.0.0.1:6379>hgetredishash2

  "002"

  127.0.0.1:6379>hmgetredishash12

  1)"001"

  2)"002"

  相关命令介绍

  hset 将Key对应的hash中的field配置为value,如果hash不存则自动创建,

  hget 获得某个hash中的field配置的值

  hmset 批量配置同一个hash中的多个field值

  hmget 批量获得同一个hash中的多个field值

  list(列表)

  是redis简单的字符串列表,它按插入顺序排序

  127.0.0.1:6379>lpushwordhi

  (integer)1

  127.0.0.1:6379>lpushwordhello

  (integer)2

  127.0.0.1:6379>rpushwordworld

  (integer)3

  127.0.0.1:6379>lrangeword02

  1)"hello"

  2)"hi"

  3)"world"

  127.0.0.1:6379>llenword

  (integer)3

  相关命令介绍

  lpush 向指定的列表左侧插入元素,返回插入后列表的长度

  rpush 向指定的列表右侧插入元素,返回插入后列表的长度

  llen 返回指定列表的长度

  lrange 返回指定列表中指定范围的元素值

  set(集合)

  是string类型的无序集合,也不可重复

  127.0.0.1:6379>saddredisredisset

  (integer)1

  127.0.0.1:6379>saddredisredisset1

  (integer)1

  127.0.0.1:6379>saddredisredisset2

  (integer)1

  127.0.0.1:6379>smembersredis

  1)"redisset1"

  2)"redisset"

  3)"redisset2"

  127.0.0.1:6379>saddredisredisset2

  (integer)0

  127.0.0.1:6379>smembersredis

  1)"redisset1"

  2)"redisset"

  3)"redisset2"

  127.0.0.1:6379>smembersredis

  1)"redisset1"

  2)"redisset3"

  3)"redisset"

  4)"redisset2"

  127.0.0.1:6379>sremredisredisset

  (integer)1

  127.0.0.1:6379>smembersredis

  1)"redisset1"

  2)"redisset3"

  3)"redisset2"

  相关命令介绍

  sadd 添加一个string元素到key对应的set集合中,成功返回1,如果元素存在返回0

  smembers 返回指定的集合中所有的元素

  srem 删除指定集合的某个元素

  zset(sorted set 有序集合)

  是string类型的有序集合,也不可重复

  sorted set中的每个元素都需要指定一个分数,根据分数对元素进行升序排序,如果多个元素有相同的分数,则以字典序进行升序排序,sorted set 因此非常适合实现排名

  127.0.0.1:6379>zaddnosql0001

  (integer)1

  127.0.0.1:6379>zaddnosql0002

  (integer)1

  127.0.0.1:6379>zaddnosql0003

  (integer)1

  127.0.0.1:6379>zcountnosql00

  (integer)3

  127.0.0.1:6379>zcountnosql03

  (integer)3

  127.0.0.1:6379>zremnosql002

  (integer)1

  127.0.0.1:6379>zcountnosql03

  (integer)2

  127.0.0.1:6379>zscorenosql003

  "0"

  127.0.0.1:6379>zrangebyscorenosql010

  1)"001"

  2)"003"

  127.0.0.1:6379>zaddnosql1003

  (integer)0

  127.0.0.1:6379>zaddnosql1004

  (integer)1

  127.0.0.1:6379>zrangebyscorenosql010

  1)"001"

  2)"003"

  3)"004"

  127.0.0.1:6379>zaddnosql3005

  (integer)1

  127.0.0.1:6379>zaddnosql2006

  (integer)1

  127.0.0.1:6379>zrangebyscorenosql010

  1)"001"

  2)"003"

  3)"004"

  4)"006"

  5)"005"

  相关命令介绍

  zadd 向指定的sorteset中添加1个或多个元素

  zrem 从指定的sorteset中删除1个或多个元素

  zcount 查看指定的sorteset中指定分数范围内的元素数量

  zscore 查看指定的sorteset中指定分数的元素

  zrangebyscore 查看指定的sorteset中指定分数范围内的所有元素

  6、键值相关的命令

  127.0.0.1:6379>existskey

  (integer)1

  127.0.0.1:6379>existskey1

  (integer)1

  127.0.0.1:6379>existskey100

  (integer)0

  127.0.0.1:6379>getkey

  "nihao,hello"

  127.0.0.1:6379>getkey1

  "hi"

  127.0.0.1:6379>delkey1

  (integer)1

  127.0.0.1:6379>getkey1

  (nil)

  127.0.0.1:6379>renamekeykey0

  OK

  127.0.0.1:6379>getkey

  (nil)

  127.0.0.1:6379>getkey0

  "nihao,hello"

  127.0.0.1:6379>typekey0

  string

  exists #确认key是否存在

  del #删除key

  expire #设置Key过期时间(单位秒)

  persist #移除Key过期时间的配置

  rename #重命名key

  type #返回值的类型

  7、Redis服务相关的命令

  127.0.0.1:6379>select0

  OK

  127.0.0.1:6379>info

  #Server

  redis_version:3.0.6

  redis_git_sha1:00000000

  redis_git_dirty:0

  redis_build_id:347e3eeef5029f3

  redis_mode:standalone

  os:Linux3.10.0-693.el7.x86_64x86_64

  arch_bits:64

  multiplexing_api:epoll

  gcc_version:4.8.5

  process_id:31197

  run_id:8b6ec6ad5035f5df0b94454e199511084ac6fb12

  tcp_port:6379

  uptime_in_seconds:8514

  uptime_in_days:0

  hz:10

  lru_clock:14015928

  config_file:/usr/local/redis/redis.conf

  -------------------省略N行

  127.0.0.1:6379>CONFIGGET0

  (emptylistorset)

  127.0.0.1:6379>CONFIGGET15

  (emptylistorset)

  slect #选择数据库(数据库编号0-15)

  quit #退出连接

  info #获得服务的信息与统计

  monitor #实时监控

  config get #获得服务配置

  flushdb #删除当前选择的数据库中的key

  flushall #删除所有数据库中的key

  8、Redis的发布与订阅

  Redis发布与订阅(pub/sub)是它的一种消息通信模式,一方发送信息,一方接收信息。

  下图是三个客户端同时订阅同一个频道

  下图是有新信息发送给频道1时,就会将消息发送给订阅它的三个客户端

  9、Redis事务

  Redis事务可以一次执行多条命令

  (1)发送exec命令前放入队列缓存,结束事务

  (2)收到exec命令后执行事务操作,如果某一命令执行失败,其它命令仍可继续执行

  (3)一个事务执行的过程中,其它客户端提交的请求不会被插入到事务执行的命令列表中

  一个事务经历三个阶段

  开始事务(命令:multi)

  命令执行

  结束事务(命令:exec)

  127.0.0.1:6379>MULTI

  OK

  127.0.0.1:6379>setkeykey1

  QUEUED

  127.0.0.1:6379>getkey

  QUEUED

  127.0.0.1:6379>renamekeykey001

  QUEUED

  127.0.0.1:6379>exec

  1)OK

  2)"key1"

  3)OK

  10、Redis安全配置

  可以通过修改配置文件设备密码参数来提高安全性

  #requirepass foobared

  去掉注释#号就可以配置密码

  没有配置密码的情况下查询如下

  127.0.0.1:6379>CONFIGGETrequirepass

  1)"requirepass"

  2)""

  配置密码之后,就需要进行认证

  127.0.0.1:6379>CONFIGGETrequirepass

  (error)NOAUTHAuthenticationrequired.

  127.0.0.1:6379>AUTHfoobared#认证

  OK

  127.0.0.1:6379>CONFIGGETrequirepass

  1)"requirepass"

  2)"foobared"

  11、Redis持久化

  Redis持久有两种方式:Snapshotting(快照),Append-only file(AOF)

  Snapshotting(快照)

  (1)将存储在内存的数据以快照的方式写入二进制文件中,如默认dump.rdb中

  (2)save 900 1

  #900秒内如果超过1个Key被修改,则启动快照保存

  (3)save 300 10

  #300秒内如果超过10个Key被修改,则启动快照保存

  (4)save 60 10000

  #60秒内如果超过10000个Key被修改,则启动快照保存

  Append-only file(AOF)

  (1)使用AOF持久时,服务会将每个收到的写命令通过write函数追加到文件中(appendonly.aof)

  (2)AOF持久化存储方式参数说明

  appendonly yes

  #开启AOF持久化存储方式

  appendfsync always

  #收到写命令后就立即写入磁盘,效率较差,效果较好

  appendfsync everysec

  #每秒写入磁盘一次,效率与效果居中

  appendfsync no

  #有效依赖OS,效率较佳,效果没法

  12、Redis 性能测试

  自带相关测试工具

  [[email protected]~]#redis-benchmark--help

  Usage:redis-benchmark[-h<host>][-p<port>][-c<clients>][-n<requests]>[-k<boolean>]

  -h<hostname>Serverhostname(default127.0.0.1)

  -p<port>Serverport(default6379)

  -s<socket>Serversocket(overrideshostandport)

  -a<password>PasswordforRedisAuth

  -c<clients>Numberofparallelconnections(default50)

  -n<requests>Totalnumberofrequests(default100000)

  -d<size>DatasizeofSET/GETvalueinbytes(default2)

  -dbnum<db>SELECTthespecifieddbnumber(default0)

  -k<boolean>1=keepalive0=reconnect(default1)

  -r<keyspacelen>UserandomkeysforSET/GET/INCR,randomvaluesforSADD

  Usingthisoptionthebenchmarkwillexpandthestring__rand_int__

  insideanargumentwitha12digitsnumberinthespecifiedrange

  from0tokeyspacelen-1.Thesubstitutionchangeseverytimeacommand

  isexecuted.Defaulttestsusethistohitrandomkeysinthe

  specifiedrange.

  -P<numreq>Pipeline<numreq>requests.Default1(nopipeline).

  -qQuiet.Justshowquery/secvalues

  --csvOutputinCSVformat

  -lLoop.Runthetestsforever

  -t<tests>Onlyrunthecommaseparatedlistoftests.Thetest

  namesarethesameastheonesproducedasoutput.

  -IIdlemode.JustopenNidleconnectionsandwait.

  Examples:

  Runthebenchmarkwiththedefaultconfigurationagainst127.0.0.1:6379:

  $redis-benchmark

  Use20parallelclients,foratotalof100krequests,against192.168.1.1:

  $redis-benchmark-h192.168.1.1-p6379-n100000-c20

  Fill127.0.0.1:6379withabout1millionkeysonlyusingtheSETtest:

  $redis-benchmark-tset-n1000000-r100000000

  Benchmark127.0.0.1:6379forafewcommandsproducingCSVoutput:

  $redis-benchmark-tping,set,get-n100000--csv

  Benchmarkaspecificcommandline:

  $redis-benchmark-r10000-n10000eval'returnredis.call("ping")'0

  Fillalistwith10000randomelements:

  $redis-benchmark-r10000-n10000lpushmylist__rand_int__

  Onuserspecifiedcommandlines__rand_int__isreplacedwitharandominteger

  witharangeofvaluesselectedbythe-roption.

  实际测试同时执行100万的请求

  [[email protected]~]#redis-benchmark-n1000000-q

  PING_INLINE:152578.58requestspersecond

  PING_BULK:150308.14requestspersecond

  SET:143266.47requestspersecond

  GET:148632.58requestspersecond

  INCR:145857.64requestspersecond

  LPUSH:143781.45requestspersecond

  LPOP:147819.66requestspersecond

  SADD:138350.86requestspersecond

  SPOP:134282.27requestspersecond

  LPUSH(neededtobenchmarkLRANGE):141302.81requestspersecond

  LRANGE_100(first100elements):146756.67requestspersecond

  LRANGE_300(first300elements):148104.27requestspersecond

  LRANGE_500(first450elements):152671.75requestspersecond

  LRANGE_600(first600elements):148104.27requestspersecond

  MSET(10keys):132731.62requestspersecond

  13、Redis的备份与恢复

  Redis自动备份有两种方式

  第一种是通过dump.rdb文件实现备份

  第二种使用aof文件实现自动备份

  dump.rdb备份

  Redis服务默认的自动文件备份方式(AOF没有开启的情况下),在服务启动时,就会自动从dump.rdb文件中去加载数据。

  具体配置在redis.conf

  save 900 1

  save 300 10

  save 60 10000

  也可以手工执行save命令实现手动备份

  127.0.0.1:6379>setnamekey

  OK

  127.0.0.1:6379>SAVE

  OK

  127.0.0.1:6379>setnamekey1

  OK

  127.0.0.1:6379>BGSAVE

  Backgroundsavingstarted

  redis快照到dump文件时,会自动生成dump.rdb的文件

  #ThefilenamewheretodumptheDB

  dbfilenamedump.rdb

  -rw-r--r--1rootroot253Apr1720:17dump.rdb

  SAVE命令表示使用主进程将当前数据库快照到dump文件

  BGSAVE命令表示,主进程会fork一个子进程来进行快照备份

  两种备份不同之处,前者会阻塞主进程,后者不会。

  恢复举例

  #Notethatyoumustspecifyadirectoryhere,notafilename.

  dir/usr/local/redisdata/

  备份文件存储路径

  127.0.0.1:6379>CONFIGGETdir

  1)"dir"

  2)"/usr/local/redisdata"

  127.0.0.1:6379>setkey001

  OK

  127.0.0.1:6379>setkey1002

  OK

  127.0.0.1:6379>setkey2003

  OK

  127.0.0.1:6379>save

  OK

  将备份文件备份到其它目录

  [[email protected]~]#ll/usr/local/redisdata/

  total4

  -rw-r--r--1rootroot49Apr1721:24dump.rdb

  [[email protected]~]#date

  TueApr1721:25:38CST2018

  [[email protected]~]#cp./dump.rdb/tmp/

  删除数据

  127.0.0.1:6379>delkey1

  (integer)1

  127.0.0.1:6379>getkey1

  (nil)

  关闭服务,将原备份文件拷贝回save备份目录

  [[email protected]~]#redis-cli-afoobaredshutdown

  [[email protected]~]#lsof-i:6379

  [[email protected]~]#cp/tmp/dump.rdb/usr/local/redisdata/

  cp:overwrite‘/usr/local/redisdata/dump.rdb’?y

  [[email protected]~]#redis-server/usr/local/redis/redis.conf&

  [1]31487

  登录查看数据是否恢复

  [[email protected]~]#redis-cli-afoobared

  127.0.0.1:6379>mgetkeykey1key2

  1)"001"

  2)"002"

  3)"003"

  AOF自动备份

  redis服务默认是关闭此项配置

  ######APPENDONLYMODE##########

  appendonlyno

  #Thenameoftheappendonlyfile(default:"appendonly.aof")

  appendfilename"appendonly.aof"

  #appendfsyncalways

  appendfsynceverysec

  #appendfsyncno

  配置文件的相关参数,前面已经详细介绍过。

  AOF文件备份,是备份所有的历史记录以及执行过的命令,和mysql binlog很相似,在恢复时就是重新执次一次之前执行的命令,需要注意的就是在恢复之前,和数据库恢复一样需要手工删除执行过的del或误操作的命令。

  AOF与dump备份不同

  1、aof文件备份与dump文件备份不同

  2、服务读取文件的优先顺序不同,会按照以下优先级进行启动

  如果只配置AOF,重启时加载AOF文件恢复数据

  如果同时 配置了RBD和AOF,启动是只加载AOF文件恢复数据

  如果只配置RBD,启动时将加载dump文件恢复数据

  注意:只要配置了aof,但是没有aof文件,这个时候启动的数据库会是空的

  14、Redis 生产优化介绍

  (1)内存管理优化

  hash-max-ziplist-entries512

  hash-max-ziplist-value64

  list-max-ziplist-entries512

  list-max-ziplist-value64

  #list的成员与值都不太大的时候会采用紧凑格式来存储,相对内存开销也较小

  在linux环境运行Redis时,如果系统的内存比较小,这个时候自动备份会有可能失败,需要修改系统的vm.overcommit_memory 参数,这个参数是linux系统的内存分配策略

  0 表示内核将检查是否有足够的可用内存供应用进程使用;如果有足够的可用内存,内存申请允许;否则,内存申请失败,并把错误返回给应用进程。

  1 表示内核允许分配所有的物理内存,而不管当前的内存状态如何。

  2 表示内核允许分配超过所有物理内存和交换空间总和的内存

  Redis官方的说明是,建议将vm.overcommit_memory的值修改为1,可以用下面几种方式进行修改:

  (1)编辑/etc/sysctl.conf 改vm.overcommit_memory=1,然后sysctl -p 使配置文件生效

  (2)sysctl vm.overcommit_memory=1

  (3)echo 1 > /proc/sys/vm/overcommit_memory

  (2)内存预分配

  (3)持久化机制

  定时快照:效率不高,会丢失数据

  AOF:保持数据完整性(一个实例的数量不要太大2G较大)

  优化总结

  1)根据业务需要选择合适的数据类型

  2)当业务场景不需持久化时就关闭所有持久化方式(采用ssd磁盘来提升效率)

  3)不要使用虚拟内存的方式,每秒实时写入AOF

  4)不要让REDIS所在的服务器物理内存使用超过内存总量的3/5

  5)要使用maxmemory

  6)大数据量按业务分开使用多个redis实例

  15、Redis集群应用

  集群是将多个redis实例集中在一起,实现同一业务需求,或者实现高可用与负载均衡

  到底有哪些集群方案呢??

  (1)haproxy+keepalived+redis集群

  1)通过redis的配置文件,实现主从复制、读写分离

  2)通过haproxy的配置,实现负载均衡,当从故障时也会及时从集群中T除

  3)利用keepalived来实现负载的高可用

  (2)redis官方Sentinel集群管理工具

  Redis集群生产环境高可用方案实战过程

  1)sentinel负责对集群中的主从服务监控、提醒和自动故障转移

  2)redis集群负责对外提供服务

  关于redis sentinel cluster集群配置可参考

  (3)Redis Cluster

  Redis Cluster是Redis的分布式解决方案,在Redis 3.0版本正式推出的,有效解决了Redis分布式方面的需求。当遇到单机内存、并发、流量等瓶颈时,可以采用Cluster架构达到负载均衡的目的。

  1)官方推荐,毋庸置疑。

  2)去中心化,集群较大可增加1000个节点,性能随节点增加而线性扩展。

  3)管理方便,后续可自行增加或摘除节点,移动分槽等等。

 

  4)简单,易上手。

收藏 推荐 打印 | 录入:Cstor | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款
热门评论