本文关于redis

一、基本介绍

redis也是一个key-value的存储系统,与memcached类似,但是redis的value支持更多的类型,包括string、list、set、zset、hash。

redis在将数据放入缓存在内存中的同时,还可以进行持久化,即周期性的将数据放入磁盘或者追加文件中,

另外,redis也支持更多的数据操作,

1. 使用Redis有哪些好处?

(1) 速度快,因为数据存在内存中,类似于HashMap,HashMap的优势就是查找和操作的时间复杂度都是O(1)

(2) 支持丰富数据类型,支持string,list,set,sorted set,hash

(3) 支持事务,操作都是原子性,所谓的原子性就是对数据的更改要么全部执行,要么全部不执行

(4) 丰富的特性:可用于缓存,消息,按key设置过期时间,过期后将会自动删除


2. redis相比memcached有哪些优势?

(1) memcached所有的值均是简单的字符串,redis作为其替代者,支持更为丰富的数据类型

(2) redis的速度比memcached快很多

(3) redis可以持久化其数据


3. redis常见性能问题和解决方案:

(1) Master最好不要做任何持久化工作,如RDB内存快照和AOF日志文件

(2) 如果数据比较重要,某个Slave开启AOF备份数据,策略设置为每秒同步一次

(3) 为了主从复制的速度和连接的稳定性,Master和Slave最好在同一个局域网内

(4) 尽量避免在压力很大的主库上增加从库

(5) 主从复制不要用图状结构,用单向链表结构更为稳定,即:Master <- Slave1 <- Slave2 <- Slave3...

这样的结构方便解决单点故障问题,实现Slave对Master的替换。如果Master挂了,可以立刻启用Slave1做Master,其他不变。



 

4. MySQL里有2000w数据,redis中只存20w的数据,如何保证redis中的数据都是热点数据

 相关知识:redis 内存数据集大小上升到一定大小的时候,就会施行数据淘汰策略。redis 提供 6种数据淘汰策略:

voltile-lru:从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰

volatile-ttl:从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰

volatile-random:从已设置过期时间的数据集(server.db[i].expires)中任意选择数据淘汰

allkeys-lru:从数据集(server.db[i].dict)中挑选最近最少使用的数据淘汰

allkeys-random:从数据集(server.db[i].dict)中任意选择数据淘汰

no-enviction(驱逐):禁止驱逐数据

 

5. Memcache与Redis的区别都有哪些?

1)、存储方式

Memecache把数据全部存在内存之中,断电后会挂掉,数据不能超过内存大小。

Redis有部份存在硬盘上,这样能保证数据的持久性。

2)、数据支持类型

Memcache对数据类型支持相对简单。

Redis有复杂的数据类型。


3),value大小

redis最大可以达到1GB,而memcache只有1MB



6. Redis 常见的性能问题都有哪些?如何解决?

 

1).Master写内存快照,save命令调度rdbSave函数,会阻塞主线程的工作,当快照比较大时对性能影响是非常大的,会间断性暂停服务,所以Master最好不要写内存快照。


2).Master AOF持久化,如果不重写AOF文件,这个持久化方式对性能的影响是最小的,但是AOF文件会不断增大,AOF文件过大会影响Master重启的恢复速度。Master最好不要做任何持久化工作,包括内存快照和AOF日志文件,特别是不要启用内存快照做持久化,如果数据比较关键,某个Slave开启AOF备份数据,策略为每秒同步一次。

 
3).Master调用BGREWRITEAOF重写AOF文件,AOF在重写的时候会占大量的CPU和内存资源,导致服务load过高,出现短暂服务暂停现象。

4). Redis主从复制的性能问题,为了主从复制的速度和连接的稳定性,Slave和Master最好在同一个局域网内




7, redis 最适合的场景


Redis最适合所有数据in-momory的场景,虽然Redis也提供持久化功能,但实际更多的是一个disk-backed的功能,跟传统意义上的持久化有比较大的差别,那么可能大家就会有疑问,似乎Redis更像一个加强版的Memcached,那么何时使用Memcached,何时使用Redis呢?

       如果简单地比较Redis与Memcached的区别,大多数都会得到以下观点:
、Redis不仅仅支持简单的k/v类型的数据,同时还提供list,set,zset,hash等数据结构的存储。
、Redis支持数据的备份,即master-slave模式的数据备份。
、Redis支持数据的持久化,可以将内存中的数据保持在磁盘中,重启的时候可以再次加载进行使用。

(1)、会话缓存(Session Cache)

最常用的一种使用Redis的情景是会话缓存(session cache)。用Redis缓存会话比其他存储(如Memcached)的优势在于:Redis提供持久化。当维护一个不是严格要求一致性的缓存时,如果用户的购物车信息全部丢失,大部分人都会不高兴的,现在,他们还会这样吗?

幸运的是,随着 Redis 这些年的改进,很容易找到怎么恰当的使用Redis来缓存会话的文档。甚至广为人知的商业平台Magento也提供Redis的插件。

(2)、全页缓存(FPC)

除基本的会话token之外,Redis还提供很简便的FPC平台。回到一致性问题,即使重启了Redis实例,因为有磁盘的持久化,用户也不会看到页面加载速度的下降,这是一个极大改进,类似PHP本地FPC。

再次以Magento为例,Magento提供一个插件来使用Redis作为全页缓存后端。

此外,对WordPress的用户来说,Pantheon有一个非常好的插件  wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页面。

(3)、队列

Reids在内存存储引擎领域的一大优点是提供 list 和 set 操作,这使得Redis能作为一个很好的消息队列平台来使用。Redis作为队列使用的操作,就类似于本地程序语言(如Python)对 list 的 push/pop 操作。

如果你快速的在Google中搜索“Redis queues”,你马上就能找到大量的开源项目,这些项目的目的就是利用Redis创建非常好的后端工具,以满足各种队列需求。例如,Celery有一个后台就是使用Redis作为broker,你可以从这里去查看。

(4),排行榜/计数器

Redis在内存中对数字进行递增或递减的操作实现的非常好。集合(Set)和有序集合(Sorted Set)也使得我们在执行这些操作的时候变的非常简单,Redis只是正好提供了这两种数据结构。所以,我们要从排序集合中获取到排名最靠前的10个用户–我们称之为“user_scores”,我们只需要像下面一样执行即可:

当然,这是假定你是根据你用户的分数做递增的排序。如果你想返回用户及用户的分数,你需要这样执行:

ZRANGE user_scores 0 10 WITHSCORES

Agora Games就是一个很好的例子,用Ruby实现的,它的排行榜就是使用Redis来存储数据的,你可以在这里看到。

(5)、发布/订阅

最后(但肯定不是最不重要的)是Redis的发布/订阅功能。发布/订阅的使用场景确实非常多。我已看见人们在社交网络连接中使用,还可作为基于发布/订阅的脚本触发器,甚至用Redis的发布/订阅功能来建立聊天系统!(不,这是真的,你可以去核实)。

Redis提供的所有特性中,我感觉这个是喜欢的人最少的一个,虽然它为用户提供如果此多功能。
about redis

二、安装redis

(一)windows下安装redis服务

 1、下载安装包:https://github.com/MicrosoftArchive/redis/releases

2、解压并安装,其中涉及安装目录、对应端口(默认6379)、大小容量、环境变量PATH的设置等问题,

3、修改配置,用编辑器或者记事本分别打开文件redis.windows-service.conf 和redis.windows.conf,

  在requirepass foobared字样下添加requirepass 12345,表示设置密码为12345,

  其中默认端口port 6379,可以修改成任意指定port,

  如果需要任意ip可以访问redis,而不只是本机,需要将其中bind 127.0.0.1注释掉,或者添加需要访问的ip

4、“开始”>右击“计算机”>选择“管理”>“计算机管理(本地)”>服务和应用程序>服务,找到redis服务,并开启,

5、最后测试是否可以正常使用,或者更改过port、密码等之后重新开启服务:

  cmd中跳转至安装目录,开启命令:redis-server.exe redis.windows.conf,

  重新打开一个cmd,命令redis-cli -h ip -p port执行命令行,若显示服务端口号,表示服务已经可以正常使用,

6、若需要密码验证,则auth 12345,也可以修改其中的port为指定端口,

7、退出命令:ctrl+c,

(二)安装python中的redis

cmd中使用命令:pip install redis进行安装,安装之后直接import使用,

三、value为字符串

(一)相关方法

1、单独设置:set(key,value,ex=None,px=None,nx=None,xx=None)

其中:ex——过期时间,单位:秒

   px——过期时间,单位:毫秒

   nx——设置为True,表示key不存在时才可以执行,此时的set类似于add功能

   xx——设置为True,表示key存在时才可以执行,此时的set类似于update功能

2、单独获取:get(key)

3、批量设置:mset({‘name1’:value1,'name2':value2,})或者mset(name1=‘value1’,name2=‘value2’,)

说明:批量设置时使用字典和键值对都可以,效果一致,

4、批量获取:mget(‘name1’,‘name2’,)或者mget([‘name1’,‘name2’,])或者mget({‘name1’,‘name2’,})

说明:直接指定name或者使用列表、字典,都可以批量获取,

注意:使用字典时,顺序不确定

5、设置新值的同时返回原来的值:getset(‘name’,value)

说明:当name原本不存在时,返回None,

        # 单独设置、获取
        r.set('goo','fo')
        print(r.get('goo'))             # b'fo'
        
        # 批量设置、获取
        r.mset({'k1':1,'k2':2})     # 方式一
        print(r.mget('k1','k2'))        # [b'1', b'2']
        print(r.mget(['k1','k2']))      # [b'1', b'2']
        print(r.mget({'k1','k2'}))      # [b'2', b'1'] 或 [b'1', b'2'],顺序随机
        
        r.mset(k1='1',k2='2')       # 方式二
        print(r.mget('k1','k2'))        # [b'1', b'2']
        print(r.mget(['k1','k2']))      # [b'1', b'2']
        print(r.mget({'k1','k2'}))      # [b'2', b'1'] 或 [b'1', b'2'],顺序随机

        # 设置新值的同时,获取原来的值
        old_v = r.getset('k2','4')       # name存在
        print(old_v)                     # b'2'
        print(r.get('k2'))              # b'4'

        old_v = r.getset('k6','4')      # name不存在
        print(old_v)                     # None
        print(r.get('k6'))              # b'4'
基本set、get相关

6、切片:getrange(name,start,stop)

说明:start和stop分别表示切片的起止下标,两侧全包含,

# 切片
        print(r.set('n1','0123456789'))   # True
        print(r.getrange('n1',4,8))         # b'45678'
        print(r.getrange('n1',0,4))         # b'01234'
        print(r.getrange('n1',8,11))        # b'89'
getrange

7、替换:setrange(name,offset,value)

说明:offset指针开始替换的位置,value替换的字符串,返回值是替换后的字符串长度,

# 字节替换
        r.set('n1','0123456789')
        print(r.get('n1'))                          # b'0123456789'
        print(r.setrange('n1',4,'abc'))             # 10
        print(r.get('n1'))                          # b'0123abc789'
        print(r.setrange('n1',4,'abcdefghkli'))    # 15
        print(r.get('n1'))                          # b'0123abcdefghkli'
setchange

8、求长:strlen(name)

说明:1个汉字按三个字节

# 长度
        r.set('user','dongxuew冬雪')
        print(r.strlen('user')) # 14 ,一个汉字三个字节
strlen

9、自增、自减

整数操作:

incr(name,amount=1),默认自加一,通过amount可以设置自增数值,数值为负时自减

decr(name,amount=1),默认自减一,通过amount可以设置自减数值,数值为负时自增

小数操作:

incrbyfloat(name,amount=1.0),可以进行小数的增减操作,通过amount控制,

        # 自增、自减
        r.set('num','10')

        r.incr('num',)          # 默认加一
        print(r.get('num'))     # b'11'
        r.incr('num',amount=5)
        print(r.get('num'))     # b'16'
        r.incr('num',amount=-3)
        print(r.get('num'))     # b'13'

        r.decr('num',)          # 默认减一
        print(r.get('num'))     # b'12'
        r.decr('num',amount=5)
        print(r.get('num'))     # b'7'
        r.decr('num',amount=-3)
        print(r.get('num'))     # b'10'

        r.incrbyfloat('num',)    # 小数操作自增自减
        print(r.get('num'))     # b'11'
        r.incrbyfloat('num',amount=5.2)
        print(r.get('num'))     # b'16.199999999999999'
        r.incrbyfloat('num',amount=-3.6)
        print(r.get('num'))     # b'12.6'
自增、自减

10、追加:append(name,value)

 当name存在时,在name原本值的后面添加value;当name不存在时,新建新的键值对name=value,此时相当于set,

# 字符串追加
        r.set('key','liushui',)
        print(r.get('key'))         # b'liushui'
        r.append('key','147852')
        print(r.get('key'))         # b'liushui147852'
append

(二) 进行页面缓存

1、获取self.render()中返回的页面信息

self.render——self.finish()——self.write(),其中chunk表示的就是待返回页面的字符串,使用自定义变量记录下来,

2、在self.render()之后,将获取到的页面信息写入radis缓存,根据实际情况设置有效时间,

3、每次请求页面时,首先检查缓存中是否有页面信息,如果有直接返回,如果没有重新请求获取,

class IndexHandler(BaseHandler):
    def get(self,page=0):
        # 查看缓存内是否有页面信息
        index_html = r.get('index')
        if index_html:
            self.write(index_html)
            return

        # 获取当前用户信息
        is_login = self.session['is_login']
        user_info = self.session['user'] if self.session['user'] else {'user_id':0,'user':''}

        # 从数据库提取全部新闻信息
        news_list = NewsInfo().getNews(user_info['user_id'])

        # 关于分页显示
        page_obj = Pagination(page,len(news_list),OnePageNews)
        current_list = news_list[page_obj.start:page_obj.end]
        str_pageCtrl = page_obj.pageCtrl('/index/')

        # 将cookie信息和新闻列表,传给模板引擎,在html中进行渲染
        self.render('home/index.html',is_login = is_login,user_info = user_info,newsList = current_list,current_page = page_obj.currentPage,pageCtrl = str_pageCtrl,test=time.time())
        
        # 将页面信息写入缓存redis
        r.set('index',self._RequestHandler__response_html,ex=10)
redis_html

上面的操作,可以使用装饰器进行优化:

from config import r

# 使用redis实现的页面缓存cache:
def cache(func):
    def inner(self,*args,**kwargs):
        # 查看缓存内是否有页面信息
        index_html = r.get('index')
        if index_html:
            self.write(index_html)
            return

        func(self,*args,**kwargs)

        # 将页面信息写入缓存redis
        r.set('index',self._RequestHandler__response_html,ex=10)
    return inner
redis_html
#!/usr/bin/env python
# -*- coding:utf-8 -*-

from datas.oper.news.news_info import NewsInfo
from ui_modules.session.sessionFactory import BaseHandler
from ui_modules.pagination import Pagination
from config import OnePageNews
import time
from ui_modules.decrator_redis_html import cache

# 访问首页

class IndexHandler(BaseHandler):
    @cache
    def get(self,page=0):
        # 获取当前用户信息
        is_login = self.session['is_login']
        user_info = self.session['user'] if self.session['user'] else {'user_id':0,'user':''}

        # 从数据库提取全部新闻信息
        news_list = NewsInfo().getNews(user_info['user_id'])

        # 关于分页显示
        page_obj = Pagination(page,len(news_list),OnePageNews)
        current_list = news_list[page_obj.start:page_obj.end]
        str_pageCtrl = page_obj.pageCtrl('/index/')

        # 将cookie信息和新闻列表,传给模板引擎,在html中进行渲染
        self.render('home/index.html',is_login = is_login,user_info = user_info,newsList = current_list,current_page = page_obj.currentPage,pageCtrl = str_pageCtrl,test=time.time())
index_with_redis_html

 另外,使用memcached的方式,也可以做页面保存,原理相同,

还可以使用文件保存的方式,进行缓存,