Django之缓存及Python操作Memcached、Redis

目录：

　　redis

缓存

由于Django是动态网站，所有每次请求均会去数据进行相应的操作，当程序访问量大时，耗时必然会更加明显，最简单解决方式是使用：缓存，缓存将一个某个views的返回值保存至内存或者memcache中，5分钟内再有人来访问时，则不再去执行view中的操作，而是直接从内存或者Redis中之前缓存的内容拿到，并返回。

Django中提供了6种缓存方式：

开发调试
内存
文件
数据库
Memcache缓存（python-memcached模块）
Memcache缓存（pylibmc模块）

1、配置

a、开发调试

 1 # 此为开始调试用，实际内部不做任何操作
 2     # 配置：
 3         CACHES = {
 4             'default': {
 5                 'BACKEND': 'django.core.cache.backends.dummy.DummyCache',     # 引擎
 6                 'TIMEOUT': 300,                                               # 缓存超时时间（默认300，None表示永不过期，0表示立即过期）
 7                 'OPTIONS':{
 8                     'MAX_ENTRIES': 300,                                       # 最大缓存个数（默认300）
 9                     'CULL_FREQUENCY': 3,                                      # 缓存到达最大个数之后，剔除缓存个数的比例，即：1/CULL_FREQUENCY（默认3）
10                 },
11                 'KEY_PREFIX': '',                                             # 缓存key的前缀（默认空）
12                 'VERSION': 1,                                                 # 缓存key的版本（默认1）
13                 'KEY_FUNCTION' 函数名                                          # 生成key的函数（默认函数会生成为：【前缀:版本:key】）
14             }
15         }
16 
17 
18     # 自定义key
19     def default_key_func(key, key_prefix, version):
20         """
21         Default function to generate keys.
22 
23         Constructs the key used by all other methods. By default it prepends
24         the `key_prefix'. KEY_FUNCTION can be used to specify an alternate
25         function with custom key making behavior.
26         """
27         return '%s:%s:%s' % (key_prefix, version, key)
28 
29     def get_key_func(key_func):
30         """
31         Function to decide which key function to use.
32 
33         Defaults to ``default_key_func``.
34         """
35         if key_func is not None:
36             if callable(key_func):
37                 return key_func
38             else:
39                 return import_string(key_func)
40         return default_key_func

View Code

b、内存

 1 # 此缓存将内容保存至内存的变量中
 2     # 配置：
 3         CACHES = {
 4             'default': {
 5                 'BACKEND': 'django.core.cache.backends.locmem.LocMemCache',
 6                 'LOCATION': 'unique-snowflake',
 7             }
 8         }
 9 
10     # 注：其他配置同开发调试版本

View Code

c、文件

 1 # 此缓存将内容保存至文件
 2     # 配置：
 3 
 4         CACHES = {
 5             'default': {
 6                 'BACKEND': 'django.core.cache.backends.filebased.FileBasedCache',
 7                 'LOCATION': '/var/tmp/django_cache',
 8             }
 9         }
10     # 注：其他配置同开发调试版本

View Code

d、数据库

 1 # 此缓存将内容保存至数据库
 2 
 3     # 配置：
 4         CACHES = {
 5             'default': {
 6                 'BACKEND': 'django.core.cache.backends.db.DatabaseCache',
 7                 'LOCATION': 'my_cache_table', # 数据库表
 8             }
 9         }
10 
11     # 注：执行创建表命令 python manage.py createcachetable

View Code

e、Memcache缓存（python-memcached模块）

 1 # 此缓存使用python-memcached模块连接memcache
 2 
 3     CACHES = {
 4         'default': {
 5             'BACKEND': 'django.core.cache.backends.memcached.MemcachedCache',
 6             'LOCATION': '127.0.0.1:11211',
 7         }
 8     }
 9 
10     CACHES = {
11         'default': {
12             'BACKEND': 'django.core.cache.backends.memcached.MemcachedCache',
13             'LOCATION': 'unix:/tmp/memcached.sock',
14         }
15     }   
16 
17     CACHES = {
18         'default': {
19             'BACKEND': 'django.core.cache.backends.memcached.MemcachedCache',
20             'LOCATION': [
21                 '172.19.26.240:11211',
22                 '172.19.26.242:11211',
23             ]
24         }
25     }

View Code

f、Memcache缓存（pylibmc模块）

 1 # 此缓存使用pylibmc模块连接memcache
 2     
 3     CACHES = {
 4         'default': {
 5             'BACKEND': 'django.core.cache.backends.memcached.PyLibMCCache',
 6             'LOCATION': '127.0.0.1:11211',
 7         }
 8     }
 9 
10     CACHES = {
11         'default': {
12             'BACKEND': 'django.core.cache.backends.memcached.PyLibMCCache',
13             'LOCATION': '/tmp/memcached.sock',
14         }
15     }   
16 
17     CACHES = {
18         'default': {
19             'BACKEND': 'django.core.cache.backends.memcached.PyLibMCCache',
20             'LOCATION': [
21                 '172.19.26.240:11211',
22                 '172.19.26.242:11211',
23             ]
24         }
25     }

View Code

g. Redis缓存（依赖：pip3 install django-redis）

 1 CACHES = {
 2     "default": {
 3         "BACKEND": "django_redis.cache.RedisCache",
 4         "LOCATION": "redis://127.0.0.1:6379",
 5         "OPTIONS": {
 6             "CLIENT_CLASS": "django_redis.client.DefaultClient",
 7             "CONNECTION_POOL_KWARGS": {"max_connections": 100}
 8             # "PASSWORD": "密码",
 9         }
10     }
11 }

View Code

from django_redis import get_redis_connection
conn = get_redis_connection("default")

视图中链接并操作

2、应用

使用方式：
from django.core.cache import cache
cache.set(key, value, 缓存时长)
cache.get(key)




示例：

api/utils/auth.py

from rest_framework.authentication import BaseAuthentication
from rest_framework.exceptions import APIException
from django.core.cache import cache
import datetime
import pytz

from api.models import Token


class LoginAuth(BaseAuthentication):
    def authenticate(self, request):
        token = request.META.get("HTTP_AUTHORIZATION")

        # 校验是否存在token字符串
        # 缓存校验
        user = cache.get(token)
        if user:
            # print(user, token)
            return user, token

        # 数据库校验
        token_obj = Token.objects.filter(key=token).first()
        if not token_obj:
            raise APIException('认证失败')

        # 校验是否在有效期内
        token_created_time = token_obj.created
        now = datetime.datetime.now()
        now = now.replace(tzinfo=pytz.timezone('UTC'))
        delta = now - token_created_time
        state = delta < datetime.timedelta(weeks=2)

        if state:
            # 校验成功，写入缓存中
            delta = datetime.timedelta(weeks=2) - delta
            delta = delta.total_seconds()  # 转化为时间戳格式
            cache.set(token_obj.key, token_obj.user, min(delta, 3600*24*7))  # 通过min控制缓存时间不超过7天
            return token_obj.user, token_obj.key
        else:
            raise APIException('认证超时')

缓存的简单使用示例

a. 全站使用

 1 使用中间件，经过一系列的认证等操作，如果内容在缓存中存在，则使用FetchFromCacheMiddleware获取内容并返回给用户，当返回给用户之前，判断缓存中是否已经存在，如果不存在则UpdateCacheMiddleware会将缓存保存至缓存，从而实现全站缓存
 2 
 3     MIDDLEWARE = [
 4         'django.middleware.cache.UpdateCacheMiddleware',
 5         # 其他中间件...
 6         'django.middleware.cache.FetchFromCacheMiddleware',
 7     ]
 8 
 9     CACHE_MIDDLEWARE_ALIAS = ""
10     CACHE_MIDDLEWARE_SECONDS = ""
11     CACHE_MIDDLEWARE_KEY_PREFIX = ""

View Code

b. 单独视图缓存

 1 方式一：
 2         from django.views.decorators.cache import cache_page
 3 
 4         @cache_page(60 * 15)
 5         def my_view(request):
 6             ...
 7 
 8     方式二：
 9         from django.views.decorators.cache import cache_page
10 
11         urlpatterns = [
12             url(r'^foo/([0-9]{1,2})/$', cache_page(60 * 15)(my_view)),
13         ]

View Code

c、局部视图使用

1 a. 引入TemplateTag
2 
3         {% load cache %}
4 
5     b. 使用缓存
6 
7         {% cache 5000 缓存key %}
8             缓存内容
9         {% endcache %}

View Code

Memcached

Memcached 是一个高性能的分布式内存对象缓存系统，用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象来减少读取数据库的次数，从而提高动态、数据库驱动网站的速度。Memcached基于一个存储键/值对的hashmap。其守护进程（daemon ）是用C写的，但是客户端可以用任何语言来编写，并通过memcached协议与守护进程通信。

Memcached安装和基本使用

Memcached安装：

wget http://memcached.org/latest
tar -zxvf memcached-1.x.x.tar.gz
cd memcached-1.x.x
./configure && make && make test && sudo make install
 
PS：依赖libevent
       yum install libevent-devel
       apt-get install libevent-dev

启动Memcached

memcached -d -m 10    -u root -l 10.211.55.4 -p 12000 -c 256 -P /tmp/memcached.pid
 
参数说明:
    -d 是启动一个守护进程
    -m 是分配给Memcache使用的内存数量，单位是MB
    -u 是运行Memcache的用户
    -l 是监听的服务器IP地址
    -p 是设置Memcache监听的端口,最好是1024以上的端口
    -c 选项是最大运行的并发连接数，默认是1024，按照你服务器的负载量来设定
    -P 是设置保存Memcache的pid文件

Memcached命令

存储命令: set/add/replace/append/prepend/cas
获取命令: get/gets
其他命令: delete/stats..

Python操作Memcached

安装API

python操作Memcached使用Python-memcached模块
下载安装：https://pypi.python.org/pypi/python-memcached

1、第一次操作

import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
mc.set("foo", "bar")
ret = mc.get('foo')
print ret

Ps：debug = True 表示运行出现错误时，现实错误信息，上线后移除该参数。

2、天生支持集群

python-memcached模块原生支持集群操作，其原理是在内存维护一个主机列表，且集群中主机的权重值和主机在列表中重复出现的次数成正比

     主机    权重
    1.1.1.1   1
    1.1.1.2   2
    1.1.1.3   1
 
那么在内存中主机列表为：
    host_list = ["1.1.1.1", "1.1.1.2", "1.1.1.2", "1.1.1.3", ]

如果用户根据如果要在内存中创建一个键值对（如：k1 = "v1"），那么要执行一下步骤：

根据算法将 k1 转换成一个数字
将数字和主机列表长度求余数，得到一个值 N（ 0 <= N < 列表长度）
在主机列表中根据第2步得到的值为索引获取主机，例如：host_list[N]
连接将第3步中获取的主机，将 k1 = "v1" 放置在该服务器的内存中

代码实现如下：

mc = memcache.Client([('1.1.1.1:12000', 1), ('1.1.1.2:12000', 2), ('1.1.1.3:12000', 1)], debug=True)
 
mc.set('k1', 'v1')

3、add
添加一条键值对，如果已经存在的 key，重复执行add操作异常

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
mc.add('k1', 'v1')
# mc.add('k1', 'v2') # 报错，对已经存在的key重复添加，失败！！！

4、replace
replace 修改某个key的值，如果key不存在，则异常

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
# 如果memcache中存在kkkk，则替换成功，否则一场
mc.replace('kkkk','999')

5、set 和 set_multi

set 设置一个键值对，如果key不存在，则创建，如果key存在，则修改
set_multi 设置多个键值对，如果key不存在，则创建，如果key存在，则修改

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
 
mc.set('key0', 'wupeiqi')
 
mc.set_multi({'key1': 'val1', 'key2': 'val2'})

6、delete 和 delete_multi

delete 在Memcached中删除指定的一个键值对
delete_multi 在Memcached中删除指定的多个键值对

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
 
mc.delete('key0')
mc.delete_multi(['key1', 'key2'])

7、get 和 get_multi

get 获取一个键值对
get_multi 获取多一个键值对

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
 
val = mc.get('key0')
item_dict = mc.get_multi(["key1", "key2", "key3"])

8、append 和 prepend

append 修改指定key的值，在该值后面追加内容
prepend 修改指定key的值，在该值前面插入内容

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
# k1 = "v1"
 
mc.append('k1', 'after')
# k1 = "v1after"
 
mc.prepend('k1', 'before')
# k1 = "beforev1after"

9、decr 和 incr　　

incr 自增，将Memcached中的某一个值增加 N （ N默认为1 ）
decr 自减，将Memcached中的某一个值减少 N （ N默认为1 ）

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
 
mc = memcache.Client(['10.211.55.4:12000'], debug=True)
mc.set('k1', '777')
 
mc.incr('k1')
# k1 = 778
 
mc.incr('k1', 10)
# k1 = 788
 
mc.decr('k1')
# k1 = 787
 
mc.decr('k1', 10)
# k1 = 777

10、gets 和 cas

如商城商品剩余个数，假设改值保存在memcache中，product_count = 900
A用户刷新页面从memcache中读取到product_count = 900
B用户刷新页面从memcache中读取到product_count = 900

如果A、B用户均购买商品

A用户修改商品剩余个数 product_count＝899
B用户修改商品剩余个数 product_count＝899

如此一来缓存内的数据便不在正确，两个用户购买商品后，商品剩余还是 899
如果使用python的set和get来操作以上过程，那么程序就会如上述所示情况！

如果想要避免此情况的发生，只要使用 gets 和 cas 即可，如：

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import memcache
mc = memcache.Client(['10.211.55.4:12000'], debug=True, cache_cas=True)
 
v = mc.gets('product_count')
# ...
# 如果有人在gets之后和cas之前修改了product_count，那么，下面的设置将会执行失败，剖出异常，从而避免非正常数据的产生
mc.cas('product_count', "899")

Ps：本质上每次执行gets时，会从memcache中获取一个自增的数字，通过cas去修改gets的值时，会携带之前获取的自增值和memcache中的自增值进行比较，如果相等，则可以提交，如果不想等，那表示在gets和cas执行之间，又有其他人执行了gets（获取了缓冲的指定值），如此一来有可能出现非正常数据，则不允许修改。

Memcached 真的过时了吗？

Redis

str字符串操作

设置键值：set key value    如：set name alex
批量设置键值： mset key1 value1 key2 value2 key3 value3
设置键值及过期时间： set key value EX time   如：set name alex 60
给已存在的键值设置过期时间： expire key time    如：expire name 60
取值：get key     如：get name
批量取值： mget key1 key2 key3
获取值的长度：strlen key     如： strlen name    # 4
查看过期时间： ttl key     如：ttl name
查看所有键： keys *





list链表操作

在链表左边添加元素： lpush key value       如：lpush websites baidu
在链表右边添加元素： rpush key value       如：rpush websites google
查看链表中的元素： lrange key start stop    如：lrange websites 0 -1
移除链表中的元素
        1. 移除并返回链表key的头元素       lpop key
        2. 移除并返回链表key的尾元素       rpop key
        3. 移除并返回链表key的中间元素    lrem key count value    移除值为value的元素，count是几就移除几个，负数则从尾部往前移除count个，count=0则移除所有值为value的元素，
指定返回第几个元素： lindex key index     如： lindex websites 1
获取列表中的元素的个数： llen key      如： llen websites






set集合操作

添加元素： sadd key value1 value2 ...     如： sadd team alex eric
查看元素： smembers key      如： smembers team
移除元素： srem key value1 value2 ...     如： srem team alex eric
查看集合中的元素个数： scard key      如： scard team
获取多个集合的交集 ：   sinter key1 key2       如： sinter team1 team2
获取多个集合的并集 ：   sunion key1 key2       如： sunion team1 team2
获取多个集合的差集 ：   sdiff key1 key2       如： sdiff team1 team2







hash哈希操作

添加一个新值： hset key field value    如：hset dict1 name alex
批量添加新值： hmset key field1 value1 field2 value2    如： hmset dict1 name alex age 22
获取hash中field对应的值： hget key field    如：hget dict1 name
删除hash中的某个field： hdel key field      如： hdel dict1 name
获取某个hash中所有的field和value： hgetall key     如： hgetall dict1
获取某个hash中所有的field： hkeys key    如： hkeys dict1
获取某个hash中所有的value： hvals key    如： hvals dict1
判断hash中是否存在某个field： hexists key field      如： hexists dict1 name
获取hash中的键值对的个数： hlen key       如： hlen dict1

Redis commands

redis是一个key-value存储系统。和Memcached类似，它支持存储的value类型相对更多，包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash（哈希类型）。这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作，而且这些操作都是原子性的。在此基础上，redis支持各种不同方式的排序。与memcached一样，为了保证效率，数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件，并且在此基础上实现了master-slave(主从)同步。

   redis是一个非关系型(No-Sql)数据库，
   对比memcache的共同点：
       1 redis是缓存到内存中
       2 属于key-value
    
    不同点：
       1 redis可以做持久化(将数据保存磁盘上)
       2 支持更丰富的数据类型 ,value可以字符串，链表，哈希
            
            "k1":"v1",
            "k2":[1,2,3],
            "k3":{"name":"alex","age":122},
            "k4":{1,"hello",222}

View Code

1. 使用Redis有哪些好处？

(1) 速度快，因为数据存在内存中，类似于HashMap，HashMap的优势就是查找和操作的时间复杂度都是O(1)

(2) 支持丰富数据类型，支持string，list，set，sorted set，hash

(3) 支持事务，操作都是原子性，所谓的原子性就是对数据的更改要么全部执行，要么全部不执行

(4) 丰富的特性：可用于缓存，消息，按key设置过期时间，过期后将会自动删除


2. redis相比memcached有哪些优势？

(1) memcached所有的值均是简单的字符串，redis作为其替代者，支持更为丰富的数据类型

(2) redis的速度比memcached快很多

(3) redis可以持久化其数据


3. redis常见性能问题和解决方案：

(1) Master最好不要做任何持久化工作，如RDB内存快照和AOF日志文件

(2) 如果数据比较重要，某个Slave开启AOF备份数据，策略设置为每秒同步一次

(3) 为了主从复制的速度和连接的稳定性，Master和Slave最好在同一个局域网内

(4) 尽量避免在压力很大的主库上增加从库

(5) 主从复制不要用图状结构，用单向链表结构更为稳定，即：Master <- Slave1 <- Slave2 <- Slave3...

这样的结构方便解决单点故障问题，实现Slave对Master的替换。如果Master挂了，可以立刻启用Slave1做Master，其他不变。



 

4. MySQL里有2000w数据，redis中只存20w的数据，如何保证redis中的数据都是热点数据

 相关知识：redis 内存数据集大小上升到一定大小的时候，就会施行数据淘汰策略。redis 提供 6种数据淘汰策略：

voltile-lru：从已设置过期时间的数据集（server.db[i].expires）中挑选最近最少使用的数据淘汰

volatile-ttl：从已设置过期时间的数据集（server.db[i].expires）中挑选将要过期的数据淘汰

volatile-random：从已设置过期时间的数据集（server.db[i].expires）中任意选择数据淘汰

allkeys-lru：从数据集（server.db[i].dict）中挑选最近最少使用的数据淘汰

allkeys-random：从数据集（server.db[i].dict）中任意选择数据淘汰

no-enviction（驱逐）：禁止驱逐数据

 

5. Memcache与Redis的区别都有哪些？

1)、存储方式

Memecache把数据全部存在内存之中，断电后会挂掉，数据不能超过内存大小。

Redis有部份存在硬盘上，这样能保证数据的持久性。

2)、数据支持类型

Memcache对数据类型支持相对简单。

Redis有复杂的数据类型。


3），value大小

redis最大可以达到1GB，而memcache只有1MB



6. Redis 常见的性能问题都有哪些？如何解决？

 

1).Master写内存快照，save命令调度rdbSave函数，会阻塞主线程的工作，当快照比较大时对性能影响是非常大的，会间断性暂停服务，所以Master最好不要写内存快照。


2).Master AOF持久化，如果不重写AOF文件，这个持久化方式对性能的影响是最小的，但是AOF文件会不断增大，AOF文件过大会影响Master重启的恢复速度。Master最好不要做任何持久化工作，包括内存快照和AOF日志文件，特别是不要启用内存快照做持久化,如果数据比较关键，某个Slave开启AOF备份数据，策略为每秒同步一次。

 
3).Master调用BGREWRITEAOF重写AOF文件，AOF在重写的时候会占大量的CPU和内存资源，导致服务load过高，出现短暂服务暂停现象。

4). Redis主从复制的性能问题，为了主从复制的速度和连接的稳定性，Slave和Master最好在同一个局域网内




7, redis 最适合的场景


Redis最适合所有数据in-momory的场景，虽然Redis也提供持久化功能，但实际更多的是一个disk-backed的功能，跟传统意义上的持久化有比较大的差别，那么可能大家就会有疑问，似乎Redis更像一个加强版的Memcached，那么何时使用Memcached,何时使用Redis呢?

       如果简单地比较Redis与Memcached的区别，大多数都会得到以下观点：
、Redis不仅仅支持简单的k/v类型的数据，同时还提供list，set，zset，hash等数据结构的存储。
、Redis支持数据的备份，即master-slave模式的数据备份。
、Redis支持数据的持久化，可以将内存中的数据保持在磁盘中，重启的时候可以再次加载进行使用。

（1）、会话缓存（Session Cache）

最常用的一种使用Redis的情景是会话缓存（session cache）。用Redis缓存会话比其他存储（如Memcached）的优势在于：Redis提供持久化。当维护一个不是严格要求一致性的缓存时，如果用户的购物车信息全部丢失，大部分人都会不高兴的，现在，他们还会这样吗？

幸运的是，随着 Redis 这些年的改进，很容易找到怎么恰当的使用Redis来缓存会话的文档。甚至广为人知的商业平台Magento也提供Redis的插件。

（2）、全页缓存（FPC）

除基本的会话token之外，Redis还提供很简便的FPC平台。回到一致性问题，即使重启了Redis实例，因为有磁盘的持久化，用户也不会看到页面加载速度的下降，这是一个极大改进，类似PHP本地FPC。

再次以Magento为例，Magento提供一个插件来使用Redis作为全页缓存后端。

此外，对WordPress的用户来说，Pantheon有一个非常好的插件  wp-redis，这个插件能帮助你以最快速度加载你曾浏览过的页面。

（3）、队列

Reids在内存存储引擎领域的一大优点是提供 list 和 set 操作，这使得Redis能作为一个很好的消息队列平台来使用。Redis作为队列使用的操作，就类似于本地程序语言（如Python）对 list 的 push/pop 操作。

如果你快速的在Google中搜索“Redis queues”，你马上就能找到大量的开源项目，这些项目的目的就是利用Redis创建非常好的后端工具，以满足各种队列需求。例如，Celery有一个后台就是使用Redis作为broker，你可以从这里去查看。

（4），排行榜/计数器

Redis在内存中对数字进行递增或递减的操作实现的非常好。集合（Set）和有序集合（Sorted Set）也使得我们在执行这些操作的时候变的非常简单，Redis只是正好提供了这两种数据结构。所以，我们要从排序集合中获取到排名最靠前的10个用户–我们称之为“user_scores”，我们只需要像下面一样执行即可：

当然，这是假定你是根据你用户的分数做递增的排序。如果你想返回用户及用户的分数，你需要这样执行：

ZRANGE user_scores 0 10 WITHSCORES

Agora Games就是一个很好的例子，用Ruby实现的，它的排行榜就是使用Redis来存储数据的，你可以在这里看到。

（5）、发布/订阅

最后（但肯定不是最不重要的）是Redis的发布/订阅功能。发布/订阅的使用场景确实非常多。我已看见人们在社交网络连接中使用，还可作为基于发布/订阅的脚本触发器，甚至用Redis的发布/订阅功能来建立聊天系统！（不，这是真的，你可以去核实）。

Redis提供的所有特性中，我感觉这个是喜欢的人最少的一个，虽然它为用户提供如果此多功能。

View Code

一、Redis安装和基本使用

Redis 安装

Window 下安装

下载地址：https://github.com/MSOpenTech/redis/releases。

Redis 支持 32 位和 64 位。这个需要根据你系统平台的实际情况选择，这里我们下载 Redis-x64-xxx.zip压缩包到 C 盘，解压后，将文件夹重新命名为 redis。

打开文件夹，内容如下：

打开一个 cmd 窗口使用 cd 命令切换目录到 C:\redis 运行：

redis-server.exe redis.windows.conf

如果想方便的话，可以把 redis 的路径加到系统的环境变量里，这样就省得再输路径了，后面的那个 redis.windows.conf 可以省略，如果省略，会启用默认的。输入之后，会显示如下界面：

这时候另启一个 cmd 窗口，原来的不要关闭，不然就无法访问服务端了。

切换到 redis 目录下运行:

redis-cli.exe -h 127.0.0.1 -p 6379

设置键值对:

set myKey abc

取出键值对:

get myKey

Linux 下安装

下载地址：http://redis.io/download，下载最新稳定版本。

本教程使用的最新文档版本为 2.8.17，下载并安装：

$ wget http://download.redis.io/releases/redis-2.8.17.tar.gz
$ tar xzf redis-2.8.17.tar.gz
$ cd redis-2.8.17
$ make

make完后 redis-2.8.17目录下会出现编译后的redis服务程序redis-server,还有用于测试的客户端程序redis-cli,两个程序位于安装目录 src 目录下：

下面启动redis服务.

$ cd src
$ ./redis-server

注意这种方式启动redis 使用的是默认配置。也可以通过启动参数告诉redis使用指定配置文件使用下面命令启动。

$ cd src
$ ./redis-server ../redis.conf

redis.conf 是一个默认的配置文件。我们可以根据需要使用自己的配置文件。

启动redis服务进程后，就可以使用测试客户端程序redis-cli和redis服务交互了。比如：

$ cd src
$ ./redis-cli
redis> set foo bar
OK
redis> get foo
"bar"

Ubuntu 下安装

在 Ubuntu 系统安装 Redis 可以使用以下命令:

$sudo apt-get update
$sudo apt-get install redis-server

启动 Redis

$ redis-server

查看 redis 是否启动？

$ redis-cli

以上命令将打开以下终端：

redis 127.0.0.1:6379>

127.0.0.1 是本机 IP ，6379 是 redis 服务端口。现在我们输入 PING 命令。

redis 127.0.0.1:6379> ping
PONG

以上说明我们已经成功安装了redis

wget http://download.redis.io/releases/redis-3.0.6.tar.gz
tar xzf redis-3.0.6.tar.gz
cd redis-3.0.6
make

启动服务端

src/redis-server

启动客户端

src/redis-cli
redis> set foo bar
OK
redis> get foo
"bar"

二、Python操作Redis

sudo pip install redis
or
sudo easy_install redis
or
源码安装
 
详见：https://github.com/WoLpH/redis-py

API使用

redis-py 的API的使用可以分类为：

连接方式
连接池
操作
- String 操作
- Hash 操作
- List 操作
- Set 操作
- Sort Set 操作
管道
发布订阅

1、操作模式

redis-py提供两个类Redis和StrictRedis用于实现Redis的命令，StrictRedis用于实现大部分官方的命令，并使用官方的语法和命令，Redis是StrictRedis的子类，用于向后兼容旧版本的redis-py。

#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
import redis
 
r = redis.Redis(host='10.211.55.4', port=6379)
r.set('foo', 'Bar')
print r.get('foo')

2、连接池

redis-py使用connection pool来管理对一个redis server的所有连接，避免每次建立、释放连接的开销。默认，每个Redis实例都会维护一个自己的连接池。可以直接建立一个连接池，然后作为参数Redis，这样就可以实现多个Redis实例共享一个连接池。

#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
import redis
 
pool = redis.ConnectionPool(host='10.211.55.4', port=6379)
 
r = redis.Redis(connection_pool=pool)
r.set('foo', 'Bar')
print r.get('foo')

3、操作

import redis

# 连接方式一
# r = redis.Redis()

# 连接方式二
pool = redis.ConnectionPool()
r = redis.Redis(connection_pool=pool)

# pool = redis.ConnectionPool(decode_responses=True)  # 设置decode_responses=True后得到的不再是字节，而是字符串
# r = redis.Redis(connection_pool=pool)


# redis 总体操作


# 1.delete(*names)  (根据键删除redis中的任意数据类型)
# r.delete('name')  # 删除name键值对,删除多个用 *列表
# print(r.exists('name'))  # False

# r.delete(*r.keys())  # 删库所有键值对,若已被清空，再执行该操作会报错
# print(r.keys())  # []


# 2.exists(name)  (检测redis的name是否存在)
# print(r.exists('name'))  # False


# 3.keys(pattern='*')  (根据模型获取redis的name)
# 更多：
#     KEYS * 匹配数据库中所有 key 。
#     KEYS h?llo 匹配 hello ， hallo 和 hxllo 等。
#     KEYS h*llo 匹配 hllo 和 heeeeello 等。
#     KEYS h[ae]llo 匹配 hello 和 hallo ，但不匹配 hillo
# print(r.keys())  # []
# print(r.keys('name*'))


# 4.expire(name, time)  (为某个redis的某个name设置超时时间)
# r.expire('name', 5)  # 5秒后name键值对就不存在了
# print(r.exists('name'))  # False


# 5.rename(src, dst)  ( 对redis的name重命名)


# 6.type(name)  (获取name对应值的类型)

redis 连接方式及总体操作

# redis的string操作


import redis

# 连接方式一
# r = redis.Redis()

# 连接方式二
pool = redis.ConnectionPool()
r = redis.Redis(connection_pool=pool)

# pool = redis.ConnectionPool(decode_responses=True)  # 设置decode_responses=True后得到的不再是字节，而是字符串
# r = redis.Redis(connection_pool=pool)



# 1.set(key, value, ex=None, px=None, nx=False, xx=False) (在Redis中设置值，默认，不存在则创建，存在则修改)
# 参数：
#      ex，过期时间（秒）
#      px，过期时间（毫秒）
#      nx，如果设置为True，则只有name不存在时，当前set操作才执行
#      xx，如果设置为True，则只有name存在时，岗前set操作才执行
# r.set('name', 'alex')
# print(r.get('name'))  # b'alex'

# r.set('name', 'eric', 10)  # 缓存时效为10秒
# print(r.get('name'))  # 10秒后取不到, None


# 2.setnx(key, value) (设置值，只有key不存在时，执行设置操作（添加）)
# r.setnx('name', 'eva')
# print(r.get('name'))  # b'eva'


# 3.mset(*args, **kwargs)  (批量设置值)
# r.mset(k1='v1', k2='v2')
# r.mset({'k1': 'v1', 'k2': 'v2'})


# 4.mget(keys, *args)  (批量获取值)
# print(r.mget(['k1', 'k2']))  # [b'v1', b'v2']


# 5.getset(key, value)  (设置新值并获取原来的值)
# print(r.getset('age', 'alvin'))  # 获取到None，并给age设置了值alvin；下一次取age的值就会得到alvin


# 6.getrange(key, start, end)  (获取子序列（根据字节获取，非字符）,相当于切片)
# 参数：
#     key，Redis 的 key
#     start，起始位置（字节）
#     end，结束位置（字节）
# r.getrange('age', 1, 4)  # b'lvin'


# 7.setrange(name, offset, value)  (修改字符串内容，从指定字符串索引开始向后替换（新值太长时，则向后添加）)
# 参数：
#     offset，字符串的索引，字节（一个汉字三个字节）
#     value，要设置的值
# r.set('name', 'alex eric yuan')
# r.setrange('name', 2, '1234')
# print(r.get('name'))  # b'al1234ric yuan'
# r.setrange('name', 8, '5555555555')
# print(r.get('name'))  # b'al1234ri5555555555'


# 8.strlen(key)  (返回key对应值的字节长度（一个汉字3个字节）)
# print(r.strlen('name'))  # 18


# 9.incr(self, key, amount=1)  (自增 key对应的值，当key不存在时，则创建key＝amount，否则，则自增,默认每次自增1，可设置)
# r.set('age', 100)
# print(r.get('age'))  # b'100'
# r.incr('age', )
# print(r.get('age'))  # b'101'
# r.incr('age', 10)
# print(r.get('age'))  # b'111'


# 10.decr(self, name, amount=1)  (自减，用法同自增)


# 11.append(key, value)  （在redis key对应的值后面追加内容，value是要追加的字符串）
# r.set('name', 'alex')
# print(r.get('name'))  # b'alex'
# r.append('name', 'sb')
# print(r.get('name'))  # b'alexsb'

redis的string操作

# redis的List操作


import redis

# 连接方式一
# r = redis.Redis()

# 连接方式二
pool = redis.ConnectionPool()
r = redis.Redis(connection_pool=pool)

# pool = redis.ConnectionPool(decode_responses=True)  # 设置decode_responses=True后得到的不再是字节，而是字符串
# r = redis.Redis(connection_pool=pool)





# 1.lpush(name,values)  (在name对应的list中添加元素，每个新的元素都添加到列表的最左边)
# r.lpush('gf', 'abc2', 'bcd')
# print(r.lrange('gf', 0, -1))  # [b'bcd', b'abc']


# 2.lpushx(name,value)  (在name对应的list中添加元素，只有name已经存在时，值添加到列表的最左边)
# r.lpush('gf', 'abc2', 'bcd')
# print(r.lrange('gf', 0, -1))  # [b'bcd', b'abc2', b'bcd', b'abc']


# 3.llen(name)  (name对应的list元素的个数)
# print(r.llen('gf'))  # 4


# 4.linsert(name, where, refvalue, value))  (在name对应的列表的某一个值前或后插入一个新值)
# 参数：
#     name，redis的name
#     where，BEFORE或AFTER
#     refvalue，标杆值，即：在它前后插入数据
#     value，要插入的数据
# r.linsert('gf', 'after', 'bcd', 'alex')
# print(r.lrange('gf', 0, -1))  # [b'bcd', b'alex', b'abc2', b'bcd', b'abc']


# 5.lset(name, index, value)  (对name对应的list中的某一个索引位置重新赋值)
# 参数：
#     name，redis的name
#     index，list的索引位置
#     value，要设置的值
# r.lset('gf', 2, 'alvin')
# print(r.lrange('gf', 0, -1))  # [b'bcd', b'alex', b'alvin', b'bcd', b'abc']


# 6.lrem(name, value, num)  (在name对应的list中删除指定的值)
# 参数：
#     name，redis的name
#     value，要删除的值
#     num，  num=0，删除列表中所有的指定值；
#            num=2,从前到后，删除2个；
#            num=-2,从后向前，删除2个
# r.lrem('gf', 'alvin', 1)
# print(r.lrange('gf', 0, -1))  # [b'bcd', b'alex', b'bcd', b'abc']


# 7.lpop(name)  (在name对应的列表的左侧获取第一个元素并在列表中移除，返回值则是第一个元素)
# r.lpop('gf')
# print(r.lrange('gf', 0, -1))  # [b'alex', b'bcd', b'abc']


# 8.lindex(name, index)  (在name对应的列表中根据索引获取列表元素)
# print(r.lindex('gf', 1))  # b'bcd'


# 9.lrange(name, start, end)  (在name对应的列表分片获取数据)
# 参数：
#     name，redis的name
#     start，索引的起始位置
#     end，索引结束位置
# print(r.lrange('gf', 0, -1))  # 获取gf对应链表中的所有元素 [b'alex', b'bcd', b'abc']


# 10.ltrim(name, start, end)  (在name对应的列表中移除没有在start-end索引之间的值)
# r.ltrim('gf', 1, 2)
# print(r.lrange('gf', 0, -1))  # 获取gf对应链表中的所有元素 [b'bcd', b'abc']

redis的List操作

# redis的hash操作


import redis

# 连接方式一
# r = redis.Redis()

# 连接方式二
pool = redis.ConnectionPool()
r = redis.Redis(connection_pool=pool)

# pool = redis.ConnectionPool(decode_responses=True)  # 设置decode_responses=True后得到的不再是字节，而是字符串
# r = redis.Redis(connection_pool=pool)




# 1.hset(name, key, value)  (name对应的hash中设置一个键值对（不存在，则创建；否则，修改）)
# 参数：
#     name，redis的name
#     key，name对应的hash中的key
#     value，name对应的hash中的value
# r.hset('info', 'name', 'alex')
# print(r.hget('info', 'name'))  # b'alex'


# 2.hmset(name, mapping)  (在name对应的hash中批量设置键值对)
# 参数：
#     name，redis的name
#     mapping，字典，如：{'k1':'v1', 'k2': 'v2'}
# r.hmset('egon', {'k1': 'v1', 'k2': 'v2'})
# print(r.hmget('egon', ['k1', 'k2']))  # [b'v1', b'v2']
# print(r.hgetall('egon'))  # {'k1': 'v1', 'k2': 'v2'}

# 注：深层次的字典存储后取出来是字符串格式
# r.hmset('xx', {'m1': {'11': '11'}, 'm2': 'n2'})
# print(r.hgetall('xx'))  # {'m1': "{'11': '11'}", 'm2': 'n2'}

# 解决办法1：自己手动将深层次的字典存成json格式
# import json
# r.hmset('xx', {'m1': json.dumps({'11': '11'}), 'm2': 'n2'})
# print(r.hgetall('xx'))  # {'m1': '{"11": "11"}', 'm2': 'n2'}  # 此时取出来的'{"11": "11"}'就是json字符串了

# 解决方法2：直接将最外层的字典存储成json字符串
# r.set('xx', json.dumps({'m1': {'11': '11'}, 'm2': 'n2'}))
# print(r.get('xx'))


# 3.hget(name,key)  (在name对应的hash中获取根据key获取value)
# print(r.hget('info', 'name'))  # b'alex'


# 4.hmget(name, keys, *args)  (在name对应的hash中获取多个key的值)
# print(r.hmget('egon', ['k1', 'k2']))  # [b'v1', b'v2']


# 5.hgetall(name)  (获取name对应hash的所有键值)
# print(r.hgetall('egon'))  # {'k1': 'v1', 'k2': 'v2'}


# 6.hlen(name)  (获取name对应的hash中键值对的个数)
# print(r.hlen('egon'))  # 2


# 7.hkeys(name)  (获取name对应的hash中所有的key的值)
# print(r.hkeys('egon'))  # [b'k1', b'k2']


# 8.hvals(name)  (获取name对应的hash中所有的value的值)
# print(r.hvals('egon'))  # [b'v1', b'v2']


# 9.hexists(name, key)  (检查name对应的hash是否存在当前传入的key)
# print(r.hexists('egon', 'k1'))  # True
# print(r.hexists('egon', 'm1'))  # False


# 10.hdel(name,*keys)  (将name对应的hash中指定key的键值对删除)
# r.hdel('egon', 'k1')
# print(r.hgetall('egon'))  # {b'k2': b'v2'}

redis的hash操作

String操作，redis中的String在在内存中按照一个name对应一个value来存储。如图：

set(name, value, ex=None, px=None, nx=False, xx=False)

1

2

3

4

5

6

在Redis中设置值，默认，不存在则创建，存在则修改

参数：

     ex，过期时间（秒）

     px，过期时间（毫秒）

     nx，如果设置为True，则只有name不存在时，当前set操作才执行

     xx，如果设置为True，则只有name存在时，岗前set操作才执行

setnx(name, value)

1

设置值，只有name不存在时，执行设置操作（添加）

setex(name, value, time)

1

2

3

# 设置值

# 参数：

    # time，过期时间（数字秒或 timedelta对象）

psetex(name, time_ms, value)

1

2

3

# 设置值

# 参数：

    # time_ms，过期时间（数字毫秒或 timedelta对象）

mset(*args, **kwargs)

1

2

3

4

5

批量设置值

如：

    mset(k1='v1', k2='v2')

    或

    mget({'k1': 'v1', 'k2': 'v2'})

get(name)

1

获取值

mget(keys, *args)

1

2

3

4

5

批量获取

如：

    mget('ylr', 'wupeiqi')

    或

    r.mget(['ylr', 'wupeiqi'])

getset(name, value)

1

设置新值并获取原来的值

getrange(key, start, end)

1

2

3

4

5

6

# 获取子序列（根据字节获取，非字符）

# 参数：

    # name，Redis 的 name

    # start，起始位置（字节）

    # end，结束位置（字节）

# 如： "武沛齐" ，0-3表示 "武"

setrange(name, offset, value)

1

2

3

4

# 修改字符串内容，从指定字符串索引开始向后替换（新值太长时，则向后添加）

# 参数：

    # offset，字符串的索引，字节（一个汉字三个字节）

    # value，要设置的值

setbit(name, offset, value)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

# 对name对应值的二进制表示的位进行操作

# 参数：

    # name，redis的name

    # offset，位的索引（将值变换成二进制后再进行索引）

    # value，值只能是 1 或 0

# 注：如果在Redis中有一个对应： n1 = "foo"，

        那么字符串foo的二进制表示为：01100110 01101111 01101111

    所以，如果执行 setbit('n1', 7, 1)，则就会将第7位设置为1，

        那么最终二进制则变成 01100111 01101111 01101111，即："goo"

# 扩展，转换二进制表示：

    # source = "武沛齐"

    source = "foo"

    for i in source:

        num = ord(i)

        print bin(num).replace('b','')

    特别的，如果source是汉字 "武沛齐"怎么办？

    答：对于utf-8，每一个汉字占 3 个字节，那么 "武沛齐" 则有 9个字节

       对于汉字，for循环时候会按照字节迭代，那么在迭代时，将每一个字节转换十进制数，然后再将十进制数转换成二进制

        11100110 10101101 10100110 11100110 10110010 10011011 11101001 10111101 10010000

        -------------------------- ----------------------------- -----------------------------

                    武                         沛                           齐

getbit(name, offset)

1

# 获取name对应的值的二进制表示中的某位的值（0或1）

bitcount(key, start=None, end=None)

1

2

3

4

5

# 获取name对应的值的二进制表示中 1 的个数

# 参数：

    # key，Redis的name

    # start，位起始位置

    # end，位结束位置

bitop(operation, dest, *keys)

1

2

3

4

5

6

7

8

9

10

# 获取多个值，并将值做位运算，将最后的结果保存至新的name对应的值

# 参数：

    # operation,AND（并）、 OR（或）、 NOT（非）、 XOR（异或）

    # dest, 新的Redis的name

    # *keys,要查找的Redis的name

# 如：

    bitop("AND", 'new_name', 'n1', 'n2', 'n3')

    # 获取Redis中n1,n2,n3对应的值，然后讲所有的值做位运算（求并集），然后将结果保存 new_name 对应的值中

strlen(name)

1

# 返回name对应值的字节长度（一个汉字3个字节）

incr(self, name, amount=1)

1

2

3

4

5

6

7

# 自增 name对应的值，当name不存在时，则创建name＝amount，否则，则自增。

# 参数：

    # name,Redis的name

    # amount,自增数（必须是整数）

# 注：同incrby

incrbyfloat(self, name, amount=1.0)

1

2

3

4

5

# 自增 name对应的值，当name不存在时，则创建name＝amount，否则，则自增。

# 参数：

    # name,Redis的name

    # amount,自增数（浮点型）

decr(self, name, amount=1)

1

2

3

4

5

# 自减 name对应的值，当name不存在时，则创建name＝amount，否则，则自减。

# 参数：

    # name,Redis的name

    # amount,自减数（整数）

append(key, value)

1

2

3

4

5

# 在redis name对应的值后面追加内容

# 参数：

    key, redis的name

    value, 要追加的字符串

　　

Hash操作，redis中Hash在内存中的存储格式如下图：

hset(name, key, value)

1

2

3

4

5

6

7

8

9

# name对应的hash中设置一个键值对（不存在，则创建；否则，修改）

# 参数：

    # name，redis的name

    # key，name对应的hash中的key

    # value，name对应的hash中的value

# 注：

    # hsetnx(name, key, value),当name对应的hash中不存在当前key时则创建（相当于添加）

hmset(name, mapping)

1

2

3

4

5

6

7

8

# 在name对应的hash中批量设置键值对

# 参数：

    # name，redis的name

    # mapping，字典，如：{'k1':'v1', 'k2': 'v2'}

# 如：

    # r.hmset('xx', {'k1':'v1', 'k2': 'v2'})

hget(name,key)

1

# 在name对应的hash中获取根据key获取value

hmget(name, keys, *args)

1

2

3

4

5

6

7

8

9

10

11

# 在name对应的hash中获取多个key的值

# 参数：

    # name，reids对应的name

    # keys，要获取key集合，如：['k1', 'k2', 'k3']

    # *args，要获取的key，如：k1,k2,k3

# 如：

    # r.mget('xx', ['k1', 'k2'])

    # 或

    # print r.hmget('xx', 'k1', 'k2')

hgetall(name)

1

获取name对应hash的所有键值

hlen(name)

1

# 获取name对应的hash中键值对的个数

hkeys(name)

1

# 获取name对应的hash中所有的key的值

hvals(name)

1

# 获取name对应的hash中所有的value的值

hexists(name, key)

1

# 检查name对应的hash是否存在当前传入的key

hdel(name,*keys)

1

# 将name对应的hash中指定key的键值对删除

hincrby(name, key, amount=1)

1

2

3

4

5

# 自增name对应的hash中的指定key的值，不存在则创建key=amount

# 参数：

    # name，redis中的name

    # key， hash对应的key

    # amount，自增数（整数）

hincrbyfloat(name, key, amount=1.0)

1

2

3

4

5

6

7

8

# 自增name对应的hash中的指定key的值，不存在则创建key=amount

# 参数：

    # name，redis中的name

    # key， hash对应的key

    # amount，自增数（浮点数）

# 自增name对应的hash中的指定key的值，不存在则创建key=amount

hscan(name, cursor=0, match=None, count=None)

1

2

3

4

5

6

7

8

9

10

11

12

13

# 增量式迭代获取，对于数据大的数据非常有用，hscan可以实现分片的获取数据，并非一次性将数据全部获取完，从而放置内存被撑爆

# 参数：

    # name，redis的name

    # cursor，游标（基于游标分批取获取数据）

    # match，匹配指定key，默认None 表示所有的key

    # count，每次分片最少获取个数，默认None表示采用Redis的默认分片个数

# 如：

    # 第一次：cursor1, data1 = r.hscan('xx', cursor=0, match=None, count=None)

    # 第二次：cursor2, data1 = r.hscan('xx', cursor=cursor1, match=None, count=None)

    # ...

    # 直到返回值cursor的值为0时，表示数据已经通过分片获取完毕

hscan_iter(name, match=None, count=None)

1

2

3

4

5

6

7

8

9

# 利用yield封装hscan创建生成器，实现分批去redis中获取数据

# 参数：

    # match，匹配指定key，默认None 表示所有的key

    # count，每次分片最少获取个数，默认None表示采用Redis的默认分片个数

# 如：

    # for item in r.hscan_iter('xx'):

    #     print item

　　

List操作，redis中的List在在内存中按照一个name对应一个List来存储。如图：

lpush(name,values)

1

2

3

4

5

6

7

8

# 在name对应的list中添加元素，每个新的元素都添加到列表的最左边

# 如：

    # r.lpush('oo', 11,22,33)

    # 保存顺序为: 33,22,11

# 扩展：

    # rpush(name, values) 表示从右向左操作

lpushx(name,value)

1

2

3

4

# 在name对应的list中添加元素，只有name已经存在时，值添加到列表的最左边

# 更多：

    # rpushx(name, value) 表示从右向左操作

llen(name)

1

# name对应的list元素的个数

linsert(name, where, refvalue, value))

1

2

3

4

5

6

7

# 在name对应的列表的某一个值前或后插入一个新值

# 参数：

    # name，redis的name

    # where，BEFORE或AFTER

    # refvalue，标杆值，即：在它前后插入数据

    # value，要插入的数据

r.lset(name, index, value)

1

2

3

4

5

6

# 对name对应的list中的某一个索引位置重新赋值

# 参数：

    # name，redis的name

    # index，list的索引位置

    # value，要设置的值

r.lrem(name, value, num)

1

2

3

4

5

6

7

8

# 在name对应的list中删除指定的值

# 参数：

    # name，redis的name

    # value，要删除的值

    # num， num=0，删除列表中所有的指定值；

           # num=2,从前到后，删除2个；

           # num=-2,从后向前，删除2个

lpop(name)

1

2

3

4

# 在name对应的列表的左侧获取第一个元素并在列表中移除，返回值则是第一个元素

# 更多：

    # rpop(name) 表示从右向左操作

lindex(name, index)

1

在name对应的列表中根据索引获取列表元素

lrange(name, start, end)

1

2

3

4

5

# 在name对应的列表分片获取数据

# 参数：

    # name，redis的name

    # start，索引的起始位置

    # end，索引结束位置

ltrim(name, start, end)

1

2

3

4

5

# 在name对应的列表中移除没有在start-end索引之间的值

# 参数：

    # name，redis的name

    # start，索引的起始位置

    # end，索引结束位置

rpoplpush(src, dst)

1

2

3

4

# 从一个列表取出最右边的元素，同时将其添加至另一个列表的最左边

# 参数：

    # src，要取数据的列表的name

    # dst，要添加数据的列表的name

blpop(keys, timeout)

1

2

3

4

5

6

7

8

# 将多个列表排列，按照从左到右去pop对应列表的元素

# 参数：

    # keys，redis的name的集合

    # timeout，超时时间，当元素所有列表的元素获取完之后，阻塞等待列表内有数据的时间（秒）, 0 表示永远阻塞

# 更多：

    # r.brpop(keys, timeout)，从右向左获取数据

brpoplpush(src, dst, timeout=0)

1

2

3

4

5

6

# 从一个列表的右侧移除一个元素并将其添加到另一个列表的左侧

# 参数：

    # src，取出并要移除元素的列表对应的name

    # dst，要插入元素的列表对应的name

    # timeout，当src对应的列表中没有数据时，阻塞等待其有数据的超时时间（秒），0 表示永远阻塞

自定义增量迭代

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

# 由于redis类库中没有提供对列表元素的增量迭代，如果想要循环name对应的列表的所有元素，那么就需要：

    # 1、获取name对应的所有列表

    # 2、循环列表

# 但是，如果列表非常大，那么就有可能在第一步时就将程序的内容撑爆，所有有必要自定义一个增量迭代的功能：

def list_iter(name):

    """

    自定义redis列表增量迭代

    :param name: redis中的name，即：迭代name对应的列表

    :return: yield 返回列表元素

    """

    list_count = r.llen(name)

    for index in xrange(list_count):

        yield r.lindex(name, index)

# 使用

for item in list_iter('pp'):

    print item

Set操作，Set集合就是不允许重复的列表

sadd(name,values)

1

# name对应的集合中添加元素

scard(name)

1

获取name对应的集合中元素个数

sdiff(keys, *args)

1

在第一个name对应的集合中且不在其他name对应的集合的元素集合

sdiffstore(dest, keys, *args)

1

# 获取第一个name对应的集合中且不在其他name对应的集合，再将其新加入到dest对应的集合中

sinter(keys, *args)

1

# 获取多一个name对应集合的并集

sinterstore(dest, keys, *args)

1

# 获取多一个name对应集合的并集，再讲其加入到dest对应的集合中

sismember(name, value)

1

# 检查value是否是name对应的集合的成员

smembers(name)

1

# 获取name对应的集合的所有成员

smove(src, dst, value)

1

# 将某个成员从一个集合中移动到另外一个集合

spop(name)

1

# 从集合的右侧（尾部）移除一个成员，并将其返回

srandmember(name, numbers)

1

# 从name对应的集合中随机获取 numbers 个元素

srem(name, values)

1

# 在name对应的集合中删除某些值

sunion(keys, *args)

1

# 获取多一个name对应的集合的并集

sunionstore(dest,keys, *args)

1

# 获取多一个name对应的集合的并集，并将结果保存到dest对应的集合中

sscan(name, cursor=0, match=None, count=None)
sscan_iter(name, match=None, count=None)

1

# 同字符串的操作，用于增量迭代分批获取元素，避免内存消耗太大

有序集合，在集合的基础上，为每元素排序；元素的排序需要根据另外一个值来进行比较，所以，对于有序集合，每一个元素有两个值，即：值和分数，分数专门用来做排序。

zadd(name, *args, **kwargs)

1

2

3

4

5

# 在name对应的有序集合中添加元素

# 如：

     # zadd('zz', 'n1', 1, 'n2', 2)

     # 或

     # zadd('zz', n1=11, n2=22)

zcard(name)

1

# 获取name对应的有序集合元素的数量

zcount(name, min, max)

1

# 获取name对应的有序集合中分数在 [min,max] 之间的个数

zincrby(name, value, amount)

1

# 自增name对应的有序集合的 name 对应的分数

r.zrange( name, start, end, desc=False, withscores=False, score_cast_func=float)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

# 按照索引范围获取name对应的有序集合的元素

# 参数：

    # name，redis的name

    # start，有序集合索引起始位置（非分数）

    # end，有序集合索引结束位置（非分数）

    # desc，排序规则，默认按照分数从小到大排序

    # withscores，是否获取元素的分数，默认只获取元素的值

    # score_cast_func，对分数进行数据转换的函数

# 更多：

    # 从大到小排序

    # zrevrange(name, start, end, withscores=False, score_cast_func=float)

    # 按照分数范围获取name对应的有序集合的元素

    # zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float)

    # 从大到小排序

    # zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float)

zrank(name, value)

1

2

3

4

# 获取某个值在 name对应的有序集合中的排行（从 0 开始）

# 更多：

    # zrevrank(name, value)，从大到小排序

zrangebylex(name, min, max, start=None, num=None)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

# 当有序集合的所有成员都具有相同的分值时，有序集合的元素会根据成员的值（lexicographical ordering）来进行排序，而这个命令则可以返回给定的有序集合键 key 中，元素的值介于 min 和 max 之间的成员

# 对集合中的每个成员进行逐个字节的对比（byte-by-byte compare），并按照从低到高的顺序，返回排序后的集合成员。如果两个字符串有一部分内容是相同的话，那么命令会认为较长的字符串比较短的字符串要大

# 参数：

    # name，redis的name

    # min，左区间（值）。 + 表示正无限； - 表示负无限； ( 表示开区间； [ 则表示闭区间

    # min，右区间（值）

    # start，对结果进行分片处理，索引位置

    # num，对结果进行分片处理，索引后面的num个元素

# 如：

    # ZADD myzset 0 aa 0 ba 0 ca 0 da 0 ea 0 fa 0 ga

    # r.zrangebylex('myzset', "-", "[ca") 结果为：['aa', 'ba', 'ca']

# 更多：

    # 从大到小排序

    # zrevrangebylex(name, max, min, start=None, num=None)

zrem(name, values)

1

2

3

# 删除name对应的有序集合中值是values的成员

# 如：zrem('zz', ['s1', 's2'])

zremrangebyrank(name, min, max)

1

# 根据排行范围删除

zremrangebyscore(name, min, max)

1

# 根据分数范围删除

zremrangebylex(name, min, max)

1

# 根据值返回删除

zscore(name, value)

1

# 获取name对应有序集合中 value 对应的分数

zinterstore(dest, keys, aggregate=None)

1

2

# 获取两个有序集合的交集，如果遇到相同值不同分数，则按照aggregate进行操作

# aggregate的值为: SUM MIN MAX

zunionstore(dest, keys, aggregate=None)

1

2

# 获取两个有序集合的并集，如果遇到相同值不同分数，则按照aggregate进行操作

# aggregate的值为: SUM MIN MAX

zscan(name, cursor=0, match=None, count=None, score_cast_func=float)
zscan_iter(name, match=None, count=None,score_cast_func=float)

1

# 同字符串相似，相较于字符串新增score_cast_func，用来对分数进行操作

　　

其他常用操作

delete(*names)

1

# 根据删除redis中的任意数据类型

exists(name)

1

# 检测redis的name是否存在

keys(pattern='*')

1

2

3

4

5

6

7

# 根据模型获取redis的name

# 更多：

    # KEYS * 匹配数据库中所有 key 。

    # KEYS h?llo 匹配 hello ， hallo 和 hxllo 等。

    # KEYS h*llo 匹配 hllo 和 heeeeello 等。

    # KEYS h[ae]llo 匹配 hello 和 hallo ，但不匹配 hillo

expire(name ,time)

1

# 为某个redis的某个name设置超时时间

rename(src, dst)

1

# 对redis的name重命名为

move(name, db))

1

# 将redis的某个值移动到指定的db下

randomkey()

1

# 随机获取一个redis的name（不删除）

type(name)

1

# 获取name对应值的类型

scan(cursor=0, match=None, count=None)
scan_iter(match=None, count=None)

1

# 同字符串操作，用于增量迭代获取key

　

4、管道

redis-py默认在执行每次请求都会创建（连接池申请连接）和断开（归还连接池）一次连接操作，如果想要在一次请求中指定多个命令，则可以使用pipline实现一次请求指定多个命令，并且默认情况下一次pipline 是原子性操作。

#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
import redis
 
pool = redis.ConnectionPool(host='10.211.55.4', port=6379)
 
r = redis.Redis(connection_pool=pool)
 
# pipe = r.pipeline(transaction=False)
pipe = r.pipeline(transaction=True)
pipe.multi()
pipe.set('name', 'alex')
pipe.set('role', 'sb')
 
pipe.execute()

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import redis

conn = redis.Redis(host='192.168.1.41',port=6379)

conn.set('count',1000)

with conn.pipeline() as pipe:

    # 先监视，自己的值没有被修改过
    conn.watch('count')

    # 事务开始
    pipe.multi()
    old_count = conn.get('count')
    count = int(old_count)
    if count > 0:  # 有库存
        pipe.set('count', count - 1)

    # 执行，把所有命令一次性推送过去
    pipe.execute()

实现计数器

5、发布订阅

发布者：服务器

订阅者：Dashboad和数据处理

Demo如下：

#!/usr/bin/env python
# -*- coding:utf-8 -*-

import redis


class RedisHelper:

    def __init__(self):
        self.__conn = redis.Redis(host='10.211.55.4')
        self.chan_sub = 'fm104.5'
        self.chan_pub = 'fm104.5'

    def public(self, msg):
        self.__conn.publish(self.chan_pub, msg)
        return True

    def subscribe(self):
        pub = self.__conn.pubsub()
        pub.subscribe(self.chan_sub)
        pub.parse_response()
        return pub

RedisHelper

订阅者：

#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
from monitor.RedisHelper import RedisHelper
 
obj = RedisHelper()
redis_sub = obj.subscribe()
 
while True:
    msg= redis_sub.parse_response()
    print msg

发布者：

#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
from monitor.RedisHelper import RedisHelper
 
obj = RedisHelper()
obj.public('hello')

6. sentinel

redis重的sentinel主要用于在redis主从复制中，如果master顾上，则自动将slave替换成master

#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
from redis.sentinel import Sentinel
 
# 连接哨兵服务器(主机名也可以用域名)
sentinel = Sentinel([('10.211.55.20', 26379),
                     ('10.211.55.20', 26380),
                     ],
                    socket_timeout=0.5)
 
# # 获取主服务器地址
# master = sentinel.discover_master('mymaster')
# print(master)
#
# # # 获取从服务器地址
# slave = sentinel.discover_slaves('mymaster')
# print(slave)
#
#
# # # 获取主服务器进行写入
# master = sentinel.master_for('mymaster')
# master.set('foo', 'bar')
 
 
 
# # # # 获取从服务器进行读取（默认是round-roubin）
# slave = sentinel.slave_for('mymaster', password='redis_auth_pass')
# r_ret = slave.get('foo')
# print(r_ret)

更多参见：https://github.com/andymccurdy/redis-py/

http://doc.redisfans.com/

参考博客：https://www.cnblogs.com/wupeiqi/articles/5132791.html

返回顶部

posted on 2019-06-23 19:14 始终不够啊阅读(538) 评论(0) 收藏举报

刷新页面返回顶部

Django之缓存及Python操作Memcached、Redis

Memcached

Redis

Redis 安装

Window 下安装

Linux 下安装

Ubuntu 下安装

启动 Redis

查看 redis 是否启动？

公告