python3之redis cluste

发布时间:2019-09-27 07:09:51编辑:auto阅读(1999)

    一、Redis 介绍

    Redis 是一个开源内存的数据存储系统,行业中用作高效数据库缓存较多。它支持多种类型的数据结构:strings:hashes,lists,sets,sorted sets, bitmaps,hyperloglogs ,geospatial。并且支持对这些类型执行 原子操作 , 列如: int的增减,strings 的append,hashes hincrby,lists lpush,sets的交集sinter,并集union和差集sdiff命令。

    redis局限:在cluster未问世前,redis只有主从方式的高可用架构。redis server 侧的可扩展性(容量及性能)严重受到影响。一旦内存达到上限,只能从client侧去优化(client 去做hash),或者升级server的硬件来解决容量和性能问题。

    二、Redis cluster的介绍

    Redis 集群是 Redis 的一个分布式实现,主要是为了实现以下这些目标(按在设计中的重要性排序):

    在1000个节点的时候仍能表现得很好并且可扩展性(scalability)是线性的。

    没有合并操作,这样在 Redis 的数据模型中最典型的大数据值中也能有很好的表现。

    写入安全(Write safety):那些与大多数节点相连的客户端所做的写入操作,系统尝试全部都保存下来。不过公认的,还是会有小部分(small windows?)写入会丢失。

    可用性(Availability):在绝大多数的主节点(master node)是可达的,并且对于每一个不可达的主节点都至少有一个它的从节点(slave)可达的情况下,Redis 集群仍能进行分区(partitions)操作。

    三、本文目标:

    python 3使用cluster操作(需要远程连接,非回环地址),设置密码

    四、cluster的搭建

    略,详见:

    https://redis.io/topics/cluster-tutorial

    http://www.redis.cn/topics/cluster-spec.html

    注意本文使用redis-4.0.1:http://download.redis.io/releases/redis-4.0.1.tar.gz

    五、注意事项

    搭建中的坑(在一台机器上搭建6个redis 节点):

    1、redis.conf

    1)需要bind到非回环的ip(非127.0.0.1)或者0.0.0.0

    2)需要关闭 protected-mode,否则

    内容如下

    bind 0.0.0.0

    port 7000

    cluster-enabled yes

    cluster-config-file "nodes.conf"

    cluster-node-timeout 5000

    appendonly yes

    protected-mode no

    #使用redis-trib.rb构建集群,集群构建完成前不要配置密码,集群构建完毕再通过命令逐个机器设置密码。注意,此时,以上配置文件内容中没有pass和auth相关配置

    2、创建集群的时候,不能使用127.0.0.1,否则远端的client在set的时候,被Redirected至127.0.0.1就导致连接异常。

    例子如下,我本地的ip为:172.16.199.1

    ./redis-trib.rb create --replicas 1 172.16.199.1:7000 172.16.199.1:7001 172.16.199.1:7002 172.16.199.1:7003 172.16.199.1:7004 172.16.199.1:7005

    3、设置密码

    1)redis cluster的requirepass和masterauth都要配置,否则发生主从切换时,就会遇到授权问题

    2)各个节点的密码都必须一致(从7000到7005端口都需要依次设置),否则Redirected就会失败

    redis-cli -c -p 7000 -h 172.16.199.1

    redis 172.16.199.1:7000>config set masterauth CATAPI

    redis 172.16.199.1:7000>config set requirepass CATAPI

    redis 172.16.199.1:7000>auth CATAPI

    redis 172.16.199.1:7000>config rewrite

    4、client命令测试:

    wKiom1mHCKqxOXxTAAG70GzbTOs770.png-wh_50

    六:python redis cluster的测试:

    环境:python3.6.2

    centos:6.7

    python连接cluster,有redis-py-cluster

    python -m pip install redis-py-cluster

    1、config.py

    # encoding=utf-8

    __author__ = 'river'

    #redis cluster的nodes

    REDIS_NODES=[

               {'host':'172.16.199.1','port':7000},

               {'host':'172.16.199.1','port':7001},

               {'host':'172.16.199.1','port':7002},

               {'host':'172.16.199.1','port':7003},

               {'host':'172.16.199.1','port':7004},

               {'host':'172.16.199.1','port':7005}

                ]

    #redis的key的过期时间,单位s

    REDIS_EXPIRETIME=1200

    REDIS_MAX_CONNECTIONS=50

    REDIS_PASSWD='CATAPI'

    2、redis-test.py

    # encoding=utf-8

    __author__ = 'river'

    from rediscluster import StrictRedisCluster

    from app import app

    def conredis(app):

       redis_nodes = app.config["REDIS_NODES"]

       # redis_expiretime=app.config["REDIS_EXPIRETIME"]

       maxconnections=app.config["REDIS_MAX_CONNECTIONS"]

       redis_password=app.config["REDIS_PASSWD"]

       redisClient=None

       try:

           redisClient = StrictRedisCluster(startup_nodes = redis_nodes,max_connections=maxconnections,password=redis_password)

       except Exception as e:

           app.logger.error("redis cluster connect error,redis_nodes:"+str(redis_nodes))

           redisClient=None

       return redisClient

    if __name__=='__main__':

       redis_expiretime=app.config["REDIS_EXPIRETIME"]

       redisClient=conredis(app)

       redis_expiretime=app.config["REDIS_EXPIRETIME"]

       redisClient.set('testkey',12,redis_expiretime)

       redisClient.incr('testkey',13)

       print(redisClient.get('testkey'))

    3、执行结果

    wKioL1mHCKuAWSUQAAKEL98la5U685.png-wh_50


关键字