1.NoSQL数据库
非关系型数据库,key-value存储模式
不遵循SQL标准、不支持ACID、远超过SQL性能
应用场景:高并发读写、海量数据读写
不适合场景:事务支持、结构化查询
2.Redis6简介
开源、key-value存储、内存储存、支持push/pop/add/remove(原子性操作)、支持排序、 周期性的把更新数据写入磁盘、实现了主从同步
应用场景:配合关系型数据库做高速缓存(可以实现session共享)、多样的数据结构存储持久化数据
前台启动Redis: redis-server
命令,不推荐使用
后台启动Redis:
linux:
先修改redis.conf的daemonize
参数为yes,然后使用redis-server/redis.conf
命令启动
windows:
使用cmd进入redis目录 运行 redis-server --service-install redis.windows.conf --service-name redis
win + R 然后输入 services.msc
回车。打开服务找到redis服务,运行
Redis底层实现:单线程+多路IO复用
3.常用五大数据类型
key操作
keys * //查看所有key
set k1 lucy // 添加k1
exits k1 // 判断k1是否存在
type k1 //查看k1类型
del k1 //删除k1
unlike k1 //删除k1(异步删除,不是立马删除,但是查询不到)
expire k1 10 //为k1设置失效时间 10秒
ttl k1 //查看k1剩余过期时间 -1 永不过期 -2 已过期
select 0 //切换到0号数据库
dbsize //查看当前数据库的key数量
flushdb //清除当前库
flushall //清除所有库
字符串String
最基本的类型、二进制安全、可以包含任何数据(图片、视频)、value最多为512M
底层
简单动态字符串、类似java的ArrayList、采用预分配冗余空间的方式减少内存频繁分配
命令
set k1 appl //设置k1的value
get k1 //查询k1的value
set k1 apple //修改k1的value
append k1 pencil //追加k1的value并返回长度
setrange k1 0 xiaomi //在value位置0插入 原value值后移 value长度不变
getrange k1 0 3 //查询value 0-3 的值
strlen k1 //查看k1长度
setnx k2 100 //只有k2不存在时才能设置成功
incr k2 //设置k2的value +1 原子性操作
decr k2 //设置k2的value -1 原子性操作
incrby k2 11 //设置k2的value +11 原子性操作
decrby k2 4 //设置k2的value -4 原子性操作
mset k3 v3 k4 v4 //批量设置key-value
mget k3 k4 //批量查询key
msetnx k5 v5 k6 v6 //批量设置key-value key不存在才能设置成功 否则都失败
setex k7 20 v7 //设置k7的value和过期时间 20秒
getset k7 v7.1 //用新值换旧值
列表List
单键多值、有序(按插入顺序排序)、可以插入到头部或尾部
底层
快速链表quickList
元素较少时使用连续的内存空间存储,称为zipList,元素多的时候使用quickList,即将多个zipList以双向链表的形式改成quickList
命令
lpush k1 v1 v2 v3 //从左边加入多个值
lpush k2 v10 v20 v30 //从左边加入多个值
lrange k1 0 -1 //获取所有值
rpush k1 v1 v2 v3 //从右边加入多个值
lpop k1 //从左边弹出值
rpop k1 //从右边弹出值 值在键在 值亡键亡
rpoplpush k1 k2 //从k1的右边弹出一个value并放入k2的value右边
lindex <key><index> //按照索引下标获得元素(从左到右)
llen <key> //获得列表长度
linsert <key> before <value><newvalue> //在<value>的后面插入<newvalue>插入值
lrem <key><n><value> //从左边删除n个 value(从左到右)
lset <key><index><value> //将列表key下标为index的值替换成value
集合Set
去重、无序 添加、查询、删除都是O(1)
底层
dict字典,字典用hash表实现
命令
sadd <key> <value1><value2>.... //将一个或多个 member 元素加入到集合 key 中,已经存在的 member 元素将被忽略
smembers <key> //取出该集合的所有值
sismember <key><value> //判断集合<key>是否为含有该<value>值,有1,没有0
scard<key> //返回该集合的元素个数
srem <key><value1><value2> .... //删除集合中的某个元素。
spop <key> //随机从该集合中吐出一个值
srandmember <key><n> //随机从该集合中取出n个值 不会从集合中删除
smove <source><destination><value> //把集合中一个值从一个集合移动到另一个集合
sinter <key1><key2> //返回两个集合的交集元素
sunion <key1><key2> //返回两个集合的并集元素
sdiff <key1><key2> //返回两个集合的差集元素(key1中的,不包含 key2 中的)
哈希Hash
value是一个String类型的field-value映射表,适合存储对象,类似java里面的Map<String, Object>
底层
field-value长度较短且个数较少时使用zipList(压缩链表),否者使用hash表
命令
hset <key><field><value> //给<key>集合中的<field>键赋值<value>
hget <key1><field> //从<key1>集合<field>取出 value
hmset <key1><field1><value1><field2><value2>... //批量设置 hash 的值
hexists<key1><field> //查看哈希表 key 中,给定域 field 是否存在
hkeys <key> //列出该 hash 集合的所有 field
hvals <key> //列出该 hash 集合的所有 value
hincrby <key><field><increment> //为哈希表 key 中的域 field 的值加上增量 1 -1
hsetnx <key<field><value> //将哈希表 key 中的域 field 的值设置为 value,当且仅当域field 不存在
有序集合Zset
有序、去重、应用场景:排行榜
底层
SortedSet(zset)是Redis提供的独特的数据结构,一方面等价于java的Map<String,Double>
数据结构,可以给每一个value赋值权重score,另一方面又类似TreeSet,内部按照score排序,可以得到每个value的名次。
zset底层使用了两个数据结构
1.hash用于关联value和score,保障value的唯一性,可以通过value找到相应的score
2.跳跃表可以飞value排序,可以根据score的范围获取元素列表
命令
zadd <key><score1><value1><score2><value2> //将一个或多个 member 元素及其 score 值加入到有序集 key 当中
//返回有序集 key 中,下标在<start><stop>之间的元素 带withscores,可以让分数一起和值返回到结果集
zrange <key><start><stop> [withscores]
//返回有序集key中,所有score值介于min和max之间(包括min或max)的成员,有序集成员按score值递增(从小到大)次序排列
zrangebyscore <key><min><max> [withscores] [limit offset count]
zrevrangebyscore <key><max><min> [withscores] [limit offset count] //同上,改为从大到小排列
zincrby <key><increment><value> //为元素的 score加上增量
zrem <key><value> //删除该集合下,指定值的元素
zcount <key><min><max> //统计该集合,分数区间内的元素个数
zrank <key><value> //返回该值在集合中的排名,从0开始
4.Redis6配置文件详解
redis.conf文件操作
开启远程连接
1.注释掉 bind 127.0.0.1 -::1
2.protected-mode yes -> no
port:6379 //默认端口 6379
tcp-backlog 511 //记录为完成三次握手和已完成三次握手的总和 默认总和 511
timeout 0 //超时机制 0 永不超时
tcp-keepalive 300 //每300秒检查一下连接是否还在使用,未使用则释放连接,即心跳机制
deamonize no -> yes //打开Redis后台启动
pidfile //每次进程操作保存进程号到.pid文件中
loglevel //日志级别 debug、verbose(类似java info)、notice(生产环境 默认使用)、warning
logfile //设置日志输出文件路径
databases 16 //Redis默认有16个库,默认使用0号库
maxclients 10000 //默认客户端最大连接数
maxmemory //Redis可以使用的内存量 建议必须设置 内存使用达到上限后会根据maxmemory-policy规则移除内部数据
//maxmemory-policy
volatile-lru:使用 LRU算法移除 key,只对设置了过期时间的键;(最近最少使用)
allkeys-lru: 在所有集合 key 中,使用LRU算法移除 key
volatile-random:在过期集合中移除随机的 key,只对设置了过期时间的键
allkeys-random:在所有集合 key 中,移除随机的 key
volatile-ttl: 移除那些 TTL 值最小的 key,即那些最近要过期的 key
noeviction : 不进行移除。针对写操作,只是返回错误信息
5.Redis6的发布和订阅
pub/sub 是一种消息通信模式,pub发送消息,sub接收消息
Redis客户端可以订阅任意数量的频道
命令
客户端1订阅频道
SUBSCRIBE channel1
客户端2在channel1发布
publish channel1 hello
客户端1就可以接收到hello
6.Redis6新的数据类型
Bitmaps、HyperLogLog、Geospatial
7.Jedis操作Redis6
pom.xml
<dependency>
<groupId>redis.clients</groupId>
<artifactId>jedis</artifactId>
<version>3.2.0</version>
</dependency>
<!-->随机验证码工具<-->
<dependency>
<groupId>cn.hutool</groupId>
<artifactId>hutool-all</artifactId>
<version>4.5.15</version>
</dependency>
JedisStudy.java
package redis.jedis;
import org.junit.Test;
import redis.clients.jedis.Jedis;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.Set;
public class JedisStudy {
public static void main(String[] args) {
// 创建Jedis对象
Jedis jedis = new Jedis("101.43.146.65", 6379);
// 测试连接
String value = jedis.ping();
System.out.println(value);
// 测试string类型
// testString(jedis);
// 测试List类型
// testList(jedis);
// 测试Set类型
// testSet(jedis);
// 测试Hash类型
//testHash(jedis);
// 测试Zset类型
testZset(jedis);
}
// String类型操作
public static void testString(Jedis jedis){
// 添加k1的value
jedis.set("k1", "hello");
// 获取k1的value
System.out.println(jedis.get("k1"));
// 添加k2 k3的value
jedis.mset("k2", "v2", "k3", "v3");
// 获取k1 k2 k3的value
System.out.println(jedis.mget("k1", "k2", "k3"));
// 获取所有key
Set<String> keys = jedis.keys("*");
for(String key : keys){
System.out.println(key);
}
// 取k1是否存在
System.out.println(jedis.exists("k1"));
// 获取k1过期时间 -1永不过期
System.out.println(jedis.ttl("k1"));
}
// List类型操作
public static void testList(Jedis jedis){
// 删除fruit
if(jedis.exists("fruit")) jedis.del("fruit");
// 添加fruit的value
jedis.lpush("fruit", "apple", "peach", "orange", "banana", "apple");
// 获取fruit的所有value
List<String> fruit = jedis.lrange("fruit", 0, -1);
System.out.println(fruit);
}
// Set类型操作
public static void testSet(Jedis jedis){
// 删除gender
if(jedis.exists("gender")) jedis.del("gender");
// 添加gender的value
jedis.sadd("gender", "woman", "man", "man", "woman", "man");
// 获取gender的所有value
Set<String> gender = jedis.smembers("gender");
System.out.println(gender);
}
// Hash类型操作
public static void testHash(Jedis jedis){
// 删除user
if(jedis.exists("user")) jedis.del("user");
// 添加user的value
jedis.hset("user", "age", "25");
// 获取user的age
String hGet = jedis.hget("user", "age");
System.out.println(hGet);
// 批量添加user的value
Map<String, String> map = new HashMap<>();
map.put("name", "ZhangSan");
map.put("gender", "man");
map.put("address", "beijing");
jedis.hmset("user", map);
// 获取user的所有value
List<String> user = jedis.hmget("user","name", "age", "gender", "address");
System.out.println(user);
}
// testZset类型操作
public static void testZset(Jedis jedis){
// 删除Top3
if(jedis.exists("Top3")) jedis.del("Top3");
// 添加Top3的value
jedis.zadd("Top3", 100d,"China");
jedis.zadd("Top3", 80d,"UK");
jedis.zadd("Top3", 90d,"USA");
// 获取Top3的value
Set<String> top3 = jedis.zrange("Top3", 0, -1);
System.out.println(top3);
}
}
PhoneCode.java
jedis实现简单验证码验证功能
package redis.jedis;
import cn.hutool.core.util.RandomUtil;
import redis.clients.jedis.Jedis;
public class PhoneCode {
public static void main(String[] args) {
//模拟验证码发送
verifyCode("15610113211");
//模拟验证码校验
// getRedisCode("15610113211", "646784");
}
//1.生成6位数字验证码
public static String getCode() {
return RandomUtil.randomNumbers(6);
}
//2. 每个手机每天只能发送三次,验证放在redis中,设置过期时间
public static void verifyCode(String phone) {
//连接redis
Jedis jedis = new Jedis("101.43.146.65", 6379);
//拼接key
//手机发送次数
String countKey = "countKey" + phone;
//验证码key
String codeKey = "codeKey" + phone;
//每个手机只能发送三次
String count = jedis.get(countKey);
if (count.equals("")){
//没有发送次数,说明是第一次发送
//设置发送次数是1
jedis.setex(countKey, 24*60*60, "1");
}else if (Integer.parseInt(count) <= 2) {
//发送次数 +1
jedis.incr(countKey);
}else if (Integer.parseInt(count) > 2) {
//发送三次,不能再发送了
Long ttl = jedis.ttl(countKey);
System.out.println("Verification is frequent, please verify again after " + ttl + " seconds");
jedis.close();
return;
}
//发送验证码放到 redis 中
String vscode = getCode();
jedis.setex(codeKey, 120, vscode);
String c = jedis.get(countKey);
Long ttl = jedis.ttl(codeKey);
System.out.println("phone:" + phone + " code:" + vscode + " count:" + c + " ttl:" + ttl);
jedis.close();
}
//3.验证码校验
public static void getRedisCode(String phone,String code) {
//从redis获取验证码
Jedis jedis = new Jedis("101.43.146.65", 6379);
//验证码key
String codeKey = "codeKey"+phone;
String redisCode = jedis.get(codeKey);
//判断
//先判断是否超时
Long ttl = jedis.ttl(codeKey);
if(ttl == -2){
jedis.close();
System.out.println("Validation timed out");
return;
}
//再判断一致性
if(redisCode.equals(code)) {
System.out.println("Validation succeeded");
}else {
System.out.println("Incorrect validation");
}
jedis.close();
}
}
8.Redis6整合Spring Boot
9.Redis6事务
Multi
命令并未执行,而是进入排队阶段
当排队的命令存在错误,则执行阶段所有命令均执行失败
Exec
执行Multi队列中的命令
当执行过程中命令存在问题,只有存在问题的命令执行失败,其余命令执行成功
Discard
放弃执行Multi命令
// 排队
multi
// 加入命令
set k1 v1
set k2 v2
// 执行
exec
// 放弃执行
discard
事务冲突
悲观锁:每次获取资源都先上锁,禁止其他事务获取资源,关系型数据库的行锁、表锁、读锁、写锁都是悲观锁
乐观锁:获取资源时记录版本号,执行操作之前先判断版本号是否发生改变,发生改变则不执行,避免了ABA问题,因为是通过版本号记录资源状态,而非根据资源的值判断资源是否发生改变。
拓展:java中的 CAS(compare and swap)是对了乐观锁的一种实现,CAS是通过比较内存中的一个数据是否是预期值,如果是就将它修改成新值,如果不是则进行自旋,重复比较的操作,但是CAS存在ABA问题,ABA问题的根本在于cas在修改变量的时候,无法记录变量的状态,比如修改的次数,否修改过这个变量。这样就很容易在一个线程将A修改成B时,另一个线程又会把B修改成A,造成cas多次执行的问题。
Watch
作用就是监听版本号
unwatch 取消监听
案例:
下面是两个并发执行的客户端,其中只有一个客户端能够执行成功,因为两个客户端都监听到了k1相同的版本号,但是当其中一个客户端执行完操作后,k1的版本号发生改变,另一个客户端执行前,监听到k1的版本号发生改变,则执行失败
客户端1
watch k1
multi
incr k1
exec
客户端2
watch k1
multi
incr k1
exec
事务三特性
单独的隔离操作
事务中的所有命令都会序列化、按顺序地执行。事务在执行的过程中,不会被其他客户端发送来的命令请求所打断
没有隔离级别的概念
队列中的命令没有提交之前都不会实际被执行,因为事务提交前任何指令都不会被实际执行
不保证原子性
事务中如果有一条命令执行失败,其后的命令仍然会被执行,没有回滚
秒杀简单案例
单线程安全,但是存在并发超卖
package service;
import redis.clients.jedis.Jedis;
public class SeckillService {
public static boolean doSecKill(String uid,String prodid) {
if(null == uid || null == prodid){
return false;
}
Jedis jedis = new Jedis("101.43.146.65", 6379);
String productCountStr = prodid+"count";
String productUserStr = prodid+"user";
String productCount = jedis.get(productCountStr);
if(null == productCount) {
System.out.println("秒杀还没有开始");
jedis.close();
return false;
}
if(jedis.sismember(productUserStr, uid)) {
System.out.println(uid + "用户已经秒杀成功");
jedis.close();
return false;
}
int prodCount = Integer.parseInt(productCount);
if(prodCount <= 0) {
System.out.println("秒杀结束");
jedis.close();
return false;
}
jedis.decr(productCountStr);
jedis.sadd(productUserStr, uid);
System.out.println(uid + "秒杀成功");
jedis.close();
return true;
}
}
Watch事务机制
存在存量遗留问题
JedisPollTool.java
public class JedisPollTool {
private static JedisPool pool = null;
/**
*
* 方法描述 构建redis连接池
*
* @return
*/
static {
if(null == pool) {
synchronized (JedisPollTool.class){
JedisPoolConfig config = new JedisPoolConfig();
//控制一个pool可分配多少个jedis实例,通过pool.getResource()来获取;
//如果赋值为-1,则表示不限制;如果pool已经分配了maxActive个jedis实例,则此时pool的状态为exhausted(耗尽)。
config.setMaxTotal(50);
//控制一个pool最多有多少个状态为idle(空闲的)的jedis实例。
config.setMaxIdle(5);
//表示当borrow(引入)一个jedis实例时,最大的等待时间,如果超过等待时间,则直接抛出JedisConnectionException;单位毫秒
//小于零:阻塞不确定的时间, 默认-1
config.setMaxWaitMillis(1000*100);
//在borrow(引入)一个jedis实例时,是否提前进行validate操作;如果为true,则得到的jedis实例均是可用的;
config.setTestOnBorrow(true);
//return 一个jedis实例给pool时,是否检查连接可用性(ping())
config.setTestOnReturn(true);
//connectionTimeout 连接超时(默认2000ms)
//soTimeout 响应超时(默认2000ms)
pool = new JedisPool(config, "101.43.146.65", 6381, 2000);
}
}
}
/**
* 方法描述 获取Jedis实例
*
* @return
*/
public static JedisPool getInstance() {
return pool;
}
/**
*
* 方法描述 释放jedis连接资源
*
* @param jedis
*/
public static void release(Jedis jedis) {
if(null != jedis) {
jedis.close();
}
}
}
Seckill2Service.java
public class Seckill2Service {
public static boolean doSecKill(String uid,String prodid) {
JedisPool jedisPool = JedisPollTool.getInstance();
Jedis jedis = jedisPool.getResource();
String productCountStr = prodid+"count";
String productUserStr = prodid+"user";
jedis.watch(productCountStr); //开始监视
String productCount = jedis.get(productCountStr);
if(null == productCount) {
System.out.println("秒杀还没有开始");
JedisPollTool.release(jedis);
return false;
}
if(jedis.sismember(productUserStr, uid)) {
System.out.println(uid + "用户已经秒杀成功");
JedisPollTool.release(jedis);
return false;
}
int prodCount = Integer.parseInt(productCount);
if(prodCount <= 0) {
System.out.println("秒杀结束");
JedisPollTool.release(jedis);
return false;
}
Transaction transaction = jedis.multi();
transaction.decr(productCountStr);
transaction.sadd(productUserStr, uid);
List<Object> exec = transaction.exec();
if(exec == null || exec.size() == 0) {
System.out.println("秒杀失败,稍后重试");
JedisPollTool.release(jedis);
return false;
}
JedisPollTool.release(jedis);
System.out.println(uid + "秒杀成功");
return true;
}
}
LUA脚本
最好用
local userid=KEYS[1];
local prodid=KEYS[2];
local qtkey="sk:"..prodid..":qt";
local usersKey="sk:"..prodid.":usr';
local userExists=redis.call("sismember",usersKey,userid);
if tonumber(userExists)==1 then
return 2;
end
local num= redis.call("get" ,qtkey);
if tonumber(num)<=0 then
return 0;
else
redis.call("decr",qtkey);
redis.call("sadd",usersKey,userid);
end
return 1;
10.RDB
特点:指定时间间隔内将Redis的数据快照写入磁盘
优点:速度快、适合对数据完整性不敏感的系统、大规模数据恢复
缺点:最后一次保存的数据可能会丢失
流程:Redis主进程单独fork(复制)一份子进程,fork负责进行保存数据快照时,在磁盘新建临时文件,并将数据写入临时文件,然后替换dump.rdb文件,redis默认采用bgsave命令保存快照,子进程保存,父进程依然可以处理服务请求(写时复制COW),而save命令则会阻塞主进程。
11.AOF
特点:以日志的形式增量同步写记录(非读),
优点:数据完整性高、更稳健
缺点:速度慢、空间占用大
流程:(主进程)写请求首先会保存在AOF缓存区,然后根据aof持久化策略将写操作同步到aof文件,当aof文件满了之后会进行rewrite,压缩记录,redis重启后会重新加载aof文件恢复数据
重写:主进程创建子进程,子进程在新的临时文件重写原来的aof文件,同时主进程继续保持io服务,新的写操作保存到aof缓冲区,当重写完成后通知主进程,主进程更新统计信息并将新的写操作保存到临时文件,最后替换原来的aof文件。
12.主从复制
特点
1.读写分离、所有读操作在从服务器、写操作在主服务器
2.容灾快速恢复,一个从服务器宕机,可以切换到其他从服务器进行读操作,主服务器宕机存在无法写的缺陷(解决方案,集群)
3.一主多从
集群:每个组都是一主(master)多从(slaver)的架构,每组之间相互存在联系,共同组成集群
注意
1.当从服务器宕机后重启并不会继续作为从服务器,而是成为一个独立的主服务器,需要重新配成从服务器,从新配置的时候,会把主服务器的数据完整复制到从服务器
2.当主服务器宕机,从服务器并不会主动篡位,从服务器依旧可以提供读操作,主服务器重启后依然是主服务器
原理
从服务器连接到主服务器后,会向主服务器发起数据同步请求
主服务器接收同步请求后,先持久化成rdb文件,然后发送到从服务器,从服务器读取并同步rdb文件
主服务器每次写操作都会主动同步到从服务器
一主二从
简单实现
创建redis6379.conf、redis6380.conf、redis6381.conf文件,内容根据名称改变
include /myredis/redis.conf
pidfile /var/run/redis_6379.pid
port 6379
dbfilename dump6379.rdb
启动
redis-server redis6379.conf
redis-server redis6380.conf
redis-server redis6381.conf
配置从属关系
//使6380做6379从服务器
redis-cli -p 6380
slaveof 127.0.0.1 6379
//使6381做6379从服务器
redis-cli -p 6381
slaveof 127.0.0.1 6379
薪火相传
从服务器下面挂载从服务器,链表
反客为主
主服务器宕机会选择从服务器为主机
手动
slaveof no one
哨兵模式(自动)
选择策略:
先根据优先级(redis.conf可以配置),然后根据偏移量(与主服务器数据一致性高的),最后根据runid(每个redis实例启动都会随机生成40位runid)
配置sentinel.conf文件
sentinel monitor mymaster 127.0.0.1 6379 1
启动哨兵
redis-sentinel /myredis/sentinel.conf
关闭哨兵
redis-cli -p 26379
shutdown
13.集群
优点:扩容、分摊压力、去中心化、配置简单
缺点:直接多键操作不支持(需要用{}组)、多键事务不支持、lua脚本不支持、去中心化的集群使用率还不够
创建集群
创建redis6379.conf、redis6380.conf、redis6381.conf、redis6389.conf、redis6390.conf、redis6391.conf文件,内容根据名称改变
include /myredis/redis.conf
pidfile /var/run/redis_6379.pid
port 6379
dbfilename dump6379.rdb
cluster-enabled yes
cluster-config-file nodes-6379.conf
cluster-node-timeout 15000
启动六个节点
redis-server redis6379.conf
注意:
使用服务器的玩家需要将六个节点的端口在服务器的防火墙中通过,并且在redis的防火墙中也要通过
// 端口放行
firewall-cmd --zone=public --add-port=6379/tcp --permanent
firewall-cmd --zone=public --add-port=16379/tcp --permanent
firewall-cmd --zone=public --add-port=6380/tcp --permanent
firewall-cmd --zone=public --add-port=16380/tcp --permanent
firewall-cmd --zone=public --add-port=6381/tcp --permanent
firewall-cmd --zone=public --add-port=16381/tcp --permanent
firewall-cmd --zone=public --add-port=6389/tcp --permanent
firewall-cmd --zone=public --add-port=16389/tcp --permanent
.....
// 重新载入防火墙
firewall-cmd --reload
六个节点合成一个集群
// ip为服务器公网ip
redis-cli --cluster create --cluster-replicas 1 101.43.146.65:6379 101.43.146.65:6380 101.43.146.65:6381 101.43.146.65:6389 101.43.146.65:6390 101.43.146.65:6391
尽量保证每个主服务器在不同ip地址中,每个从服务器和主服务器尽量在不同ip地址中
slop插槽:
简单说就是一个集群内的不同服务器平均分担数据
一个 Redis 集群包含 16384 个插槽(hash slot), 数据库中的每个键都属于这 16384 个插槽的其中一个,集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 ,集群中的每个节点负责处理一部分插槽
基本命令
// 批量数据写入时,使用{}定义组的概念, 使key中{}内相同内容的键值对放到一个slot中去
mset name{user} zhangsan age{user} 18
// 计算user的slot值
cluster keyslot user
// 返回该插槽中的key数量(只能看自己插槽中的key)
cluster countkeysinslot 1200
// 返回该插槽中的key,数字代表个数
cluster getkeysinslot 1200 2
故障恢复
主节点宕机,从节点成为主节点,主节点恢复后成为从节点
主节点从节点都宕机
如果cluster-require-full-coverage = yes
,整个集群都宕机
如果cluster-require-full-coverage = no
,只有发生宕机的主从节点无法提供服务
jedis集群操作
package redis.jedis;
import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.JedisCluster;
public class JedisClusterStudy {
public static void main(String[] args) {
// 建立连接
HostAndPort hostAndPort = new HostAndPort("101.43.146.65", 6381);
JedisCluster jedisCluster = new JedisCluster(hostAndPort);
// 操作
jedisCluster.set("fruit", "apple");
String fruit = jedisCluster.get("fruit");
System.out.println("fruit:"+fruit);
// 关闭连接
jedisCluster.close();
}
}
14.问题解决
缓存穿透
查询数据时,直接略过Redis访问数据库
现象:应用服务器压力大、redis命中率低、大量查询走数据库
原因:redis查询不到数据(假数据)、非正常url访问,大概率是遭到攻击了
解决:
缓存空值:
如果一个查询返回的数据为空(不管是数据是否不存在),我们仍然把这个空结果(null)进行缓存,设置空结果的过期时间会很短,最长不超过五分钟
设置可访问的名单(白名单):
使用bitmaps类型定义一个可以访问的名单,名单id作为bitmaps的偏移量,每次访问和bitmap里面的id进行比较,如果访问id不在bitmaps里面,进行拦截,不允许访问,缺点是走bitmaps,效率低
布隆过滤器:
布隆过滤器(Bloom Filter)是1970年由布隆提出的。它实际上是一个很长的二进制向量(位图)和一系列随机映射函数(哈希函数)。布隆过滤器可以用于检索一个元素是否在一个集合中(bitmaps优化版)。它的优点是空间效率和查询时间都远远超过一般的算法,缺点是有一定的误识别率和删除困难
进行实时监控:当发现Redis的命中率开始急速降低,需要排查访问对象和访问的数据,和运维人员配合,可以设置黑名单限制服务
缓存击穿
现象:数据库访问压力瞬间增大、redis没有出现大量key过期、redis正常运行
原因:热键过期,大量访问使用这种key
解决:
预先设置热门数据:在redis高峰访问之前,把一些热门数据提前存入到redis里面,加大这些热门数据key的时长
实时调整:现场监控哪些数据热门,实时调整key的过期时长
使用锁:
(1) 就是在缓存失效的时候(判断拿出来的值为空),不是立即去load db。
(2) 先使用缓存工具的某些带成功操作返回值的操作(比如Redis的SETNX)去set一个mutex key
(3) 当操作返回成功时,再进行load db的操作,并回设缓存,最后删除mutex key;
(4) 当操作返回失败,证明有线程在load db,当前线程睡眠一段时间再重试整个get缓存的方法。
缓存雪崩
现象:数据库压力变大、服务器崩溃
原因:短时间内,大量key过期
解决:
**构建多级缓存架构:**nginx缓存 + redis缓存 +其他缓存(ehcache等)
使用锁或队列:
用加锁或者队列的方式保证来保证不会有大量的线程对数据库一次性进行读写,从而避免失效时大量的并发请求落到底层存储系统上。不适用高并发情况
设置过期标志更新缓存:
记录缓存数据是否过期(设置提前量),如果过期会触发通知另外的线程在后台去更新实际key的缓存。
将缓存失效时间分散开:
比如我们可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。
分布式锁
一种跨JVM的互斥机制来控制共享资源的访问
分布式锁主流的实现方案:
- 基于数据库实现分布式锁
- 基于缓存(Redis等)
- 基于Zookeeper
优劣:
性能:redis最高、
可靠性:zookeeper最高
redis分布式锁
使用setnx上锁,使用expire设置上锁时间
setnx k1 10 //成功
expire k1 100 //设置过期时间
setnx k1 20 // 100秒内失败,100秒外成功
// 上锁定时合并操作
set k1 10 nx ex 100
java实现
使用uuid保证锁安全
@GetMapping("testLock")
public void testLock(){
// 使用uuid确保锁唯一性
String uuid = UUID.randomUUID().toString();
//1获取锁,setne
Boolean lock = redisTemplate.opsForValue().setIfAbsent("lock", uuid, 3, TimeUnit.SECONDS);
//2获取锁成功、查询num的值
if(lock){
Object value = redisTemplate.opsForValue().get("num");
//2.1判断num为空return
if(StringUtils.isEmpty(value)){
return;
}
//2.2有值就转成成int
int num = Integer.parseInt(value+"");
//2.3把redis的num加1
redisTemplate.opsForValue().set("num", ++num);
//2.4释放锁,del
String lockUuid = (String) redisTemplate.opsForValue().get("lock");
if(uuid.equals(lockUuid)) {
redisTemplate.delete("lock");
}
}else{
//3获取锁失败、每隔0.1秒再获取
try {
Thread.sleep(100);
testLock();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
使用lua脚本,添加原子性
@GetMapping("testLockLua")
public void testLockLua() {
//1 声明一个uuid ,将做为一个value 放入我们的key所对应的值中
String uuid = UUID.randomUUID().toString();
//2 定义一个锁:lua 脚本可以使用同一把锁,来实现删除!
String skuId = "25"; // 访问skuId 为25号的商品 100008348542
String locKey = "lock:" + skuId; // 锁住的是每个商品的数据
// 3 获取锁
Boolean lock = redisTemplate.opsForValue().setIfAbsent(locKey, uuid, 3, TimeUnit.SECONDS);
// 第一种: lock 与过期时间中间不写任何的代码。
// redisTemplate.expire("lock",10, TimeUnit.SECONDS);//设置过期时间
// 如果true
if (lock) {
// 执行的业务逻辑开始
// 获取缓存中的num 数据
Object value = redisTemplate.opsForValue().get("num");
// 如果是空直接返回
if (StringUtils.isEmpty(value)) {
return;
}
// 不是空 如果说在这出现了异常! 那么delete 就删除失败! 也就是说锁永远存在!
int num = Integer.parseInt(value + "");
// 使num 每次+1 放入缓存
redisTemplate.opsForValue().set("num", String.valueOf(++num));
/*使用lua脚本来锁*/
// 定义lua 脚本
String script = "if redis.call('get', KEYS[1]) == ARGV[1] then return redis.call('del', KEYS[1]) else return 0 end";
// 使用redis执行lua执行
DefaultRedisScript<Long> redisScript = new DefaultRedisScript<>();
redisScript.setScriptText(script);
// 设置一下返回值类型 为Long
// 因为删除判断的时候,返回的0,给其封装为数据类型。如果不封装那么默认返回String 类型,
// 那么返回字符串与0 会有发生错误。
redisScript.setResultType(Long.class);
// 第一个要是script 脚本 ,第二个需要判断的key,第三个就是key所对应的值。
redisTemplate.execute(redisScript, Arrays.asList(locKey), uuid);
} else {
// 其他线程等待
try {
// 睡眠
Thread.sleep(1000);
// 睡醒了之后,调用方法。
testLockLua();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
为了确保分布式锁可用,我们至少要确保锁的实现同时满足以下四个条件:
- 互斥性。在任意时刻,只有一个客户端能持有锁。
- 不会发生死锁。即使有一个客户端在持有锁的期间崩溃而没有主动解锁,也能保证后续其他客户端能加锁。lua
- 解铃还须系铃人。加锁和解锁必须是同一个客户端,客户端自己不能把别人加的锁给解了。uuid
- 加锁和解锁必须具有原子性。
15.新功能
acl权限细化
非重点业务多线程