sl-express/01-讲义/md/day11-物流信息微服务.md

983 lines
56 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

# 课程安排
- 物流信息的需求分析
- 技术实现分析
- 基于MongoDB的功能实现
- 多级缓存的解决方案
- Redis缓存存在的问题分析并解决
# 1、背景说明
快递员将包裹取走之后,直至收件人签收,期间发件人和收件人最为关心的就是“快递到哪了”,如何让收发件人清晰的了解到包裹的“实时”状态,就需要将物流信息给用户展现出来,也就是今天要学习的主要内容【物流信息】。
然而此功能的并发量是有一定要求的特别是在电商大促期间快件数量非常庞大也就意味着查询人的量也是很大的所以此处必须是缓存应用的集中地我们也将在该业务中讲解Redis缓存应用的常见问题并且去实施解决从而形成通用的解决方案。
如果这块搞不好,程序员又要背锅了……
![zx.gif](https://cdn.nlark.com/yuque/0/2022/gif/27683667/1666534295333-1eedcdcf-ac9f-49c7-8048-2888ad8d78bf.gif#averageHue=%23ebe2cc&clientId=ua5e8de83-6e29-4&from=paste&height=145&id=u01f78650&name=zx.gif&originHeight=240&originWidth=240&originalType=binary&ratio=1&rotation=0&showTitle=false&size=69224&status=done&style=none&taskId=u195c2c0b-3c2a-4cde-836d-361448e06f7&title=&width=145.45453704749963)
# 2、需求分析
用户寄件后,是需要查看运单的运输详情,也就是需要查看整个转运节点,类似这样:
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1663924068358-b90e2bad-eabd-4ff4-b119-80f07362a9f4.png#averageHue=%23f8f7f7&clientId=uef8bb5e0-0d86-4&errorMessage=unknown%20error&from=paste&height=516&id=u36db1548&name=image.png&originHeight=851&originWidth=508&originalType=binary&ratio=1&rotation=0&showTitle=false&size=128405&status=error&style=shadow&taskId=ude627d4c-b290-4f46-bb59-3fdcddaa6d2&title=&width=307.8787700838742)
产品的需求描述如下(在快递员端的产品文档中):
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1663926593761-a5c98ef0-3473-409e-a2d8-95d9fd524a6d.png#averageHue=%23f5e2c8&clientId=uef8bb5e0-0d86-4&errorMessage=unknown%20error&from=paste&height=492&id=u4a7ae13d&name=image.png&originHeight=811&originWidth=1764&originalType=binary&ratio=1&rotation=0&showTitle=false&size=263241&status=error&style=shadow&taskId=u1944199a-a0f9-41d9-ac4d-5d2fea68ec8&title=&width=1069.0908472991223)
可以看出,物流信息中有状态、时间、具体信息、快递员姓名、快递员联系方式等信息。
# 3、实现分析
基于上面的需求分析,我们该如何实现呢?首先要分析一下物流信息功能的特点:
- 数据量大
- 查询频率高(签收后查询频率低)
针对于以上的特点我们可以进行逐一的分析首选是数据量大这个挑战是在存储方面如果我们做技术选型的话无非就是两种选择一种是关系型数据库另一种是非关系型数据库显然在存储大数据方面非关系型数据库更合适一些以我们目前掌握的技术而言选择MongoDB存储要比MySQL更合适一些。
运单在签收之前,查询的频率是非常高的,用户可能会不断的刷物流信息,一般解决查询并发高的解决方案是通过缓存解决,我们也将对查询数据进行缓存。
## 3.1、MySQL实现
如果采用MySQL的存储一般是这样存储的首选设计表结构
```sql
CREATE TABLE `sl_transport_info` (
`id` bigint NOT NULL AUTO_INCREMENT,
`transport_order_id` varchar(20) CHARACTER SET utf8mb4 COLLATE utf8mb4_0900_ai_ci DEFAULT NULL COMMENT '运单号',
`status` varchar(10) DEFAULT NULL COMMENT '状态,例如:运输中',
`info` varchar(500) DEFAULT NULL COMMENT '详细信息,例如:您的快件已到达【北京通州分拣中心】',
`created` datetime DEFAULT NULL COMMENT '创建时间',
`updated` datetime DEFAULT NULL COMMENT '更新时间',
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=8 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci;
```
插入测试数据:
```sql
INSERT INTO `sl_transport_info`(`id`, `transport_order_id`, `status`, `info`, `created`, `updated`) VALUES (1, 'SL920733749248', '已取件', '神领快递员已取件, 取件人【快递员,电话 18810966207}】', '2022-09-25 10:48:30', '2022-09-25 10:48:33');
INSERT INTO `sl_transport_info`(`id`, `transport_order_id`, `status`, `info`, `created`, `updated`) VALUES (2, 'SL920733749262', '已取件', '神领快递员已取件, 取件人【快递员,电话 18810966207}】', '2022-09-25 10:51:11', '2022-09-25 10:51:14');
INSERT INTO `sl_transport_info`(`id`, `transport_order_id`, `status`, `info`, `created`, `updated`) VALUES (3, 'SL920733749248', '运输中', '您的快件已到达【昌平区转运中心】', '2022-09-25 11:14:33', '2022-09-25 11:14:36');
INSERT INTO `sl_transport_info`(`id`, `transport_order_id`, `status`, `info`, `created`, `updated`) VALUES (4, 'SL920733749248', '运输中', '您的快件已到达【北京市转运中心】', '2022-09-25 11:14:54', '2022-09-25 11:14:57');
INSERT INTO `sl_transport_info`(`id`, `transport_order_id`, `status`, `info`, `created`, `updated`) VALUES (5, 'SL920733749262', '运输中', '您的快件已到达【昌平区转运中心】', '2022-09-25 11:15:17', '2022-09-25 11:15:19');
INSERT INTO `sl_transport_info`(`id`, `transport_order_id`, `status`, `info`, `created`, `updated`) VALUES (6, 'SL920733749262', '运输中', '您的快件已到达【江苏省南京市玄武区长江路】', '2022-09-25 11:15:44', '2022-09-25 11:15:47');
INSERT INTO `sl_transport_info`(`id`, `transport_order_id`, `status`, `info`, `created`, `updated`) VALUES (7, 'SL920733749248', '已签收', '您的快递已签收,如有疑问请联系快递员【快递员}电话18810966207】感谢您使用神领快递期待再次为您服务', '2022-09-25 11:16:16', '2022-09-25 11:16:19');
```
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664092213385-f80b8c22-3292-4b2e-b919-e2d51357e9e1.png#averageHue=%23efece8&clientId=ued32fa98-8ebd-4&errorMessage=unknown%20error&from=paste&height=145&id=uec16aff6&name=image.png&originHeight=239&originWidth=1224&originalType=binary&ratio=1&rotation=0&showTitle=false&size=39091&status=error&style=shadow&taskId=u0b1a2bd5-e781-4d45-943e-46df2f95a1c&title=&width=741.8181389422481)
查询运单号【SL920733749248】的物流信息
```sql
SELECT
*
FROM
sl_transport_info
WHERE
transport_order_id = 'SL920733749248'
ORDER BY
created ASC
```
结果:
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664092348261-169f2264-0666-40ff-b009-0078a2936dbf.png#averageHue=%23f0ede9&clientId=ued32fa98-8ebd-4&errorMessage=unknown%20error&from=paste&height=90&id=u4fc06085&name=image.png&originHeight=148&originWidth=1223&originalType=binary&ratio=1&rotation=0&showTitle=false&size=23873&status=error&style=shadow&taskId=ue22f52fd-6744-4c54-a33b-0d46c8bd22d&title=&width=741.2120783712169)
## 3.2、MongoDB实现
基于MongoDB的实现可以充分利用MongoDB数据结构的特点可以这样存储
```json
{
"_id": ObjectId("62c6c679a1222549d64ba01e"),
"transportOrderId": "SL1000000000585",
"infoList": [
{
"created": NumberLong("1657192271195"),
"info": "神领快递员已取件, 取件人【快递员,电话 18810966207}】",
"status": "已取件"
},
{
"created": NumberLong("1657192328518"),
"info": "神领快递员已取件, 取件人【快递员,电话 18810966207}】",
"status": "已取件"
}
],
"created": NumberLong("1657194104987"),
"updated": NumberLong("1657194105064"),
"_class": "com.sl.transport.info.entity.TransportInfoEntity"
}
```
如果有新的信息加入的话只需要向【infoList】中插入元素即可查询的话按照【transportOrderId】条件查询。
`db.sl_transport_info.find({"transportOrderId":"SL1000000000585"})`
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664092612484-ffa78010-a4f9-47ff-b1e0-06404e2f0c1f.png#averageHue=%23f9f7f5&clientId=ued32fa98-8ebd-4&errorMessage=unknown%20error&from=paste&height=382&id=u02be16c1&name=image.png&originHeight=630&originWidth=945&originalType=binary&ratio=1&rotation=0&showTitle=false&size=62236&status=error&style=shadow&taskId=u7b5102cf-a55d-4a03-a90b-07858b6ec24&title=&width=572.7272396245298)
## 3.3、分析
从上面的实现分析来看MySQL存储在一张表中每条物流信息就是一条行数据数据条数将是运单数量的数倍查询时需要通过运单id作为条件按照时间正序排序得到所有的结果而MongoDB存储基于其自身特点可以将物流信息列表存储到属性中数据量等于运单量查询时只需要按照运单id查询即可。
所以使用MongoDB存储更适合物流信息这样的场景我们将基于MongoDB进行实现。
# 4、功能实现
## 4.1、Service实现
在TransportInfoService中定义了3个方法
- `saveOrUpdate()` 新增或更新数据
- `queryByTransportOrderId()` 根据运单号查询物流信息
### 4.2.1、saveOrUpdate
```java
@Resource
private MongoTemplate mongoTemplate;
@Override
public TransportInfoEntity saveOrUpdate(String transportOrderId, TransportInfoDetail infoDetail) {
//根据运单id查询
Query query = Query.query(Criteria.where("transportOrderId").is(transportOrderId)); //构造查询条件
TransportInfoEntity transportInfoEntity = this.mongoTemplate.findOne(query, TransportInfoEntity.class);
if (ObjectUtil.isEmpty(transportInfoEntity)) {
//运单信息不存在,新增数据
transportInfoEntity = new TransportInfoEntity();
transportInfoEntity.setTransportOrderId(transportOrderId);
transportInfoEntity.setInfoList(ListUtil.toList(infoDetail));
transportInfoEntity.setCreated(System.currentTimeMillis());
} else {
//运单信息存在,只需要追加物流详情数据
transportInfoEntity.getInfoList().add(infoDetail);
}
//无论新增还是更新都要设置更新时间
transportInfoEntity.setUpdated(System.currentTimeMillis());
//保存/更新到MongoDB
return this.mongoTemplate.save(transportInfoEntity);
}
```
### 4.2.2、查询
根据运单号查询物流信息。
```java
@Override
public TransportInfoEntity queryByTransportOrderId(String transportOrderId) {
//定义查询条件
Query query = Query.query(Criteria.where("transportOrderId").is(transportOrderId));
//查询数据
return this.mongoTemplate.findOne(query, TransportInfoEntity.class);
}
```
### 4.2.3、测试
通过测试用例进行测试:
```java
package com.sl.transport.info.service;
import com.sl.transport.info.entity.TransportInfoDetail;
import com.sl.transport.info.entity.TransportInfoEntity;
import org.junit.jupiter.api.Test;
import org.springframework.boot.test.context.SpringBootTest;
import javax.annotation.Resource;
import static org.junit.jupiter.api.Assertions.*;
@SpringBootTest
class TransportInfoServiceTest {
@Resource
private TransportInfoService transportInfoService;
@Test
void saveOrUpdate() {
String transportOrderId = "SL1000000001561";
TransportInfoDetail transportInfoDetail = TransportInfoDetail.builder()
.status("已取件")
.info("神领快递员已取件取件人【张三】电话13888888888")
.created(System.currentTimeMillis())
.build();
TransportInfoEntity transportInfoEntity = this.transportInfoService.saveOrUpdate(transportOrderId, transportInfoDetail);
System.out.println(transportInfoEntity);
}
@Test
void queryByTransportOrderId() {
String transportOrderId = "SL1000000001561";
this.transportInfoService.queryByTransportOrderId(transportOrderId);
}
}
```
测试结果:
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664201882512-7d32235c-3773-4f4f-a53c-29f0a9b473ac.png#averageHue=%23fdfbf8&clientId=ud5c0833f-2dad-4&errorMessage=unknown%20error&from=paste&height=210&id=u2ca6a05f&name=image.png&originHeight=346&originWidth=772&originalType=binary&ratio=1&rotation=0&showTitle=false&size=27312&status=error&style=shadow&taskId=u868ca5be-bd49-41fc-b977-a9f474b112f&title=&width=467.8787608361238)
## 4.2、记录物流信息
### 4.2.1、分析
通过前面的需求分析,可以发现新增物流信息的节点比较多,在取件、派件、物流转运环节都有记录物流信息,站在整体架构的方面的考虑,该如何在众多的业务点钟记录物流信息呢?
一般而言,会有两种方式,一种是微服务直接调用,另一种是通过消息的方式调用,也就是同步和异步的方式。选择哪种方式比较好呢?
在这里,我们选择通过消息的方式,主要原因有两个:
- 物流信息数据的更新的实时性并不高,例如,运单到达某个转运中心,晚几分种记录信息也是可以的。
- 更新数据时,并发量比较大,例如,一辆车装了几千或几万个包裹,到达某个转运中心后,司机入库时,需要一下记录几千或几万个运单的物流数据,在这一时刻并发量是比较大的,通过消息的方式,可以进行对流量削峰,从而保障系统的稳定性。
### 4.2.2、消息结构
消息的结构如下:
```json
{
"info": "您的快件已到达【$organId】",
"status": "运输中",
"organId": 1012479939628238305,
"transportOrderId": "SL920733749248",
"created": 1653133234913
}
```
可以看出在消息中有具体信息、状态、机构id、运单号、时间其中在info字段中约定通过`$organId`占位符表示机构,也就是,需要通过传入的`organId`查询机构名称替换到`info`中,当然了,如果没有机构,无需替换。
### 4.2.3、功能实现
在TransportInfoMQListener中对消息进行处理。
```java
package com.sl.transport.info.mq;
import cn.hutool.core.convert.Convert;
import cn.hutool.core.util.StrUtil;
import cn.hutool.json.JSONUtil;
import com.sl.ms.transport.api.OrganFeign;
import com.sl.transport.common.constant.Constants;
import com.sl.transport.common.vo.TransportInfoMsg;
import com.sl.transport.domain.OrganDTO;
import com.sl.transport.info.entity.TransportInfoDetail;
import com.sl.transport.info.service.TransportInfoService;
import org.springframework.amqp.core.ExchangeTypes;
import org.springframework.amqp.rabbit.annotation.Exchange;
import org.springframework.amqp.rabbit.annotation.Queue;
import org.springframework.amqp.rabbit.annotation.QueueBinding;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
import javax.annotation.Resource;
/**
* 物流信息消息
*/
@Component
public class TransportInfoMQListener {
@Resource
private OrganFeign organFeign;
@Resource
private TransportInfoService transportInfoService;
@RabbitListener(bindings = @QueueBinding(
value = @Queue(name = Constants.MQ.Queues.TRANSPORT_INFO_APPEND),
exchange = @Exchange(name = Constants.MQ.Exchanges.TRANSPORT_INFO, type = ExchangeTypes.TOPIC),
key = Constants.MQ.RoutingKeys.TRANSPORT_INFO_APPEND
))
public void listenTransportInfoMsg(String msg) {
//{"info":"您的快件已到达【$organId】", "status":"运输中", "organId":90001, "transportOrderId":920733749248 , "created":1653133234913}
TransportInfoMsg transportInfoMsg = JSONUtil.toBean(msg, TransportInfoMsg.class);
Long organId = transportInfoMsg.getOrganId();
String transportOrderId = Convert.toStr(transportInfoMsg.getTransportOrderId());
String info = transportInfoMsg.getInfo();
//查询机构信息
if (StrUtil.contains(info, "$organId")) {
OrganDTO organDTO = this.organFeign.queryById(organId);
if (organDTO == null) {
return;
}
info = StrUtil.replace(info, "$organId", organDTO.getName());
}
//封装Detail对象
TransportInfoDetail infoDetail = TransportInfoDetail.builder()
.info(info)
.status(transportInfoMsg.getStatus())
.created(transportInfoMsg.getCreated()).build();
//存储到MongoDB
this.transportInfoService.saveOrUpdate(transportOrderId, infoDetail);
}
}
```
### 4.2.4、测试
此次测试通过发消息的方式进行可以在RabbitMQ的管理界面中今天发送消息
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664243579522-51cde1ea-5843-4ccf-a798-cdc91f14970c.png#averageHue=%23faf9f9&clientId=u967c9d75-9b30-4&errorMessage=unknown%20error&from=paste&height=376&id=u730e53eb&name=image.png&originHeight=620&originWidth=1697&originalType=binary&ratio=1&rotation=0&showTitle=false&size=76983&status=error&style=shadow&taskId=ucae0106a-a672-4572-8fbb-127cbce6f9e&title=&width=1028.4847890400285)
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664243549763-3c7ad488-5021-4e04-9f0e-39ecdbbf7136.png#averageHue=%23fbfbfa&clientId=u967c9d75-9b30-4&errorMessage=unknown%20error&from=paste&height=319&id=uf6a53c96&name=image.png&originHeight=527&originWidth=1252&originalType=binary&ratio=1&rotation=0&showTitle=false&size=58211&status=error&style=shadow&taskId=uf07ef875-0c89-4b35-9501-669488fbad0&title=&width=758.787834931123)
结果:
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664243594609-dfbe789f-0a2e-47d0-981c-c6e6a8639a3e.png#averageHue=%23fdfcf9&clientId=u967c9d75-9b30-4&errorMessage=unknown%20error&from=paste&height=213&id=u5bd3060d&name=image.png&originHeight=351&originWidth=1087&originalType=binary&ratio=1&rotation=0&showTitle=false&size=29317&status=error&style=shadow&taskId=u408d5c78-3ce1-4bcc-bd07-286db8b6797&title=&width=658.7878407109671)
# 5、多级缓存解决方案
目前我们已经实现了物流信息的保存、更新操作基本功能已经了ok了但是有个问题我们还没解决就是前面提到的并发大的问题一般而言解决查询并发大的问题常见的手段是为查询接口增加缓存从而可以减轻持久层的压力。
按照我们以往的经验在查询接口中增加Redis缓存即可将查询的结果数据存储到Redis中执行查询时首先从Redis中命中如果命中直接返回即可没有命中查询MongoDB将解决写入到Redis中。
这样就解决问题了吗其实并不是试想一下如果Redis宕机了或者是Redis中的数据大范围的失效这样大量的并发压力就会进入持久层会对持久层有较大的影响甚至可能直接崩溃。
如何解决该问题呢,可以通过多级缓存的解决方案来进行解决。
## 5.1、什么是多级缓存
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664261583745-c849ed54-d1d7-486e-b969-410169b3fb77.png#averageHue=%23f8f6f5&clientId=u967c9d75-9b30-4&errorMessage=unknown%20error&from=paste&height=274&id=uad63b5a1&name=image.png&originHeight=452&originWidth=1495&originalType=binary&ratio=1&rotation=0&showTitle=false&size=95615&status=error&style=shadow&taskId=u20b7d124-7e47-4fcb-b4e4-dcc087bedae&title=&width=906.0605536917164)
由上图可以看出,在用户的一次请求中,可以设置多个缓存以提升查询的性能,能够快速响应。
- 浏览器的本地缓存
- 使用Nginx作为反向代理的架构时可以启用Nginx的本地缓存对于代理数据进行缓存
- 如果Nginx的本地缓存未命中可以在Nginx中编写Lua脚本从Redis中命中数据
- 如果Redis依然没有命中的话请求就会进入到Tomcat也就是执行我们写的程序在程序中可以设置进程级的缓存如果命中直接返回即可。
- 如果进程级的缓存依然没有命中的话,请求才会进入到持久层查询数据。
以上就是多级缓存的基本的设计思路,其核心思想就是让每一个请求节点尽可能的进行缓存操作。
:::danger
🚨说明由于我们没有学习过Lua脚本所以我们将Redis的查询逻辑放到程序中进行也就是我们将要在程序中实现二级缓存分别是JVM进程缓存和Redis缓存。
:::
## 5.2、Caffeine快速入门
Caffeine是一个基于Java8开发的提供了近乎最佳命中率的高性能的本地缓存库也就是可以通过Caffeine实现进程级的缓存。Spring内部的缓存使用的就是Caffeine。
Caffeine的性能非常强悍下图是官方给出的性能对比
![](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664275426398-78c14aa6-2d50-4f98-9b95-5faffecc15bf.png#averageHue=%23f8f5f4&clientId=u0e5ee64d-2205-4&errorMessage=unknown%20error&from=paste&height=407&id=u8ced8a50&originHeight=813&originWidth=1000&originalType=url&ratio=1&rotation=0&showTitle=false&status=error&style=shadow&taskId=u6632c6f3-045a-490f-9605-5bce85c548b&title=&width=500)
### 5.2.1、使用
导入依赖:
```xml
<!--jvm进程缓存-->
<dependency>
<groupId>com.github.ben-manes.caffeine</groupId>
<artifactId>caffeine</artifactId>
</dependency>
```
基本使用:
```java
package com.sl.transport.info.service;
import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;
import org.junit.jupiter.api.Test;
public class CaffeineTest {
@Test
public void testCaffeine() {
// 创建缓存对象
Cache<String, Object> cache = Caffeine.newBuilder()
.initialCapacity(10) //缓存初始容量
.maximumSize(100) //缓存最大容量
.build();
//将数据存储缓存中
cache.put("key1", 123);
// 从缓存中命中数据
// 参数一缓存的key
// 参数二Lambda表达式表达式参数就是缓存的key方法体是在未命中时执行
// 优先根据key查询进程缓存如果未命中则执行参数二的Lambda表达式执行完成后会将结果写入到缓存中
Object value1 = cache.get("key1", key -> 456);
System.out.println(value1); //123
Object value2 = cache.get("key2", key -> 456);
System.out.println(value2); //456
}
}
```
### 5.2.2、驱逐策略
Caffeine既然是缓存的一种肯定需要有缓存的清除策略不然的话内存总会有耗尽的时候。
Caffeine提供了三种缓存驱逐策略
- **基于容量**:设置缓存的数量上限
```java
// 创建缓存对象
Cache<String, String> cache = Caffeine.newBuilder()
.maximumSize(1) // 设置缓存大小上限为 1当缓存超出这个容量的时候会使用Window TinyLfu策略来删除缓存。
.build();
```
- **基于时间**:设置缓存的有效时间
```java
// 创建缓存对象
Cache<String, String> cache = Caffeine.newBuilder()
// 设置缓存有效期为 10 秒,从最后一次写入开始计时
.expireAfterWrite(Duration.ofSeconds(10))
.build();
```
- **基于引用**设置缓存为软引用或弱引用利用GC来回收缓存数据。性能较差不建议使用。
:::danger
**🚨注意:**在默认情况下当一个缓存元素过期的时候Caffeine不会自动立即将其清理和驱逐。而是在一次读或写操作后或者在空闲时间完成对失效数据的驱逐。
:::
## 5.3、一级缓存
下面我们通过增加Caffeine实现一级缓存主要是在 `com.sl.transport.info.controller.TransportInfoController` 中实现缓存逻辑。
### 5.3.1、Caffeine配置
```java
package com.sl.transport.info.config;
import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;
import com.sl.transport.info.domain.TransportInfoDTO;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
/**
* Caffeine缓存配置
*/
@Configuration
public class CaffeineConfig {
@Value("${caffeine.init}")
private Integer init;
@Value("${caffeine.max}")
private Integer max;
@Bean
public Cache<String, TransportInfoDTO> transportInfoCache() {
return Caffeine.newBuilder()
.initialCapacity(init)
.maximumSize(max).build();
}
}
```
具体的配置项在Nacos中的配置中心的`sl-express-ms-transport-info.properties`中:
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664277107452-06e079c2-71f0-4938-b48c-2fc1f6d77e8f.png#averageHue=%23212121&clientId=u0e5ee64d-2205-4&errorMessage=unknown%20error&from=paste&height=68&id=ub4baf062&name=image.png&originHeight=113&originWidth=361&originalType=binary&ratio=1&rotation=0&showTitle=false&size=11041&status=error&style=shadow&taskId=uf6ba9745-c811-4b7b-b441-fe70633a83a&title=&width=218.78786614228068)
### 5.3.2、实现缓存逻辑
在`com.sl.transport.info.controller.TransportInfoController`中进行数据的命中如果命中直接返回没有命中查询MongoDB。
```java
/**
* 根据运单id查询运单信息
*
* @param transportOrderId 运单号
* @return 运单信息
*/
@ApiImplicitParams({
@ApiImplicitParam(name = "transportOrderId", value = "运单id")
})
@ApiOperation(value = "查询", notes = "根据运单id查询物流信息")
@GetMapping("{transportOrderId}")
public TransportInfoDTO queryByTransportOrderId(@PathVariable("transportOrderId") String transportOrderId) {
TransportInfoDTO transportInfoDTO = this.transportInfoCache.get(transportOrderId, s -> {
TransportInfoEntity transportInfoEntity = this.transportInfoService.queryByTransportOrderId(transportOrderId);
return BeanUtil.toBean(transportInfoEntity, TransportInfoDTO.class);
});
if (ObjectUtil.isNotEmpty(transportInfoDTO)) {
return transportInfoDTO;
}
throw new SLException(ExceptionEnum.NOT_FOUND);
}
```
### 5.3.3、测试
未命中场景:
![image.png](https://cdn.nlark.com/yuque/0/2023/png/27683667/1677051729398-75e17d6a-25aa-4856-81c7-503873212b08.png#averageHue=%23fcfbfa&clientId=uea8e7eb2-964d-4&from=paste&height=257&id=u73d17dd4&name=image.png&originHeight=385&originWidth=1671&originalType=binary&ratio=1.5&rotation=0&showTitle=false&size=51188&status=done&style=shadow&taskId=u4fba9874-a27d-4e8f-8f90-da968f70064&title=&width=1114)
已命中:
![image.png](https://cdn.nlark.com/yuque/0/2023/png/27683667/1677051755851-17c1201e-14b6-4356-bd07-34682da60625.png#averageHue=%23fbf9f7&clientId=uea8e7eb2-964d-4&from=paste&height=261&id=udcaff191&name=image.png&originHeight=391&originWidth=1699&originalType=binary&ratio=1.5&rotation=0&showTitle=false&size=64158&status=done&style=shadow&taskId=ubc0cd1fc-f67f-4f1d-a11a-609c3bbb781&title=&width=1132.6666666666667)
响应结果:
![image.png](https://cdn.nlark.com/yuque/0/2023/png/27683667/1677051770104-17cf3341-d15b-4e7a-9078-0b2ee3bf9027.png#averageHue=%23fbfbfb&clientId=uea8e7eb2-964d-4&from=paste&height=454&id=uff8d8dcd&name=image.png&originHeight=681&originWidth=1192&originalType=binary&ratio=1.5&rotation=0&showTitle=false&size=100785&status=done&style=shadow&taskId=ud1f42202-7d17-4cee-99fe-cae599eb05b&title=&width=794.6666666666666)
## 5.4、二级缓存
二级缓存通过Redis的存储实现这里我们使用Spring Cache进行缓存数据的存储和读取。
### 5.4.1、Redis配置
Spring Cache默认是采用jdk的对象序列化方式这种方式比较占用空间而且性能差所以往往会将值以json的方式存储此时就需要对RedisCacheManager进行自定义的配置。
```java
package com.sl.transport.info.config;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.data.redis.cache.RedisCacheConfiguration;
import org.springframework.data.redis.cache.RedisCacheManager;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.data.redis.serializer.GenericJackson2JsonRedisSerializer;
import org.springframework.data.redis.serializer.RedisSerializationContext;
import org.springframework.data.redis.serializer.StringRedisSerializer;
import java.time.Duration;
/**
* Redis相关的配置
*/
@Configuration
public class RedisConfig {
/**
* 存储的默认有效期时间,单位:小时
*/
@Value("${redis.ttl:1}")
private Integer redisTtl;
@Bean
public RedisCacheManager redisCacheManager(RedisTemplate redisTemplate) {
// 默认配置
RedisCacheConfiguration defaultCacheConfiguration = RedisCacheConfiguration.defaultCacheConfig()
// 设置key的序列化方式为字符串
.serializeKeysWith(RedisSerializationContext.SerializationPair.fromSerializer(new StringRedisSerializer()))
// 设置value的序列化方式为json格式
.serializeValuesWith(RedisSerializationContext.SerializationPair.fromSerializer(new GenericJackson2JsonRedisSerializer()))
.disableCachingNullValues() // 不缓存null
.entryTtl(Duration.ofHours(redisTtl)); // 默认缓存数据保存1小时
// 构redis缓存管理器
RedisCacheManager redisCacheManager = RedisCacheManager.RedisCacheManagerBuilder
.fromConnectionFactory(redisTemplate.getConnectionFactory())
.cacheDefaults(defaultCacheConfiguration)
.transactionAware() // 只在事务成功提交后才会进行缓存的put/evict操作
.build();
return redisCacheManager;
}
}
```
### 5.4.2、缓存注解
接下来需要在Service中增加SpringCache的注解确保数据可以保存、更新数据到Redis。
```java
@Override
@CachePut(value = "transport-info", key = "#p0") //更新缓存数据
public TransportInfoEntity saveOrUpdate(String transportOrderId, TransportInfoDetail infoDetail) {
//省略代码
}
@Override
@Cacheable(value = "transport-info", key = "#p0") //新增缓存数据
public TransportInfoEntity queryByTransportOrderId(String transportOrderId) {
//省略代码
}
```
### 5.4.3、测试
重启服务进行功能测试发现数据可以正常写入到Redis中并且查询时二级缓存已经生效。
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664287185130-a103603f-eeda-4ff3-b089-2d48b6cd7ce5.png#averageHue=%23fcfbfb&clientId=u620a9c9d-9de0-4&errorMessage=unknown%20error&from=paste&height=336&id=u69438d31&name=image.png&originHeight=555&originWidth=1758&originalType=binary&ratio=1&rotation=0&showTitle=false&size=81349&status=error&style=shadow&taskId=u65b4beeb-56a2-4cf3-bc0a-8780fcea424&title=&width=1065.4544838729348)
到这里,已经完成了一级和二级缓存的逻辑。
## 5.5、一级缓存更新的问题
更新物流信息时只是更新了Redis中的数据并没有更新Caffeine中的数据需要在更新数据时将Caffeine中相应的数据删除。
具体实现如下:
```java
@Resource
private Cache<String, TransportInfoDTO> transportInfoCache;
@Override
@CachePut(value = "transport-info", key = "#p0") //更新缓存数据
public TransportInfoEntity saveOrUpdate(String transportOrderId, TransportInfoDetail infoDetail) {
//省略代码
//清除缓存中的数据
this.transportInfoCache.invalidate(transportOrderId);
//保存/更新到MongoDB
return this.mongoTemplate.save(transportInfoEntity);
}
```
这样的话就可以删除Caffeine中的数据也就意味着下次查询时会从二级缓存中查询到数据再存储到Caffeine中。
## 5.6、分布式场景下的问题
### 5.6.1、问题分析
通过前面的解决,视乎可以完成一级、二级缓存中数据的同步,如果在单节点项目中是没有问题的,但是,在分布式场景下是有问题的,看下图:
![](https://cdn.nlark.com/yuque/0/2022/jpeg/27683667/1664348845156-7c47fa2a-2e14-4b55-8f09-1e16c1162b98.jpeg)
说明:
- 部署了2个transport-info微服务节点每个微服务都有自己进程级的一级缓存都共享同一个Redis作为二级缓存
- 假设所有节点的一级和二级缓存都是空的此时用户通过节点1查询运单物流信息在完成后节点1的caffeine和Redis中都会有数据
- 接着系统通过节点2更新了物流数据此时节点2中的caffeine和Redis都是更新后的数据
- 用户还是进行查询动作依然是通过节点1查询此时查询到的将是旧的数据也就是出现了一级缓存与二级缓存之间的数据不一致的问题
### 5.6.2、问题解决
如何解决该问题呢可以通过消息的方式解决就是任意一个节点数据更新了数据发个消息出来通知其他节点其他节点接收到消息后将自己caffeine中相应的数据删除即可。
关于消息的实现可以采用RabbitMQ也可以采用Redis的消息订阅发布来实现在这里为了应用技术的多样化所以采用Redis的订阅发布来实现。
![](https://cdn.nlark.com/yuque/0/2022/jpeg/27683667/1664350421254-a16e7274-b540-4457-a5fb-957e4c64e9fa.jpeg)
:::info
Redis 发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消息,订阅者(sub)接收消息。
![image.png](https://cdn.nlark.com/yuque/0/2023/png/27683667/1672730986485-56e704a5-cf14-46a0-8663-9af815321c3d.png#averageHue=%23dcd8a7&clientId=uf341ec6b-5f9b-4&from=paste&height=238&id=ua061bf02&name=image.png&originHeight=357&originWidth=412&originalType=binary&ratio=1&rotation=0&showTitle=false&size=76706&status=done&style=shadow&taskId=ue149649c-b12b-431b-85d2-72367ea961c&title=&width=274.6666666666667)
当有新消息通过 publish 命令发送给频道 channel1 时, 这个消息就会被发送给订阅它的三个客户端。
Redis的订阅发布功能与传统的消息中间件RabbitMQ相比相对轻量一些针对数据准确和安全性要求没有那么高的场景可以直接使用。
:::
在`com.sl.transport.info.config.RedisConfig`增加订阅的配置:
```java
public static final String CHANNEL_TOPIC = "sl-express-ms-transport-info-caffeine";
/**
* 配置订阅用于解决Caffeine一致性的问题
*
* @param connectionFactory 链接工厂
* @param listenerAdapter 消息监听器
* @return 消息监听容器
*/
@Bean
public RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory,
MessageListenerAdapter listenerAdapter) {
RedisMessageListenerContainer container = new RedisMessageListenerContainer();
container.setConnectionFactory(connectionFactory);
container.addMessageListener(listenerAdapter, new ChannelTopic(CHANNEL_TOPIC));
return container;
}
```
编写`RedisMessageListener`用于监听消息删除caffeine中的数据。
```java
package com.sl.transport.info.mq;
import cn.hutool.core.convert.Convert;
import com.github.benmanes.caffeine.cache.Cache;
import com.sl.transport.info.domain.TransportInfoDTO;
import org.springframework.data.redis.connection.Message;
import org.springframework.data.redis.listener.adapter.MessageListenerAdapter;
import org.springframework.stereotype.Component;
import javax.annotation.Resource;
/**
* redis消息监听解决Caffeine一致性的问题
*/
@Component
public class RedisMessageListener extends MessageListenerAdapter {
@Resource
private Cache<String, TransportInfoDTO> transportInfoCache;
@Override
public void onMessage(Message message, byte[] pattern) {
//获取到消息中的运单id
String transportOrderId = Convert.toStr(message);
//将本jvm中的缓存删除掉
this.transportInfoCache.invalidate(transportOrderId);
}
}
```
更新数据后发送消息:
```java
@Resource
private StringRedisTemplate stringRedisTemplate;
@Override
@CachePut(value = "transport-info", key = "#p0")
public TransportInfoEntity saveOrUpdate(String transportOrderId, TransportInfoDetail infoDetail) {
//省略代码
//清除缓存中的数据
// this.transportInfoCache.invalidate(transportOrderId);
//发布订阅消息到redis
this.stringRedisTemplate.convertAndSend(RedisConfig.CHANNEL_TOPIC, transportOrderId);
//保存/更新到MongoDB
return this.mongoTemplate.save(transportInfoEntity);
}
```
### 5.6.3、测试
测试时需要启动2个相同的微服务但是端口不能重复需要设置不同的端口
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664365186896-73446955-89b7-47b0-b235-fd203eb868de.png#averageHue=%23f1f1f0&clientId=u8500a8c3-5dd6-4&errorMessage=unknown%20error&from=paste&height=505&id=u4ac2255d&name=image.png&originHeight=1009&originWidth=1424&originalType=binary&ratio=1&rotation=0&showTitle=false&size=70025&status=error&style=shadow&taskId=u14c9b07a-5fd3-48b3-ad19-0bf07759812&title=&width=712)
通过测试发现可以接收到Redis订阅的消息
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664365271955-3293c860-b53b-4e1f-9298-23e3449b70f5.png#averageHue=%23fcfbfa&clientId=u8500a8c3-5dd6-4&errorMessage=unknown%20error&from=paste&height=214&id=u88c70c74&name=image.png&originHeight=353&originWidth=1294&originalType=binary&ratio=1&rotation=0&showTitle=false&size=57219&status=error&style=shadow&taskId=ud901c6fc-a6df-45a2-92d8-0280d0f8ae5&title=&width=784.2423789144354)
最终可以解决多级缓存间的一致性的问题。
# 6、Redis的缓存问题
在使用Redis时在高并发场景下会出现一些问题常见的问题有缓存击穿、缓存雪崩、缓存穿透这三个问题也是面试时的高频问题。
## 6.1、缓存击穿
### 6.1.1、说明
缓存击穿是指某一热点数据存储到redis中该数据处于高并发场景下如果此时该key过期失效这样就会有大量的并发请求进入到数据库对数据库产生大的压力甚至会压垮数据库。
### 6.1.2、解决方案
针对于缓存击穿这种情况,常见的解决方案有两种:
- 热数据不设置过期时间
- 使用互斥锁可以使用redisson的分布式锁实现就是从redis中查询不到数据时不要立刻去查数据库而是先获取锁获取到锁后再去查询数据库而其他未获取到锁的请求进行重试这样就可以确保只有一个查询数据库并且更新缓存的请求。
![image-20210902105842482.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664437051846-42776744-ad7d-42d4-8b8f-9f4fd44fd503.png#averageHue=%23fbfbfb&clientId=ueed351ba-0f96-4&errorMessage=unknown%20error&from=paste&id=u11648b94&name=image-20210902105842482.png&originHeight=549&originWidth=808&originalType=binary&ratio=1&rotation=0&showTitle=false&size=61239&status=error&style=shadow&taskId=uef89a0f4-e7f0-4010-8bf7-1bc00b4713d&title=)
### 6.1.3、实现
在物流信息场景中,不涉及到此类问题,一般用户只会关注自己的运单信息,而不是并发的查询一个运单信息,所以该问题我们就暂不做实现,但是此类问题的解决方案的思想要学会。
当然了,防止有人恶意根据运单号查询,可以通过设置验证码的方式进行,如下(韵达快递官网):
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664436336270-45c71b82-3edd-4b54-94f6-913807f49861.png#averageHue=%23f7f5ed&clientId=ueed351ba-0f96-4&errorMessage=unknown%20error&from=paste&height=415&id=u0cbe1d61&name=image.png&originHeight=684&originWidth=1120&originalType=binary&ratio=1&rotation=0&showTitle=false&size=268572&status=error&style=shadow&taskId=u9004c39e-36b7-4391-9e09-3aaeaab9b2b&title=&width=678.7878395549983)
## 6.2、缓存雪崩
### 6.2.1、说明
缓存雪崩的情况往往是由两种情况产生:
- 情况1由于大量 key 设置了相同的过期时间(数据在缓存和数据库都存在),一旦到达过期时间点,这些 key 集体失效,造成访问这些 key 的请求全部进入数据库。
- 情况2Redis 实例宕机,大量请求进入数据库
### 6.2.2、解决方案
针对于雪崩问题,可以分情况进行解决:
- 情况1的解决方案
- 错开过期时间:在过期时间上加上随机值(比如 1~5 分钟)
- 服务降级:暂停非核心数据查询缓存,返回预定义信息(错误页面,空值等)
- 情况2的解决方案
- 事前预防:搭建高可用集群
- 构建多级缓存,实现成本稍高
- 熔断:通过监控一旦雪崩出现,暂停缓存访问待实例恢复,返回预定义信息(有损方案)
- 限流:通过监控一旦发现数据库访问量超过阈值,限制访问数据库的请求数(有损方案)
### 6.2.3、实现
我们将针对【情况1】的解决方案进行实现主要是在默认的时间基础上随机增加1-10分钟有效期时间。
需要注意的是使用SpringCache的`@Cacheable`注解是无法指定有效时间的,所以需要自定义`RedisCacheManager`对有效期时间进行随机设置。
自定义`RedisCacheManager`
```java
package com.sl.transport.info.config;
import cn.hutool.core.util.ObjectUtil;
import cn.hutool.core.util.RandomUtil;
import org.springframework.data.redis.cache.RedisCache;
import org.springframework.data.redis.cache.RedisCacheConfiguration;
import org.springframework.data.redis.cache.RedisCacheManager;
import org.springframework.data.redis.cache.RedisCacheWriter;
import java.time.Duration;
/**
* 自定义CacheManager用于设置不同的过期时间防止雪崩问题的发生
*/
public class MyRedisCacheManager extends RedisCacheManager {
public MyRedisCacheManager(RedisCacheWriter cacheWriter, RedisCacheConfiguration defaultCacheConfiguration) {
super(cacheWriter, defaultCacheConfiguration);
}
@Override
protected RedisCache createRedisCache(String name, RedisCacheConfiguration cacheConfig) {
//获取到原有过期时间
Duration duration = cacheConfig.getTtl();
if (ObjectUtil.isNotEmpty(duration)) {
//在原有时间上随机增加1~10分钟
Duration newDuration = duration.plusMinutes(RandomUtil.randomInt(1, 11));
cacheConfig = cacheConfig.entryTtl(newDuration);
}
return super.createRedisCache(name, cacheConfig);
}
}
```
使用`MyRedisCacheManager`
```java
@Bean
public RedisCacheManager redisCacheManager(RedisTemplate redisTemplate) {
// 默认配置
RedisCacheConfiguration defaultCacheConfiguration = RedisCacheConfiguration.defaultCacheConfig()
// 设置key的序列化方式为字符串
.serializeKeysWith(RedisSerializationContext.SerializationPair.fromSerializer(new StringRedisSerializer()))
// 设置value的序列化方式为json格式
.serializeValuesWith(RedisSerializationContext.SerializationPair.fromSerializer(new GenericJackson2JsonRedisSerializer()))
.disableCachingNullValues() // 不缓存null
.entryTtl(Duration.ofHours(redisTtl)); // 默认缓存数据保存1小时
// 构redis缓存管理器
// RedisCacheManager redisCacheManager = RedisCacheManager.RedisCacheManagerBuilder
// .fromConnectionFactory(redisTemplate.getConnectionFactory())
// .cacheDefaults(defaultCacheConfiguration)
// .transactionAware()
// .build();
//使用自定义缓存管理器
RedisCacheWriter redisCacheWriter = RedisCacheWriter.nonLockingRedisCacheWriter(redisTemplate.getConnectionFactory());
MyRedisCacheManager myRedisCacheManager = new MyRedisCacheManager(redisCacheWriter, defaultCacheConfiguration);
myRedisCacheManager.setTransactionAware(true); // 只在事务成功提交后才会进行缓存的put/evict操作
return myRedisCacheManager;
}
```
### 6.2.4、测试
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664457367655-aba52e28-2a16-4ccc-ae15-5e3ffd040a6d.png#averageHue=%23f9f7f5&clientId=ueed351ba-0f96-4&errorMessage=unknown%20error&from=paste&height=264&id=u7f15efd9&name=image.png&originHeight=435&originWidth=1110&originalType=binary&ratio=1&rotation=0&showTitle=false&size=44321&status=error&style=shadow&taskId=ua8665188-4baa-4345-8c70-db9c7195869&title=&width=672.7272338446858)
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664457432481-91f90ec4-ef8b-4fcf-af6d-9dbffc54032b.png#averageHue=%23f7f4f2&clientId=ueed351ba-0f96-4&errorMessage=unknown%20error&from=paste&height=365&id=u676174a4&name=image.png&originHeight=603&originWidth=1122&originalType=binary&ratio=1&rotation=0&showTitle=false&size=98167&status=error&style=shadow&taskId=ufca1b6d5-00b4-4df6-b475-72fcd98e9d6&title=&width=679.9999606970607)
## 6.3、缓存穿透
### 6.3.1、说明
缓存穿透是指,如果一个 key 在缓存和数据库都不存在,那么访问这个 key 每次都会进入数据库
- 很可能被恶意请求利用
- 缓存雪崩与缓存击穿都是数据库中有,但缓存暂时缺失
- 缓存雪崩与缓存击穿都能自然恢复,但缓存穿透则不能
### 6.3.2、解决方案
针对缓存穿透,一般有两种解决方案,分别是:
- 如果数据库没有,也将此不存在的 key 关联 null 值放入缓存,缺点是这样的 key 没有任何业务作用,白占空间
- 采用BloomFilter布隆过滤器解决基本思路就是将存在数据的哈希值存储到一个足够大的BitmapBit为单位存储数据可以大大节省存储空间在查询redis时先查询布隆过滤器如果数据不存在直接返回即可如果存在的话再执行缓存中命中、数据库查询等操作。
### 6.3.3、布隆过滤器
布隆过滤器Bloom Filter是1970年由布隆提出的它实际上是一个很长的二进制向量和一系列随机映射函数既然是二进制那存储的数据不是0就是1默认是0。
可以把它看作是这样的:
![](https://cdn.nlark.com/yuque/0/2022/jpeg/27683667/1664509547332-13435d42-c45f-417a-9084-b9beb131bcb4.jpeg)
需要将数据存入隆过滤器中,才能判断是否存在,存入时要通过哈希算法计算数据的哈希值,通过哈希值确定存储都哪个位置。如下:
![](https://cdn.nlark.com/yuque/0/2022/jpeg/27683667/1664520683063-4a00fa87-6a14-466f-be8e-561480dc70b8.jpeg)
:::danger
说明数据hello通过哈希算法计算哈希值假设得到的值为8这个值就是存储到布隆过滤器下标值。
:::
如何判断数据存在或者不存在呢和存储道理一样假设判断【java】数据是否存在首先通过哈希算法计算哈希值通过下标判断值是0还是1如果是0就不存在1就存在。
:::info
看到这里你一定会有这样的疑问不同的数据经过哈希算法计算可能会得到相同的值也就是【张三】和【王五】可能会得到相同的hash值会在同一个位置标记为1这样的话1个位置可能会代表多个数据也就是会出现误判没错这个就是布隆过滤器最大的一个缺点也是不可避免的特性。正因为这个特性所以布隆过滤器基本是不能做删除动作的。
:::
这里可以得出一个结论,使用布隆过滤器能够判断一定不存在,而不能用来判断一定存在。
布隆过滤器虽然不能完全避免误判但是可以降低误判率如何降低误判率呢就是增加多个哈希算法计算多个hash值因为不同的值经过多个哈希算法计算得到相同值的概率要低一些。
![](https://cdn.nlark.com/yuque/0/2022/jpeg/27683667/1664522285312-b49cc6e6-7735-4208-b7e5-ccfd1644e2f3.jpeg)
:::danger
说明可以看到【hello】值经过3个哈希算法实际不止3个会计算出3个值分别以这些值为坐标标记数据为1当判断值存在时同样要经过这3个哈希算法计算3个哈希值对应的都为1说明数据可能存在如果其中有一个为0就说明数据一定不存在。
在这里也能看出布隆过滤器的另外一个特性,哈希算法越多,误判率越低,但是所占用的空间越多,查询效率将越低。
:::
总结下布隆过滤器的优缺点:
- 优点
- 存储的二进制数据1或0不存储真实数据空间占用比较小且安全。
- 插入和查询速度非常快因为是基于数组下标的类似HashMap其时间复杂度是OK其中k是指哈希算法个数。
- 缺点
- 存在误判,可以通过增加哈希算法个数降低误判率,不能完全避免误判。
- 删除困难,因为一个位置可能会代表多个值,不能做删除。
牢记结论:布隆过滤器能够判断一定不存在,而不能用来判断一定存在。
### 6.3.4、实现
关于布隆过滤器的使用建议使用Google的Guava 或 Redission基于Redis实现前者是在单体架构下比较适合后者更适合在分布式场景下便于多个服务节点之间共享。
Redission基于Redis使用string类型数据生成二进制数组进行存储最大可用长度为4294967294。
引入Redission依赖
```xml
<dependency>
<groupId>org.redisson</groupId>
<artifactId>redisson</artifactId>
</dependency>
```
导入Redission的配置
```java
package com.sl.transport.info.config;
import cn.hutool.core.convert.Convert;
import cn.hutool.core.util.StrUtil;
import org.redisson.Redisson;
import org.redisson.api.RedissonClient;
import org.redisson.config.Config;
import org.redisson.config.SingleServerConfig;
import org.springframework.boot.autoconfigure.data.redis.RedisProperties;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import javax.annotation.Resource;
@Configuration
public class RedissonConfiguration {
@Resource
private RedisProperties redisProperties;
@Bean
public RedissonClient redissonSingle() {
Config config = new Config();
SingleServerConfig serverConfig = config.useSingleServer()
.setAddress("redis://" + redisProperties.getHost() + ":" + redisProperties.getPort());
if (null != (redisProperties.getTimeout())) {
serverConfig.setTimeout(1000 * Convert.toInt(redisProperties.getTimeout().getSeconds()));
}
if (StrUtil.isNotEmpty(redisProperties.getPassword())) {
serverConfig.setPassword(redisProperties.getPassword());
}
return Redisson.create(config);
}
}
```
自定义布隆过滤器配置:
```java
package com.sl.transport.info.config;
import lombok.Getter;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Configuration;
/**
* 布隆过滤器相关配置
*/
@Getter
@Configuration
public class BloomFilterConfig {
/**
* 名称默认sl-bloom-filter
*/
@Value("${bloom.name:sl-bloom-filter}")
private String name;
/**
* 布隆过滤器长度最大支持Integer.MAX_VALUE*24294967294默认1千万
*/
@Value("${bloom.expectedInsertions:10000000}")
private long expectedInsertions;
/**
* 误判率默认0.05
*/
@Value("${bloom.falseProbability:0.05d}")
private double falseProbability;
}
```
定义`BloomFilterService`接口:
```java
package com.sl.transport.info.service;
/**
* 布隆过滤器服务
*/
public interface BloomFilterService {
/**
* 初始化布隆过滤器
*/
void init();
/**
* 向布隆过滤器中添加数据
*
* @param obj 待添加的数据
* @return 是否成功
*/
boolean add(Object obj);
/**
* 判断数据是否存在
*
* @param obj 数据
* @return 是否存在
*/
boolean contains(Object obj);
}
```
编写实现类:
```java
package com.sl.transport.info.service.impl;
import com.sl.transport.info.config.BloomFilterConfig;
import com.sl.transport.info.service.BloomFilterService;
import org.redisson.api.RBloomFilter;
import org.redisson.api.RedissonClient;
import org.springframework.stereotype.Service;
import javax.annotation.PostConstruct;
import javax.annotation.Resource;
@Service
public class BloomFilterServiceImpl implements BloomFilterService {
@Resource
private RedissonClient redissonClient;
@Resource
private BloomFilterConfig bloomFilterConfig;
private RBloomFilter<Object> getBloomFilter() {
return this.redissonClient.getBloomFilter(this.bloomFilterConfig.getName());
}
@Override
@PostConstruct // spring启动后进行初始化
public void init() {
RBloomFilter<Object> bloomFilter = this.getBloomFilter();
bloomFilter.tryInit(this.bloomFilterConfig.getExpectedInsertions(), this.bloomFilterConfig.getFalseProbability());
}
@Override
public boolean add(Object obj) {
return this.getBloomFilter().add(obj);
}
@Override
public boolean contains(Object obj) {
return this.getBloomFilter().contains(obj);
}
}
```
改造TransportInfoController的查询逻辑如果布隆过滤器中不存在直接返回即可无需进行缓存命中。
```java
@ApiImplicitParams({
@ApiImplicitParam(name = "transportOrderId", value = "运单id")
})
@ApiOperation(value = "查询", notes = "根据运单id查询物流信息")
@GetMapping("{transportOrderId}")
public TransportInfoDTO queryByTransportOrderId(@PathVariable("transportOrderId") String transportOrderId) {
//如果布隆过滤器中不存在,无需缓存命中,直接返回即可
boolean contains = this.bloomFilterService.contains(transportOrderId);
if (!contains) {
throw new SLException(ExceptionEnum.NOT_FOUND);
}
TransportInfoDTO transportInfoDTO = transportInfoCache.get(transportOrderId, id -> {
//未命中查询MongoDB
TransportInfoEntity transportInfoEntity = this.transportInfoService.queryByTransportOrderId(id);
//转化成DTO
return BeanUtil.toBean(transportInfoEntity, TransportInfoDTO.class);
});
if (ObjectUtil.isNotEmpty(transportInfoDTO)) {
return transportInfoDTO;
}
throw new SLException(ExceptionEnum.NOT_FOUND);
}
```
改造`com.sl.transport.info.service.impl.TransportInfoServiceImpl#saveOrUpdate()`方法,将新增的运单数据写入到布隆过滤器中:
![image.png](https://cdn.nlark.com/yuque/0/2022/png/27683667/1664549083150-d29a61a9-2023-40bd-bcaa-6ae3415fb076.png#averageHue=%23fcfbf9&clientId=u2044af31-91bc-4&errorMessage=unknown%20error&from=paste&height=388&id=u7a081812&name=image.png&originHeight=641&originWidth=1653&originalType=binary&ratio=1&rotation=0&showTitle=false&size=97723&status=error&style=shadow&taskId=u82b372b9-b3d9-4d05-85c0-0b449adbb24&title=&width=1001.8181239146537)
:::danger
可见,通过布隆过滤器可以解决缓存穿透的问题,还有一点需要注意,如果有存在的数据没有写入都布隆过滤器中就会导致查询不到真实存在的数据。
:::
# 7、练习
## 7.1、练习1
难度系数:★★★★☆
描述在work微服务中完成发送【物流信息】的消息的逻辑这样的话work微服务就和transport-info微服务联系起来了。
提示一共有4处代码需要完善
- com.sl.ms.work.mq.CourierMQListener#listenCourierPickupMsg()
- com.sl.ms.work.service.impl.PickupDispatchTaskServiceImpl#saveTaskPickupDispatch()
- 此处实现难度较大,会涉及到基础服务系统消息模块,需要阅读相应的代码进行理解。
- com.sl.ms.work.service.impl.TransportOrderServiceImpl#updateStatus()
- com.sl.ms.work.service.impl.TransportOrderServiceImpl#updateByTaskId()
:::danger
另外,包裹的签收与拒收的消息已经在【快递员微服务】中实现,学生可自行阅读源码:
- com.sl.ms.web.courier.service.impl.TaskServiceImpl#sign()
- com.sl.ms.web.courier.service.impl.TaskServiceImpl#reject()
:::
# 8、面试连环问
:::info
面试官问:
- 你们项目中的物流信息那块存储是怎么做的为什么要选择MongoDB
- 针对于查询并发高的问题你们是怎么解决的?有用多级缓存吗?具体是怎么用的?
- 多级缓存间的数据不一致是如何解决的?
-说说在使用Redis场景中的缓存击穿、缓存雪崩、缓存穿透都是啥意思对应的解决方案是啥实际你解决过哪个问题
- 说说布隆过滤器的优缺点是什么?什么样的场景适合使用布隆过滤器?
:::