题目
设计基于CompletableFuture的异步缓存系统
信息
- 类型：问答
- 难度：⭐⭐⭐
考点
CompletableFuture高级用法, 函数式编程, 并发控制, 缓存设计模式, Java 8新特性综合应用
快速回答
实现要点：
- 使用
ConcurrentHashMap存储CompletableFuture保证原子性 - 通过
supplyAsync异步加载数据 - 用
completeExceptionally处理异常 - 实现
refreshAfterWrite自动刷新机制 - 采用
Optional包装值解决缓存穿透
核心设计原理
构建线程安全的异步缓存需要解决三个核心问题：1) 并发请求合并 2) 缓存失效策略 3) 异常处理机制。通过ConcurrentHashMap.computeIfAbsent()保证原子性操作，结合CompletableFuture实现异步计算管道，利用函数式编程简化流程控制。
代码实现示例
public class AsyncCache<K, V> {
private final ConcurrentHashMap<K, CompletableFuture<Optional<V>>> cache = new ConcurrentHashMap<>();
private final Function<K, V> loader;
private final Duration refreshAfter;
public AsyncCache(Function<K, V> loader, Duration refreshAfter) {
this.loader = loader;
this.refreshAfter = refreshAfter;
}
public CompletableFuture<Optional<V>> get(K key) {
return cache.compute(key, (k, future) -> {
if (future == null || isExpired(future)) {
return CompletableFuture.supplyAsync(() -> {
try {
return Optional.ofNullable(loader.apply(k));
} catch (Exception e) {
throw new CompletionException(e);
}
}).handle((result, ex) -> {
if (ex != null) {
// 记录异常并返回空值防止缓存穿透
return Optional.empty();
}
return result;
});
}
return future;
});
}
private boolean isExpired(CompletableFuture<Optional<V>> future) {
// 实现基于时间的过期检查（伪代码）
return System.currentTimeMillis() - future.getStartTime() > refreshAfter.toMillis();
}
}关键机制说明
- 请求合并：当多个线程同时请求相同key时，
computeIfAbsent()保证只有一个加载任务执行 - 自动刷新：通过
isExpired()检查时间戳，触发异步重新加载 - 缓存穿透防护：使用
Optional.empty()缓存空结果，避免频繁查询不存在的数据 - 异常隔离：
handle()方法捕获所有异常，防止因单次加载失败导致整个Future链崩溃
最佳实践
- 设置合理的线程池：通过
supplyAsync(loader, executor)指定自定义线程池，避免阻塞公共线程池 - 添加熔断机制：在
loader函数中集成熔断器（如Resilience4j）防止雪崩 - 二级缓存策略：结合Caffeine实现本地缓存+Redis分布式缓存的多级架构
- 监控集成：通过
CompletableFuture的回调记录加载耗时和成功率
常见错误
| 错误类型 | 后果 | 解决方案 |
|---|---|---|
| 未处理CompletionException | 调用线程无法获取真实异常 | 使用exceptionally()或handle()转换异常 |
| 直接缓存null值 | 导致频繁穿透到数据源 | 用Optional.empty()显式标记空值 |
| 同步调用get() | 阻塞调用线程失去异步优势 | 始终使用thenApply()/thenAccept()异步消费 |
扩展知识
- 背压处理：当数据源响应缓慢时，通过
Semaphore限制并发加载数量 - 响应式集成：使用
CompletableFuture.toCompletionStage()与Reactive Streams（如Project Reactor）交互 - GC优化：对大型值对象使用
SoftReference包装，避免OOM - 分布式扩展：通过Redis Pub/Sub实现多节点缓存失效通知
