«Улучшение производительности» расширяет Spring Cache для поддержки многоуровневого кэширования.

Spring Boot Java

Зачем многоуровневый кэш

Внедрение кеша — это то, что сейчас должно учитываться большинством систем.

  • Redis является обычным промежуточным программным обеспечением, хотя наша общая бизнес-система (в конце концов, объем бизнеса ограничен) не столкнется со снижением производительности, как показано на рисунке ниже, с увеличением размера данных и сложностью структуры данных, но Потребление сетевых операций ввода-вывода станет всей цепочкой вызовов — частью дороги, которую нельзя игнорировать. Особенно в микросервисной архитектуре вызов часто включает в себя несколько вызовов, таких какаутентификация клиента для свиньи oauth2.0[1]
  • Кофеин поступает из будущего локального кеша памяти, и его производительность намного выше, чем у обычной реализации кеша памяти.Подробное сравнение[2].

Всеобъемлющий: нам нужно создать кеш уровня L1 Caffeine JVM, кеш L2 Redis.

Сложности дизайна

В настоящее время большинство кэшей приложений реализовано на основе Spring Cache, а технология кэширования на основе аннотаций имеет следующие проблемы:

  • Spring Cache поддерживает только один источник кеша, то есть можно выбрать только реализацию Redis или реализацию Caffeine, и их нельзя использовать одновременно.
  • Согласованность данных: проблема согласованности данных между кэшами различных уровней, например, проблема согласованности данных перед кэшем прикладного уровня и распределенным кэшем.
  • Истечение срока действия кэша: Spring Cache не поддерживает активные стратегии истечения срока действия.

Бизнес-процесс

как пользоваться

    1. импортировать зависимости
<dependency>
    <groupId>com.pig4cloud.plugin</groupId>
    <artifactId>multilevel-cache-spring-boot-starter</artifactId>
    <version>0.0.1</version>
</dependency>
    1. Включить поддержку кеша
@EnableCaching
public class App {
 public static void main(String[] args) {
  SpringApplication.run(App.class, args);
 }
}
    1. Объявление целевого интерфейса Аннотация Spring Cache
@Cacheable(value = "get",key = "#key")
@GetMapping("/get")
public String get(String key){
    return "success";
}

Сравнение производительности

Для обеспечения производительности Redis установлен в петле 127.0.0.1.

  • OS: macOS Mojave
  • CPU: 2.3 GHz Intel Core i5
  • RAM: 8 GB 2133 MHz LPDDR3
  • JVM: corretto_11.jdk
Benchmark Mode Cnt Score Units
Многоуровневая реализация thrpt 2 2716.074 ops/s
редис по умолчанию thrpt 2 1373.476 ops/s

Принцип кода

    1. Пользовательская реализация многоуровневого кэша CacheManager
public class RedisCaffeineCacheManager implements CacheManager {

 @Override
 public Cache getCache(String name) {
  Cache cache = cacheMap.get(name);
  if (cache != null) {
   return cache;
  }
  cache = new RedisCaffeineCache(name, stringKeyRedisTemplate, caffeineCache(), cacheConfigProperties);
  Cache oldCache = cacheMap.putIfAbsent(name, cache);
  log.debug("create cache instance, the cache name is : {}", name);
  return oldCache == null ? cache : oldCache;
 }
}
    1. Реализация многоуровневой стратегии чтения и истечения срока действия
public class RedisCaffeineCache extends AbstractValueAdaptingCache {
 protected Object lookup(Object key) {
  Object cacheKey = getKey(key);

    // 1. 先调用 caffeine 查询是否存在指定的值
  Object value = caffeineCache.getIfPresent(key);
  if (value != null) {
   log.debug("get cache from caffeine, the key is : {}", cacheKey);
   return value;
  }

    // 2. 调用 redis 查询在指定的值
  value = stringKeyRedisTemplate.opsForValue().get(cacheKey);

  if (value != null) {
   log.debug("get cache from redis and put in caffeine, the key is : {}", cacheKey);
   caffeineCache.put(key, value);
  }
  return value;
 }
}
    1. Политика истечения срока действия, все операции обновления обновляются на основе механизма публикации/подписки сообщений redis.
public class RedisCaffeineCache extends AbstractValueAdaptingCache {
 @Override
 public void put(Object key, Object value) {
  push(new CacheMessage(this.name, key));
 }

 @Override
 public ValueWrapper putIfAbsent(Object key, Object value) {
    push(new CacheMessage(this.name, key));
 }

 @Override
 public void evict(Object key) {
  push(new CacheMessage(this.name, key));
 }

 @Override
 public void clear() {
  push(new CacheMessage(this.name, null));
 }

 private void push(CacheMessage message) {
  stringKeyRedisTemplate.convertAndSend(topic, message);
 }
}
    1. MessageListener удаляет указанное значение указанного Caffeine
public class CacheMessageListener implements MessageListener {

 private final RedisTemplate<Object, Object> redisTemplate;

 private final RedisCaffeineCacheManager redisCaffeineCacheManager;

 @Override
 public void onMessage(Message message, byte[] pattern) {
  CacheMessage cacheMessage = (CacheMessage) redisTemplate.getValueSerializer().deserialize(message.getBody());
    cacheMessage.getCacheName(), cacheMessage.getKey());
  redisCaffeineCacheManager.clearLocal(cacheMessage.getCacheName(), cacheMessage.getKey());
 }
}

Адрес источника

github.com/pig-mesh/multilevel-cache-spring-boot-starter

gitee.com/log4j/pig

использованная литература

[1]

аутентификация клиента для свиньи oauth2.0:https://gitee.com/log4j/pig

 [2]

Подробное сравнение:https://github.com/ben-manes/caffeine/wiki/Benchmarks

Категории