Spring Cloud Ribbon: сервисные вызовы с балансировкой нагрузки

Java
Spring Cloud Ribbon: сервисные вызовы с балансировкой нагрузки

Адрес фактического проекта электронной коммерции SpringBoot (20k+star):GitHub.com/macro-positive/…

Резюме

Spring Cloud Ribbon — один из основных компонентов подпроекта Spring Cloud Netflix. В основном он обеспечивает функции балансировки нагрузки для межсервисных вызовов и переадресацию шлюза API. В этой статье подробно рассказывается об его использовании.

Введение в ленту

В микросервисной архитектуре многие сервисы будут развернуты несколько раз.Когда другие сервисы вызывают сервис, необходимо учитывать, как обеспечить балансировку нагрузки. Балансировка нагрузки может повысить доступность и масштабируемость системы.Когда мы используем RestTemplate для вызова других сервисов, Ribbon может легко реализовать балансировку нагрузки.

Использование RestTemplate

RestTemplate — это HTTP-клиент, с его помощью мы можем легко вызывать HTTP-интерфейс и поддерживать методы GET, POST, PUT, DELETE и другие.

ПОЛУЧИТЬ метод запроса

<T> T getForObject(String url, Class<T> responseType, Object... uriVariables);

<T> T getForObject(String url, Class<T> responseType, Map<String, ?> uriVariables);

<T> T getForObject(URI url, Class<T> responseType);

<T> ResponseEntity<T> getForEntity(String url, Class<T> responseType, Object... uriVariables);

<T> ResponseEntity<T> getForEntity(String url, Class<T> responseType, Map<String, ?> uriVariables);

<T> ResponseEntity<T> getForEntity(URI var1, Class<T> responseType);

метод getForObject

Возвращаемый объект — это объект, преобразованный из данных в теле ответа, например:

@GetMapping("/{id}")
public CommonResult getUser(@PathVariable Long id) {
    return restTemplate.getForObject(userServiceUrl + "/user/{1}", CommonResult.class, id);
}

метод getForEntity

Возвращаемый объект — это объект ResponseEntity, который содержит в ответе некоторую важную информацию, такую ​​как заголовок ответа, код состояния ответа, тело ответа и т. д., например:

@GetMapping("/getEntityByUsername")
public CommonResult getEntityByUsername(@RequestParam String username) {
    ResponseEntity<CommonResult> entity = restTemplate.getForEntity(userServiceUrl + "/user/getByUsername?username={1}", CommonResult.class, username);
    if (entity.getStatusCode().is2xxSuccessful()) {
        return entity.getBody();
    } else {
        return new CommonResult("操作失败", 500);
    }
}

Метод POST-запроса

<T> T postForObject(String url, @Nullable Object request, Class<T> responseType, Object... uriVariables);

<T> T postForObject(String url, @Nullable Object request, Class<T> responseType, Map<String, ?> uriVariables);

<T> T postForObject(URI url, @Nullable Object request, Class<T> responseType);

<T> ResponseEntity<T> postForEntity(String url, @Nullable Object request, Class<T> responseType, Object... uriVariables);

<T> ResponseEntity<T> postForEntity(String url, @Nullable Object request, Class<T> responseType, Map<String, ?> uriVariables);

<T> ResponseEntity<T> postForEntity(URI url, @Nullable Object request, Class<T> responseType);

пример постфоробжекта

@PostMapping("/create")
public CommonResult create(@RequestBody User user) {
    return restTemplate.postForObject(userServiceUrl + "/user/create", user, CommonResult.class);
}

пример постфорентити

@PostMapping("/create")
public CommonResult create(@RequestBody User user) {
    return restTemplate.postForEntity(userServiceUrl + "/user/create", user, CommonResult.class).getBody();
}

Метод запроса PUT

void put(String url, @Nullable Object request, Object... uriVariables);

void put(String url, @Nullable Object request, Map<String, ?> uriVariables);

void put(URI url, @Nullable Object request);

Пример PUT-запроса

@PutMapping("/update")
public CommonResult update(@RequestBody User user) {
    restTemplate.put(userServiceUrl + "/user/update", user);
    return new CommonResult("操作成功",200);
}

УДАЛИТЬ метод запроса

void delete(String url, Object... uriVariables);

void delete(String url, Map<String, ?> uriVariables);

void delete(URI url);

УДАЛИТЬ пример запроса

@DeleteMapping("/delete/{id}")
public CommonResult delete(@PathVariable Long id) {
   restTemplate.delete(userServiceUrl + "/user/delete/{1}", null, id);
   return new CommonResult("操作成功",200);
}

Создайте пользовательский сервисный модуль

Сначала мы создаем пользовательский сервис для предоставления служебных вызовов ленте.

Добавьте связанные зависимости в pom.xml

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-web</artifactId>
</dependency>

Настроить в application.yml

В основном настройте порт и адрес центра регистрации.

server:
  port: 8201
spring:
  application:
    name: user-service
eureka:
  client:
    register-with-eureka: true
    fetch-registry: true
    service-url:
      defaultZone: http://localhost:8001/eureka/

Добавьте UserController для предоставления интерфейса вызова

Класс UserController определяет интерфейс CRUD, общий для объектов User.

/**
 * Created by macro on 2019/8/29.
 */
@RestController
@RequestMapping("/user")
public class UserController {

    private Logger LOGGER = LoggerFactory.getLogger(this.getClass());

    @Autowired
    private UserService userService;

    @PostMapping("/create")
    public CommonResult create(@RequestBody User user) {
        userService.create(user);
        return new CommonResult("操作成功", 200);
    }

    @GetMapping("/{id}")
    public CommonResult<User> getUser(@PathVariable Long id) {
        User user = userService.getUser(id);
        LOGGER.info("根据id获取用户信息，用户名称为：{}",user.getUsername());
        return new CommonResult<>(user);
    }

    @GetMapping("/getUserByIds")
    public CommonResult<List<User>> getUserByIds(@RequestParam List<Long> ids) {
        List<User> userList= userService.getUserByIds(ids);
        LOGGER.info("根据ids获取用户信息，用户列表为：{}",userList);
        return new CommonResult<>(userList);
    }

    @GetMapping("/getByUsername")
    public CommonResult<User> getByUsername(@RequestParam String username) {
        User user = userService.getByUsername(username);
        return new CommonResult<>(user);
    }

    @PostMapping("/update")
    public CommonResult update(@RequestBody User user) {
        userService.update(user);
        return new CommonResult("操作成功", 200);
    }

    @PostMapping("/delete/{id}")
    public CommonResult delete(@PathVariable Long id) {
        userService.delete(id);
        return new CommonResult("操作成功", 200);
    }
}

Создание модуля ленточной службы

Здесь мы создаем модуль ленточной службы для вызова модуля пользовательской службы для демонстрации вызовов службы балансировки нагрузки.

Добавьте связанные зависимости в pom.xml

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>

Настроить в application.yml

В основном настройте порт, адрес реестра и путь вызова пользовательской службы.

server:
  port: 8301
spring:
  application:
    name: ribbon-service
eureka:
  client:
    register-with-eureka: true
    fetch-registry: true
    service-url:
      defaultZone: http://localhost:8001/eureka/
service-url:
  user-service: http://user-service

Используйте аннотацию @LoadBalanced, чтобы дать RestTemplate возможность балансировать нагрузку.

Видно, что использовать функцию балансировки нагрузки Ribbon очень просто, она ничем не отличается от прямого использования RestTemplate, просто добавьте @LoadBalanced в RestTemplate.

/**
 * Created by macro on 2019/8/29.
 */
@Configuration
public class RibbonConfig {

    @Bean
    @LoadBalanced
    public RestTemplate restTemplate(){
        return new RestTemplate();
    }
}

Добавьте класс UserRibbonController.

Внедрите RestTemplate и используйте его для вызова соответствующих интерфейсов, предоставляемых пользовательской службой.Здесь демонстрируются вызовы GET и POST, а также можно сослаться на вызовы других методов.

/**
 * Created by macro on 2019/8/29.
 */
@RestController
@RequestMapping("/user")
public class UserRibbonController {
    @Autowired
    private RestTemplate restTemplate;
    @Value("${service-url.user-service}")
    private String userServiceUrl;

    @GetMapping("/{id}")
    public CommonResult getUser(@PathVariable Long id) {
        return restTemplate.getForObject(userServiceUrl + "/user/{1}", CommonResult.class, id);
    }

    @GetMapping("/getByUsername")
    public CommonResult getByUsername(@RequestParam String username) {
        return restTemplate.getForObject(userServiceUrl + "/user/getByUsername?username={1}", CommonResult.class, username);
    }

    @GetMapping("/getEntityByUsername")
    public CommonResult getEntityByUsername(@RequestParam String username) {
        ResponseEntity<CommonResult> entity = restTemplate.getForEntity(userServiceUrl + "/user/getByUsername?username={1}", CommonResult.class, username);
        if (entity.getStatusCode().is2xxSuccessful()) {
            return entity.getBody();
        } else {
            return new CommonResult("操作失败", 500);
        }
    }

    @PostMapping("/create")
    public CommonResult create(@RequestBody User user) {
        return restTemplate.postForObject(userServiceUrl + "/user/create", user, CommonResult.class);
    }

    @PostMapping("/update")
    public CommonResult update(@RequestBody User user) {
        return restTemplate.postForObject(userServiceUrl + "/user/update", user, CommonResult.class);
    }

    @PostMapping("/delete/{id}")
    public CommonResult delete(@PathVariable Long id) {
        return restTemplate.postForObject(userServiceUrl + "/user/delete/{1}", null, CommonResult.class, id);
    }
}

Демонстрация функции балансировки нагрузки

  • Запустите eureka-сервер на порту 8001;
  • Запустите службу пользователя на порту 8201;
  • Запустите еще одну пользовательскую службу на порту 8202, чего можно добиться, изменив конфигурацию запуска SpringBoot в IDEA:

  • В настоящее время работают следующие службы:

  • Можно обнаружить, что консоли пользовательских служб, работающие на 8201 и 8202, поочередно выводят следующую информацию:

Общая конфигурация ленты

Глобальная конфигурация

ribbon:
  ConnectTimeout: 1000 #服务请求连接超时时间（毫秒）
  ReadTimeout: 3000 #服务请求处理超时时间（毫秒）
  OkToRetryOnAllOperations: true #对超时请求启用重试机制
  MaxAutoRetriesNextServer: 1 #切换重试实例的最大个数
  MaxAutoRetries: 1 # 切换实例后重试最大次数
  NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #修改负载均衡算法

Укажите службу для настройки

Отличие от глобальной конфигурации в том, что ленточный узел висит под именем службы.Далее отдельная конфигурация при вызове user-service для ленточного-сервиса.

user-service:
  ribbon:
    ConnectTimeout: 1000 #服务请求连接超时时间（毫秒）
    ReadTimeout: 3000 #服务请求处理超时时间（毫秒）
    OkToRetryOnAllOperations: true #对超时请求启用重试机制
    MaxAutoRetriesNextServer: 1 #切换重试实例的最大个数
    MaxAutoRetries: 1 # 切换实例后重试最大次数
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #修改负载均衡算法

Стратегия балансировки нагрузки ленты

Так называемая стратегия балансировки нагрузки заключается в том, что когда служба A вызывает службу B, существует несколько экземпляров службы B. В это время служба A выбирает для вызова экземпляр B. Лента может выбирать следующие стратегии балансировки нагрузки.

  • com.netflix.loadbalancer.RandomRule: случайным образом из экземпляров, предоставляющих услугу;
  • com.netflix.loadbalancer.RoundRobinRule: в режиме линейного опроса он поддерживает счетчик и выбирает его по порядку из экземпляров, предоставляющих услуги.Первый выбирается в первый раз, второй выбирается во второй раз, и т. д. После последнего начните все заново;
  • com.netflix.loadbalancer.RetryRule: добавить механизм повтора на основе RoundRobinRule, то есть в течение заданного времени повтора повторно использовать стратегию линейного опроса для выбора доступных экземпляров;
  • com.netflix.loadbalancer.WeightedResponseTimeRule: расширение RoundRobinRule, чем быстрее скорость отклика, тем больше вес выборки, тем проще его выбрать;
  • com.netflix.loadbalancer.BestAvailableRule: выберите экземпляр с меньшим параллелизмом;
  • com.netflix.loadbalancer.AvailabilityFilteringRule: сначала отфильтруйте неисправные экземпляры, а затем выберите экземпляры с меньшим параллелизмом;
  • com.netflix.loadbalancer.ZoneAwareLoadBalancer: двойная фильтрация используется для фильтрации экземпляров и неисправных экземпляров, которые не находятся в одной зоне, и выбора экземпляров с меньшим параллелизмом.

используемые модули

springcloud-learning
├── eureka-server -- eureka注册中心
├── user-service -- 提供User对象CRUD接口的服务
└── ribbon-service -- ribbon服务调用测试服务

Адрес исходного кода проекта

GitHub.com/macro-positive/…

публика

проект торгового центраПолный набор учебных пособий сериализуется,Обратите внимание на публичный аккаунтПолучите это прямо сейчас.

公众号图片

Категории