Шагая в яму Конфигурация очереди пула потоков Spring Cloud Hystrix

Spring

задний план:

Однажды в производственной среде внезапно оказалось, что многие платежные поручения приостановлены.Позже, после выяснения причины, было обнаружено, что исключение вызова Hystrix произошло во время внутреннего системного вызова. В процессе разработки, поскольку количество основных потоков установлено относительно большим, это исключение не возникает. Я поставил его в тестовой среде, и это случалось время от времени. Позже я нашел решение в Интернете. Решение в Интернете заключалось в том, чтобы настроить свойство maxQueueSize. Оно было настроено в то время, и оно действительно улучшилось. Я не ожидал, что это произойдет снова после некоторого времени работы в производственной среде.В этот раз моей первой мыслью было проверить свойство maxQueueSize, но свойство maxQueueSize является установленным значением. В то время мне было интересно, почему не работает свойство maxQueueSize.Позже, проверив официальную документацию, я узнал, что у Hystrix также есть свойство queueSizeRejectionThreshold.Это свойство управляет максимальным порогом очереди, а Hystrix только настраивается с 5 по умолчанию, поэтому, даже если мы установим maxQueueSize, независимо от того, насколько велико значение, оно не будет работать. Оба свойства должны быть настроены одновременно

Сначала посмотрите на правильное положение конфигурации Hystrix.

приложение.yml:

hystrix:
  threadpool:
    default:
      coreSize: 200 #并发执行的最大线程数,默认10
      maxQueueSize: 1000 #BlockingQueue的最大队列数,默认值-1
      queueSizeRejectionThreshold: 800 #即使maxQueueSize没有达到,达到queueSizeRejectionThreshold该值后,请求也会被拒绝,默认值5

Затем напишите тестовый класс, чтобы проверить несколько неверных конфигураций и посмотреть, что произойдет.

Код тестового класса (вызывающий):


/**
 * @Author: XiongFeng
 * @Description:
 * @Date: Created in 11:12 2018/6/11
 */
public class RepaymentHelperTest extends FundApplicationTests {

    @Autowired
    RepaymentHelper repaymentHelper;
    @Autowired
    private RouterFeign routerFeign;

    @Test
    public void hystrixTest() throws InterruptedException {

        for (int i = 0; i < 135; i++) {
            new Thread(new Runnable() {
                @Override
                public void run() {
                    job();
                }
            }).start();
        }

        Thread.currentThread().join();
    }

    public void job() {
        String repaymentNo = "xf1002";
        String transNo = "T4324324234";
        String reqNo = "xf1002";
        String begintime = "20180831130030";
        String endtime = "20180831130050";

        TransRecQueryReqDto transRecQueryReqDto = new TransRecQueryReqDto();
        transRecQueryReqDto.setTransNo(transNo);
        transRecQueryReqDto.setBeginTime(begintime);
        transRecQueryReqDto.setEndTime(endtime);
        transRecQueryReqDto.setReqNo(reqNo);

        Resp<List<TransRecDto>> queryTransRecListResp = routerFeign.queryTransRec(new Req<>(repaymentNo, "2018080200000002", null, null, transRecQueryReqDto));

        System.out.println(String.format("获取结果为:【%s】", JsonUtil.toJson(queryTransRecListResp)));
    }
}
  • Функция этого тестового класса состоит в том, чтобы создать 135 потоков и одновременно запросить сервер B через класс RouterFeign, чтобы проверить, является ли результат запроса ненормальным.

Притворитесь, что вызывающий код:


@FeignClient(value = "${core.name}", fallbackFactory = RouterFeignBackFactory.class, path = "/router")
public interface RouterFeign {

    /**
     * 代扣结果查询
     * @param transRecQueryReqDtoReq
     * @return
     */
    @PostMapping("/queryTransRec")
    Resp<List<TransRecDto>> queryTransRec(@RequestBody Req<TransRecQueryReqDto> transRecQueryReqDtoReq);

}
  • Этот класс должен вызывать клиента B-сервера через Feign.

Код услуг поставщика услуг (обслуживание б):

/**
 * @Author: XiongFeng
 * @Description:
 * @Date: Created in 16:04 2018/5/24
 */
@Api("还款服务")
@RefreshScope
@RestController
@RequestMapping("/router")
public class TestController {

    private static Logger logger = LoggerFactory.getLogger(TestController.class);

    // 计数器
    private static AtomicInteger count = new AtomicInteger(1);

    @ApiOperation(value = "代扣结果查询")
    @PostMapping("/queryTransRec")
    Resp<List<TransRecDto>> queryTransRec(@RequestBody Req<TransRecQueryReqDto> transRecQueryReqDtoReq) throws InterruptedException {
        System.out.println(String.format("查询支付结果......计数: %s", count.getAndAdd(1)));
        Thread.sleep(500);
        return Resp.success(RespStatus.SUCCESS.getDesc(), null);
    }
    
  • Роль этого класса — быть поставщиком услуг, подсчитывающим и возвращающим результаты.

Давайте рассмотрим несколько неправильных конфигураций.

Случай 1 (уменьшите количество основных потоков, увеличьте максимальное количество очередей, но уменьшите порог отклонения очереди):
hystrix:
  threadpool:
    default:
      coreSize: 10
      maxQueueSize: 1000
      queueSizeRejectionThreshold: 20
Результат на данный момент:

image

  • B служба сервиса левая сторона, правильное окно является абонентом. Как видно из результатов, вызов 135 раз, примерно в 32 раза успешно, все остальные потоки бросают исключения.
Случай 2 (снижен номер основного потока, максимальное количество очередей, но очередь отказалась от пороговых настроек):
hystrix:
  threadpool:
    default:
      coreSize: 10
      maxQueueSize: 15
      queueSizeRejectionThreshold: 2000
Результат на данный момент:
java.util.concurrent.RejectedExecutionException: Task java.util.concurrent.FutureTask@7d6d472b rejected from java.util.concurrent.ThreadPoolExecutor@17f8bcb7[Running, pool size = 3, active threads = 3, queued tasks = 15, completed tasks = 0]

image

  • Левое окно — это сервер B, а правое окно — это вызывающий абонент A. Из результатов видно, что после 135 вызовов, примерно 25 успешных раз, все остальные потоки выбрасывают исключения. .
Случай 3 (уменьшить количество основных потоков и увеличить максимальное количество очередей, но порог отклонения очереди не установлен):
hystrix:
  threadpool:
    default:
      coreSize: 10
      maxQueueSize: 1500
Результат на данный момент:
java.util.concurrent.RejectedExecutionException: Rejected command because thread-pool queueSize is at rejection threshold.

image

  • Левое окно — это сервер B, а правое окно — это вызывающий абонент A. Результат на данный момент такой же, как и в случае 1. Он вызывается 135 раз и примерно 47 раз завершается успешно, а все остальные потоки выдают исключения. Ошибка та же, что и в случае
Случай 4 (количество основных потоков снижено, максимальное количество очередей не задано, но задан относительно большой порог отклонения очереди):
hystrix:
  threadpool:
    default:
      coreSize: 10
      queueSizeRejectionThreshold: 1000
Результат на данный момент:
java.util.concurrent.RejectedExecutionException: Task java.util.concurrent.FutureTask@23d268ea rejected from java.util.concurrent.ThreadPoolExecutor@66d0e2f4[Running, pool size = 0, active threads = 0, queued tasks = 0, completed tasks = 0]
	at java.util.concurrent.ThreadPoolExecutor$AbortPolicy.rejectedExecution(ThreadPoolExecutor.java:2063)
	at java.util.concurrent.ThreadPoolExecutor.reject(ThreadPoolExecutor.java:830)
	at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:1379)
	at java.util.concurrent.AbstractExecutorService.submit(AbstractExecutorService.java:112)

image

  • Левое окно — это сервер B, а правое окно — это вызывающий абонент A. Результат в это время такой же, как и в случае 2. Он вызывается 135 раз, около 10 раз успешны, а все остальные потоки выбрасывают исключения. Ошибка та же, что и в случае 2.

Давайте посмотрим на пример правильной конфигурации

Случай 1: уменьшите количество основных потоков и установите максимальное количество очередей и порог отклонения очереди на большее значение):
hystrix:
  threadpool:
    default:
      coreSize: 10
      maxQueueSize: 1500
      queueSizeRejectionThreshold: 1000
Результат на данный момент:

image

  • Левое окно — это сервер B, а правое окно — это вызывающий абонент A. На данный момент результат совершенно нормальный, одновременных запросов 135 раз, и все они успешны!
Вывод: Официальный порог очереди по умолчанию всего 5. Если вы хотите настроить очередь, вы должны изменить значения атрибутов maxQueueSize и queueSizeRejectionThreshold одновременно, иначе произойдет исключение!
Справочная документация:

Официальная документация Spring Hystrix

Оригинальный адрес:Woohoo SEI Buddha Neng Talent/2018/12/08/…