Могу ли я использовать готовность модуля в качестве ограничения скорости?

1
8

Итак, мой сервис — это долгосрочный API-сервис. Каждый контейнер может обслуживать только 4 запроса одновременно. Если поступит 5-й запрос, сервис может начать отвечать очень медленно.

Поэтому я хочу использовать прокси-сервис за моим API в том же модуле. Если работают 4 запроса, prxoy может отключить готовность. Что должно заставить LB держать этот модуль подальше от новых запросов?

Это хорошая идея?

Некоторые советы по дизайну не помешают.

Симон
Вопрос задан31 мая 2024 г.

1 Ответ

Ваш ответ

Загрузить файл.