Шпаргалка · Архитектура
Обнаружение сервисов
Проблема
Сервис заказов вызывает экземпляры склада, которые запускаются, останавливаются и переезжают. Как реестр с heartbeat'ами заменяет зашитые IP, и три способа его спросить: из клиента, через DNS или через балансировщик.
Чему вы научитесь
- Почему зашитые адреса ломаются, как только экземпляры переезжают
- Как экземпляры регистрируются и как heartbeat'ы убирают мёртвые
- Client-side и server-side discovery
- Обнаружение через DNS и чего стоит его TTL
Диаграмма как код
Итоговая схема урока в виде текста: вставьте её в Jira, GitLab, GitHub, Notion или документацию, там Mermaid рисуется сам. Есть варианты для D2 и PlantUML (Confluence, IntelliJ).
Mermaid: схема
flowchart LR
n_orders["Сервис заказов"]
n_inv_a["Склад A"]
n_inv_c["Склад C"]
n_registry[("Реестр сервисов")]
n_inv_d["Склад D"]
n_lb{"Балансировщик"}
n_inv_c -.-> n_registry
n_inv_d -.-> n_registry
n_orders --> n_lb
n_lb --> n_inv_c
n_lb --> n_inv_d
n_registry -.-> n_lb
classDef down fill:#fde2e2,stroke:#c62828,color:#4a0d0d,stroke-dasharray:4 3
class n_inv_a downMermaid: последовательность запросов
sequenceDiagram
participant n_orders as Сервис заказов
participant n_inv_a as Склад A
participant n_inv_b as Склад B
participant n_inv_c as Склад C
participant n_registry as Реестр сервисов
participant n_lb as Балансировщик
Note over n_orders,n_inv_a: Два IP в конфиге
n_orders->>n_inv_a: GET /v1/stock/sku_19 HTTP/1.1
n_inv_a-->>n_orders: HTTP/1.1 200 OK
Note over n_orders,n_inv_b: Экземпляр переехал, конфиг — нет
n_orders-xn_inv_b: GET /v1/stock/sku_19 HTTP/1.1
Note over n_inv_c,n_registry: Экземпляры регистрируются сами
n_inv_c->>n_registry: PUT /v1/agent/service/register HTTP/1.1
n_registry-->>n_inv_c: HTTP/1.1 200 OK
Note over n_orders,n_registry: Обнаружение на стороне клиента
n_orders->>n_registry: GET /v1/health/service/inventory?passing=true HTTP/1.1
n_registry-->>n_orders: HTTP/1.1 200 OK
Note over n_orders,n_inv_a: Упавший экземпляр остался в списке
n_orders-xn_inv_a: GET /v1/stock/sku_19 HTTP/1.1
Note over n_inv_c,n_registry: Heartbeat и проверки здоровья
n_inv_c->>n_registry: PUT /v1/agent/check/pass/service:inv-c HTTP/1.1
n_registry-->>n_inv_c: HTTP/1.1 200 OK
Note over n_orders,n_registry: Обнаружение через DNS
n_orders->>n_registry: dig @registry.internal -p 8600 inventory.service.internal A
n_registry-->>n_orders: #59;#59; ANSWER SECTION:
Note over n_orders,n_lb: Обнаружение на стороне сервера: спрашивает балансировщик
n_orders->>n_lb: GET /v1/stock/sku_19 HTTP/1.1
n_lb-->>n_orders: HTTP/1.1 200 OKD2
direction: right
n_orders: "Сервис заказов" {
shape: rectangle
}
n_inv_a: "Склад A" {
shape: rectangle
style.fill: "#fde2e2"
style.stroke: "#c62828"
style.stroke-dash: 3
}
n_inv_c: "Склад C" {
shape: rectangle
}
n_registry: "Реестр сервисов" {
shape: cylinder
}
n_inv_d: "Склад D" {
shape: rectangle
}
n_lb: "Балансировщик" {
shape: diamond
}
n_inv_c -> n_registry {
style.stroke-dash: 3
}
n_inv_d -> n_registry {
style.stroke-dash: 3
}
n_orders -> n_lb
n_lb -> n_inv_c
n_lb -> n_inv_d
n_registry -> n_lb {
style.stroke-dash: 3
}PlantUML: последовательность запросов
@startuml
participant "Сервис заказов" as n_orders
participant "Склад A" as n_inv_a
participant "Склад B" as n_inv_b
participant "Склад C" as n_inv_c
database "Реестр сервисов" as n_registry
participant "Балансировщик" as n_lb
note over n_orders, n_inv_a : Два IP в конфиге
n_orders -> n_inv_a : GET /v1/stock/sku_19 HTTP/1.1
n_inv_a --> n_orders : HTTP/1.1 200 OK
note over n_orders, n_inv_b : Экземпляр переехал, конфиг — нет
n_orders ->x n_inv_b : [потеряно] GET /v1/stock/sku_19 HTTP/1.1
note over n_inv_c, n_registry : Экземпляры регистрируются сами
n_inv_c -> n_registry : PUT /v1/agent/service/register HTTP/1.1
n_registry --> n_inv_c : HTTP/1.1 200 OK
note over n_orders, n_registry : Обнаружение на стороне клиента
n_orders -> n_registry : GET /v1/health/service/inventory?passing=true HTTP/1.1
n_registry --> n_orders : HTTP/1.1 200 OK
note over n_orders, n_inv_a : Упавший экземпляр остался в списке
n_orders ->x n_inv_a : [потеряно] GET /v1/stock/sku_19 HTTP/1.1
note over n_inv_c, n_registry : Heartbeat и проверки здоровья
n_inv_c -> n_registry : PUT /v1/agent/check/pass/service:inv-c HTTP/1.1
n_registry --> n_inv_c : HTTP/1.1 200 OK
note over n_orders, n_registry : Обнаружение через DNS
n_orders -> n_registry : dig @registry.internal -p 8600 inventory.service.internal A
n_registry --> n_orders : ;; ANSWER SECTION:
note over n_orders, n_lb : Обнаружение на стороне сервера: спрашивает балансировщик
n_orders -> n_lb : GET /v1/stock/sku_19 HTTP/1.1
n_lb --> n_orders : HTTP/1.1 200 OK
@endumlPlantUML: компоненты
@startuml
left to right direction
component "Сервис заказов" as n_orders
component "Склад A" as n_inv_a #fde2e2;line:c62828;line.dashed
component "Склад C" as n_inv_c
database "Реестр сервисов" as n_registry
component "Склад D" as n_inv_d
node "Балансировщик" as n_lb
n_inv_c ..> n_registry
n_inv_d ..> n_registry
n_orders --> n_lb
n_lb --> n_inv_c
n_lb --> n_inv_d
n_registry ..> n_lb
@endumlИтог
Никогда не пишите адреса экземпляров руками.
1) При старте экземпляры регистрируют имя и адрес в реестре. 2) Heartbeat с TTL и активные проверки здоровья убирают мёртвые экземпляры автоматически. 3) Client-side: вызывающий сам спрашивает реестр и балансирует, лишнего шага нет. 4) Server-side: балансировщик спрашивает за вас, вызывающие проще, но на один шаг больше. 5) DNS работает везде, но следите за TTL и кэшированием.
Показатели: в начале и в конце
| Показатель | В начале | В конце |
|---|---|---|
| Неудачные запросы к складу | 0,1% | 0,3% |
| Время до отключения мёртвого экземпляра | 1 800 с | 15 с |
| Живые экземпляры склада | 2 | 2 |
Шаги
- Кейс Два IP в конфиге
Перед каждым заказом сервис заказов проверяет остаток.
- Проблема Экземпляр переехал, конфиг — нет
После отказа хоста платформа заменила экземпляр B.
- Решение Экземпляры регистрируются сами
Реестр сервисов — маленькая высокодоступная база: кто где запущен.
- Решение Обнаружение на стороне клиента
Заказы спрашивают у реестра здоровые экземпляры
inventory, кэшируют список на несколько секунд и сами выбирают экземпляр на каждый вызов, по кругу. - Проблема Упавший экземпляр остался в списке
У хоста экземпляра A пропало питание.
- Решение Heartbeat и проверки здоровья
Теперь каждый экземпляр раз в 5 секунд сообщает «я жив», с TTL 15 секунд.
- Кейс Обнаружение через DNS
Реестр умеет отвечать и по DNS.
- Решение Обнаружение на стороне сервера: спрашивает балансировщик
Теперь заказы зовут одно стабильное имя,
inventory.internal. - Итоги Итоги
Никогда не пишите адреса экземпляров руками.
Термины
- Service discovery (обнаружение сервисов)
- Экземпляры при старте записывают имя и адрес в реестр и удаляются, когда пропадает heartbeat. Вызывающий берёт адрес не из конфига, а из реестра: сам (client-side), через балансировщик (server-side) или через DNS.