mufassall

Шпаргалка · Архитектура

Обнаружение сервисов

11 мин · Средний · mufassall.dtwin.uz/ru/l/service-discovery/

← Открыть урок

Проблема

Сервис заказов вызывает экземпляры склада, которые запускаются, останавливаются и переезжают. Как реестр с heartbeat'ами заменяет зашитые IP, и три способа его спросить: из клиента, через DNS или через балансировщик.

Чему вы научитесь

  • Почему зашитые адреса ломаются, как только экземпляры переезжают
  • Как экземпляры регистрируются и как heartbeat'ы убирают мёртвые
  • Client-side и server-side discovery
  • Обнаружение через DNS и чего стоит его TTL
Итоговая сцена
30%30%40%40%

Диаграмма как код

Итоговая схема урока в виде текста: вставьте её в Jira, GitLab, GitHub, Notion или документацию, там Mermaid рисуется сам. Есть варианты для D2 и PlantUML (Confluence, IntelliJ).

Mermaid: схема

flowchart LR
  n_orders["Сервис заказов"]
  n_inv_a["Склад A"]
  n_inv_c["Склад C"]
  n_registry[("Реестр сервисов")]
  n_inv_d["Склад D"]
  n_lb{"Балансировщик"}
  n_inv_c -.-> n_registry
  n_inv_d -.-> n_registry
  n_orders --> n_lb
  n_lb --> n_inv_c
  n_lb --> n_inv_d
  n_registry -.-> n_lb
  classDef down fill:#fde2e2,stroke:#c62828,color:#4a0d0d,stroke-dasharray:4 3
  class n_inv_a down

Mermaid: последовательность запросов

sequenceDiagram
  participant n_orders as Сервис заказов
  participant n_inv_a as Склад A
  participant n_inv_b as Склад B
  participant n_inv_c as Склад C
  participant n_registry as Реестр сервисов
  participant n_lb as Балансировщик
  Note over n_orders,n_inv_a: Два IP в конфиге
  n_orders->>n_inv_a: GET /v1/stock/sku_19 HTTP/1.1
  n_inv_a-->>n_orders: HTTP/1.1 200 OK
  Note over n_orders,n_inv_b: Экземпляр переехал, конфиг — нет
  n_orders-xn_inv_b: GET /v1/stock/sku_19 HTTP/1.1
  Note over n_inv_c,n_registry: Экземпляры регистрируются сами
  n_inv_c->>n_registry: PUT /v1/agent/service/register HTTP/1.1
  n_registry-->>n_inv_c: HTTP/1.1 200 OK
  Note over n_orders,n_registry: Обнаружение на стороне клиента
  n_orders->>n_registry: GET /v1/health/service/inventory?passing=true HTTP/1.1
  n_registry-->>n_orders: HTTP/1.1 200 OK
  Note over n_orders,n_inv_a: Упавший экземпляр остался в списке
  n_orders-xn_inv_a: GET /v1/stock/sku_19 HTTP/1.1
  Note over n_inv_c,n_registry: Heartbeat и проверки здоровья
  n_inv_c->>n_registry: PUT /v1/agent/check/pass/service:inv-c HTTP/1.1
  n_registry-->>n_inv_c: HTTP/1.1 200 OK
  Note over n_orders,n_registry: Обнаружение через DNS
  n_orders->>n_registry: dig @registry.internal -p 8600 inventory.service.internal A
  n_registry-->>n_orders: #59;#59; ANSWER SECTION:
  Note over n_orders,n_lb: Обнаружение на стороне сервера: спрашивает балансировщик
  n_orders->>n_lb: GET /v1/stock/sku_19 HTTP/1.1
  n_lb-->>n_orders: HTTP/1.1 200 OK

D2

direction: right

n_orders: "Сервис заказов" {
  shape: rectangle
}
n_inv_a: "Склад A" {
  shape: rectangle
  style.fill: "#fde2e2"
  style.stroke: "#c62828"
  style.stroke-dash: 3
}
n_inv_c: "Склад C" {
  shape: rectangle
}
n_registry: "Реестр сервисов" {
  shape: cylinder
}
n_inv_d: "Склад D" {
  shape: rectangle
}
n_lb: "Балансировщик" {
  shape: diamond
}

n_inv_c -> n_registry {
  style.stroke-dash: 3
}
n_inv_d -> n_registry {
  style.stroke-dash: 3
}
n_orders -> n_lb
n_lb -> n_inv_c
n_lb -> n_inv_d
n_registry -> n_lb {
  style.stroke-dash: 3
}

PlantUML: последовательность запросов

@startuml
participant "Сервис заказов" as n_orders
participant "Склад A" as n_inv_a
participant "Склад B" as n_inv_b
participant "Склад C" as n_inv_c
database "Реестр сервисов" as n_registry
participant "Балансировщик" as n_lb
note over n_orders, n_inv_a : Два IP в конфиге
n_orders -> n_inv_a : GET /v1/stock/sku_19 HTTP/1.1
n_inv_a --> n_orders : HTTP/1.1 200 OK
note over n_orders, n_inv_b : Экземпляр переехал, конфиг — нет
n_orders ->x n_inv_b : [потеряно] GET /v1/stock/sku_19 HTTP/1.1
note over n_inv_c, n_registry : Экземпляры регистрируются сами
n_inv_c -> n_registry : PUT /v1/agent/service/register HTTP/1.1
n_registry --> n_inv_c : HTTP/1.1 200 OK
note over n_orders, n_registry : Обнаружение на стороне клиента
n_orders -> n_registry : GET /v1/health/service/inventory?passing=true HTTP/1.1
n_registry --> n_orders : HTTP/1.1 200 OK
note over n_orders, n_inv_a : Упавший экземпляр остался в списке
n_orders ->x n_inv_a : [потеряно] GET /v1/stock/sku_19 HTTP/1.1
note over n_inv_c, n_registry : Heartbeat и проверки здоровья
n_inv_c -> n_registry : PUT /v1/agent/check/pass/service:inv-c HTTP/1.1
n_registry --> n_inv_c : HTTP/1.1 200 OK
note over n_orders, n_registry : Обнаружение через DNS
n_orders -> n_registry : dig @registry.internal -p 8600 inventory.service.internal A
n_registry --> n_orders : ;; ANSWER SECTION:
note over n_orders, n_lb : Обнаружение на стороне сервера: спрашивает балансировщик
n_orders -> n_lb : GET /v1/stock/sku_19 HTTP/1.1
n_lb --> n_orders : HTTP/1.1 200 OK
@enduml

PlantUML: компоненты

@startuml
left to right direction
component "Сервис заказов" as n_orders
component "Склад A" as n_inv_a #fde2e2;line:c62828;line.dashed
component "Склад C" as n_inv_c
database "Реестр сервисов" as n_registry
component "Склад D" as n_inv_d
node "Балансировщик" as n_lb
n_inv_c ..> n_registry
n_inv_d ..> n_registry
n_orders --> n_lb
n_lb --> n_inv_c
n_lb --> n_inv_d
n_registry ..> n_lb
@enduml

Итог

Никогда не пишите адреса экземпляров руками.

1) При старте экземпляры регистрируют имя и адрес в реестре. 2) Heartbeat с TTL и активные проверки здоровья убирают мёртвые экземпляры автоматически. 3) Client-side: вызывающий сам спрашивает реестр и балансирует, лишнего шага нет. 4) Server-side: балансировщик спрашивает за вас, вызывающие проще, но на один шаг больше. 5) DNS работает везде, но следите за TTL и кэшированием.

Показатели: в начале и в конце

ПоказательВ началеВ конце
Неудачные запросы к складу0,1%0,3%
Время до отключения мёртвого экземпляра1 800 с15 с
Живые экземпляры склада22

Шаги

  1. Кейс Два IP в конфиге

    Перед каждым заказом сервис заказов проверяет остаток.

  2. Проблема Экземпляр переехал, конфиг — нет

    После отказа хоста платформа заменила экземпляр B.

  3. Решение Экземпляры регистрируются сами

    Реестр сервисов — маленькая высокодоступная база: кто где запущен.

  4. Решение Обнаружение на стороне клиента

    Заказы спрашивают у реестра здоровые экземпляры inventory, кэшируют список на несколько секунд и сами выбирают экземпляр на каждый вызов, по кругу.

  5. Проблема Упавший экземпляр остался в списке

    У хоста экземпляра A пропало питание.

  6. Решение Heartbeat и проверки здоровья

    Теперь каждый экземпляр раз в 5 секунд сообщает «я жив», с TTL 15 секунд.

  7. Кейс Обнаружение через DNS

    Реестр умеет отвечать и по DNS.

  8. Решение Обнаружение на стороне сервера: спрашивает балансировщик

    Теперь заказы зовут одно стабильное имя, inventory.internal.

  9. Итоги Итоги

    Никогда не пишите адреса экземпляров руками.

Термины

Service discovery (обнаружение сервисов)
Экземпляры при старте записывают имя и адрес в реестр и удаляются, когда пропадает heartbeat. Вызывающий берёт адрес не из конфига, а из реестра: сам (client-side), через балансировщик (server-side) или через DNS.