mufassall

Шпаргалка · Архитектура

Саги и outbox

15 мин · Продвинутый · mufassall.dtwin.uz/ru/l/sagas/

← Открыть урок

Проблема

Одному заказу нужны оплата и резерв товара в двух других сервисах, у каждого своя база. Общей транзакции, в которую всё это завернуть, нет. Как удержать три сервиса в согласии и не заблокировать всю систему.

Чему вы научитесь

  • Почему одна транзакция БД не может охватить три сервиса
  • Во что обходится двухфазный коммит и почему его избегают
  • Сага: локальные шаги и компенсации, оркестрация или хореография
  • Outbox: запись в БД и событие больше не расходятся
Итоговая сцена
30%30%

Диаграмма как код

Итоговая схема урока в виде текста: вставьте её в Jira, GitLab, GitHub, Notion или документацию, там Mermaid рисуется сам. Есть варианты для D2 и PlantUML (Confluence, IntelliJ).

Mermaid: схема

flowchart LR
  n_client(["Приложение магазина"])
  n_orders["Заказы"]
  n_odb[("База заказов")]
  n_payments["Платежи"]
  n_inventory["Склад"]
  n_bus[["Лог событий"]]
  n_relay("Outbox relay")
  n_client -->|"вызов"| n_orders
  n_orders -->|"вызов"| n_odb
  n_bus ==>|"дубль"| n_payments
  n_payments -.->|"асинхронно"| n_bus
  n_bus -->|"асинхронно"| n_inventory
  n_relay -->|"вызов"| n_odb
  n_relay ==>|"дубль"| n_bus

Mermaid: последовательность запросов

sequenceDiagram
  participant n_client as Приложение магазина
  participant n_orders as Заказы
  participant n_inventory as Склад
  participant n_payments as Платежи
  participant n_odb as База заказов
  participant n_bus as Лог событий
  Note over n_client,n_orders: Один заказ, три базы
  n_client->>n_orders: POST /orders HTTP/1.1
  n_orders-->>n_client: HTTP/1.1 202 Accepted
  Note over n_orders,n_inventory: Деньги списаны, вызов склада упал
  n_orders->>n_inventory: POST /reservations HTTP/1.1
  n_inventory-->>n_orders: HTTP/1.1 503 Service Unavailable
  Note over n_orders,n_payments: Двухфазный коммит: сначала все голосуют
  n_orders->>n_payments: PREPARE tx=ord_1042
  n_payments-->>n_orders: VOTE yes
  Note over n_orders,n_payments: Координатор падает после голосования
  n_orders-xn_payments: PREPARE tx=ord_1042 -#62; VOTE yes
  Note over n_orders,n_odb: Сага: цепочка локальных транзакций
  n_orders->>n_odb: INSERT INTO sagas (id, order_id, step, status)
  n_odb-->>n_orders: UPDATE 1
  Note over n_orders,n_payments: Сбой: отмена компенсирующим действием
  n_orders->>n_payments: POST /charges/ch_88/refunds HTTP/1.1
  n_payments-->>n_orders: HTTP/1.1 201 Created
  Note over n_orders,n_bus: Хореография: сервисы реагируют на события
  n_orders->>n_bus: produce topic=orders key=1042
  n_bus-->>n_orders: ack partition=3 offset=7713
  Note over n_orders,n_bus: В базе сохранено, событие не ушло
  n_orders-xn_bus: produce topic=orders key=1042
  Note over n_orders,n_odb: Outbox: событие пишется вместе с заказом
  n_orders->>n_odb: BEGIN#59;
  n_odb-->>n_orders: COMMIT
  Note over n_bus,n_payments: At-least-once: потребитель отбрасывает дубли
  n_bus->>n_payments: deliver topic=orders key=1042 offset=7714
  n_payments-->>n_bus: INSERT INTO processed (event_id) VALUES ('ev_5c1') ON CONFLICT DO NOTHING

D2

direction: right

n_client: "Приложение магазина" {
  shape: rectangle
}
n_orders: "Заказы" {
  shape: rectangle
}
n_odb: "База заказов" {
  shape: cylinder
}
n_payments: "Платежи" {
  shape: rectangle
}
n_inventory: "Склад" {
  shape: rectangle
}
n_bus: "Лог событий" {
  shape: queue
}
n_relay: "Outbox relay" {
  shape: rectangle
  style.multiple: true
}

n_client -> n_orders: "вызов"
n_orders -> n_odb: "вызов"
n_bus -> n_payments: "дубль" {
  style.stroke-width: 4
}
n_payments -> n_bus: "асинхронно" {
  style.stroke-dash: 3
}
n_bus -> n_inventory: "асинхронно"
n_relay -> n_odb: "вызов"
n_relay -> n_bus: "дубль" {
  style.stroke-width: 4
}

PlantUML: последовательность запросов

@startuml
participant "Приложение магазина" as n_client
participant "Заказы" as n_orders
participant "Склад" as n_inventory
participant "Платежи" as n_payments
database "База заказов" as n_odb
queue "Лог событий" as n_bus
note over n_client, n_orders : Один заказ, три базы
n_client -> n_orders : POST /orders HTTP/1.1
n_orders --> n_client : HTTP/1.1 202 Accepted
note over n_orders, n_inventory : Деньги списаны, вызов склада упал
n_orders -> n_inventory : POST /reservations HTTP/1.1
n_inventory --> n_orders : HTTP/1.1 503 Service Unavailable
note over n_orders, n_payments : Двухфазный коммит: сначала все голосуют
n_orders -> n_payments : PREPARE tx=ord_1042
n_payments --> n_orders : VOTE yes
note over n_orders, n_payments : Координатор падает после голосования
n_orders ->x n_payments : [потеряно] PREPARE tx=ord_1042 -> VOTE yes
note over n_orders, n_odb : Сага: цепочка локальных транзакций
n_orders -> n_odb : INSERT INTO sagas (id, order_id, step, status)
n_odb --> n_orders : UPDATE 1
note over n_orders, n_payments : Сбой: отмена компенсирующим действием
n_orders -> n_payments : POST /charges/ch_88/refunds HTTP/1.1
n_payments --> n_orders : HTTP/1.1 201 Created
note over n_orders, n_bus : Хореография: сервисы реагируют на события
n_orders ->> n_bus : produce topic=orders key=1042
n_bus -->> n_orders : ack partition=3 offset=7713
note over n_orders, n_bus : В базе сохранено, событие не ушло
n_orders ->x n_bus : [потеряно] produce topic=orders key=1042
note over n_orders, n_odb : Outbox: событие пишется вместе с заказом
n_orders -> n_odb : BEGIN;
n_odb --> n_orders : COMMIT
note over n_bus, n_payments : At-least-once: потребитель отбрасывает дубли
n_bus ->> n_payments : [дубль] deliver topic=orders key=1042 offset=7714
n_payments -->> n_bus : INSERT INTO processed (event_id) VALUES ('ev_5c1') ON CONFLICT DO NOTHING
@enduml

PlantUML: компоненты

@startuml
left to right direction
agent "Приложение магазина" as n_client
component "Заказы" as n_orders
database "База заказов" as n_odb
component "Платежи" as n_payments
component "Склад" as n_inventory
queue "Лог событий" as n_bus
collections "Outbox relay" as n_relay
n_client --> n_orders : вызов
n_orders --> n_odb : вызов
n_bus -[bold]-> n_payments : дубль
n_payments ..> n_bus : асинхронно
n_bus --> n_inventory : асинхронно
n_relay --> n_odb : вызов
n_relay -[bold]-> n_bus : дубль
@enduml

Итог

Четыре правила для работы, которая охватывает несколько сервисов.

1) Транзакции между сервисами нет; избегайте 2PC — он вешает всех на самом медленном узле. 2) Используйте сагу: локальные шаги, у каждого компенсация, через оркестратор или события. 3) Пишите события через outbox в той же транзакции, что и данные. 4) Доставка — хотя бы один раз, поэтому каждый потребитель отбрасывает дубли по event_id.

Показатели: в начале и в конце

ПоказательВ началеВ конце
Заказ p95320 мс190 мс
Списано без заказа0/день0/день
Потерянные события0/день0/день

Шаги

  1. Кейс Один заказ, три базы

    Приложение оформляет заказ.

  2. Проблема Деньги списаны, вызов склада упал

    Платежи списали деньги.

  3. Кейс Двухфазный коммит: сначала все голосуют

    Координатор (здесь — Заказы) просит каждого участника сделать prepare: выполнить работу, заблокировать строки и проголосовать.

  4. Проблема Координатор падает после голосования

    Заказы упали между голосами и решением.

  5. Решение Сага: цепочка локальных транзакций

    Отказываемся от глобальной блокировки.

  6. Решение Сбой: отмена компенсирующим действием

    Склад отвечает «нет в наличии».

  7. Кейс Хореография: сервисы реагируют на события

    Другой способ вести ту же сагу — без оркестратора.

  8. Проблема В базе сохранено, событие не ушло

    Заказы коммитят заказ, а потом публикуют событие: две отдельные записи.

  9. Решение Outbox: событие пишется вместе с заказом

    Заказы пишут заказ и событие в таблицу outbox одной локальной транзакцией.

  10. Решение At-least-once: потребитель отбрасывает дубли

    Relay опубликовал ev_5c1 и упал, не успев пометить строку отправленной.

  11. Итоги Итоги

    Четыре правила для работы, которая охватывает несколько сервисов.

Термины

Двухфазный коммит (2PC)
Координатор сначала просит всех участников подготовиться и проголосовать, и только если все «за», рассылает commit. Участники всё это время держат блокировки и зависают, если координатор упал, поэтому 2PC избегают.
Сага
Работа через несколько сервисов идёт цепочкой локальных транзакций, у каждого шага есть компенсация. Если шаг упал, предыдущие отменяются компенсирующими действиями; цепочкой управляет оркестратор или события (хореография).
Outbox
Сервис пишет данные и событие в таблицу outbox одной локальной транзакцией, а отдельный relay публикует событие в брокер. Событие может опоздать, но больше не потеряется.
Доставка at-least-once
Сообщение доставляется минимум один раз, а иногда дважды. Поэтому потребитель отбрасывает дубли по event_id или пишет идемпотентно.