Шпаргалка · Архитектура
Саги и outbox
Проблема
Одному заказу нужны оплата и резерв товара в двух других сервисах, у каждого своя база. Общей транзакции, в которую всё это завернуть, нет. Как удержать три сервиса в согласии и не заблокировать всю систему.
Чему вы научитесь
- Почему одна транзакция БД не может охватить три сервиса
- Во что обходится двухфазный коммит и почему его избегают
- Сага: локальные шаги и компенсации, оркестрация или хореография
- Outbox: запись в БД и событие больше не расходятся
Диаграмма как код
Итоговая схема урока в виде текста: вставьте её в Jira, GitLab, GitHub, Notion или документацию, там Mermaid рисуется сам. Есть варианты для D2 и PlantUML (Confluence, IntelliJ).
Mermaid: схема
flowchart LR
n_client(["Приложение магазина"])
n_orders["Заказы"]
n_odb[("База заказов")]
n_payments["Платежи"]
n_inventory["Склад"]
n_bus[["Лог событий"]]
n_relay("Outbox relay")
n_client -->|"вызов"| n_orders
n_orders -->|"вызов"| n_odb
n_bus ==>|"дубль"| n_payments
n_payments -.->|"асинхронно"| n_bus
n_bus -->|"асинхронно"| n_inventory
n_relay -->|"вызов"| n_odb
n_relay ==>|"дубль"| n_busMermaid: последовательность запросов
sequenceDiagram
participant n_client as Приложение магазина
participant n_orders as Заказы
participant n_inventory as Склад
participant n_payments as Платежи
participant n_odb as База заказов
participant n_bus as Лог событий
Note over n_client,n_orders: Один заказ, три базы
n_client->>n_orders: POST /orders HTTP/1.1
n_orders-->>n_client: HTTP/1.1 202 Accepted
Note over n_orders,n_inventory: Деньги списаны, вызов склада упал
n_orders->>n_inventory: POST /reservations HTTP/1.1
n_inventory-->>n_orders: HTTP/1.1 503 Service Unavailable
Note over n_orders,n_payments: Двухфазный коммит: сначала все голосуют
n_orders->>n_payments: PREPARE tx=ord_1042
n_payments-->>n_orders: VOTE yes
Note over n_orders,n_payments: Координатор падает после голосования
n_orders-xn_payments: PREPARE tx=ord_1042 -#62; VOTE yes
Note over n_orders,n_odb: Сага: цепочка локальных транзакций
n_orders->>n_odb: INSERT INTO sagas (id, order_id, step, status)
n_odb-->>n_orders: UPDATE 1
Note over n_orders,n_payments: Сбой: отмена компенсирующим действием
n_orders->>n_payments: POST /charges/ch_88/refunds HTTP/1.1
n_payments-->>n_orders: HTTP/1.1 201 Created
Note over n_orders,n_bus: Хореография: сервисы реагируют на события
n_orders->>n_bus: produce topic=orders key=1042
n_bus-->>n_orders: ack partition=3 offset=7713
Note over n_orders,n_bus: В базе сохранено, событие не ушло
n_orders-xn_bus: produce topic=orders key=1042
Note over n_orders,n_odb: Outbox: событие пишется вместе с заказом
n_orders->>n_odb: BEGIN#59;
n_odb-->>n_orders: COMMIT
Note over n_bus,n_payments: At-least-once: потребитель отбрасывает дубли
n_bus->>n_payments: deliver topic=orders key=1042 offset=7714
n_payments-->>n_bus: INSERT INTO processed (event_id) VALUES ('ev_5c1') ON CONFLICT DO NOTHINGD2
direction: right
n_client: "Приложение магазина" {
shape: rectangle
}
n_orders: "Заказы" {
shape: rectangle
}
n_odb: "База заказов" {
shape: cylinder
}
n_payments: "Платежи" {
shape: rectangle
}
n_inventory: "Склад" {
shape: rectangle
}
n_bus: "Лог событий" {
shape: queue
}
n_relay: "Outbox relay" {
shape: rectangle
style.multiple: true
}
n_client -> n_orders: "вызов"
n_orders -> n_odb: "вызов"
n_bus -> n_payments: "дубль" {
style.stroke-width: 4
}
n_payments -> n_bus: "асинхронно" {
style.stroke-dash: 3
}
n_bus -> n_inventory: "асинхронно"
n_relay -> n_odb: "вызов"
n_relay -> n_bus: "дубль" {
style.stroke-width: 4
}PlantUML: последовательность запросов
@startuml
participant "Приложение магазина" as n_client
participant "Заказы" as n_orders
participant "Склад" as n_inventory
participant "Платежи" as n_payments
database "База заказов" as n_odb
queue "Лог событий" as n_bus
note over n_client, n_orders : Один заказ, три базы
n_client -> n_orders : POST /orders HTTP/1.1
n_orders --> n_client : HTTP/1.1 202 Accepted
note over n_orders, n_inventory : Деньги списаны, вызов склада упал
n_orders -> n_inventory : POST /reservations HTTP/1.1
n_inventory --> n_orders : HTTP/1.1 503 Service Unavailable
note over n_orders, n_payments : Двухфазный коммит: сначала все голосуют
n_orders -> n_payments : PREPARE tx=ord_1042
n_payments --> n_orders : VOTE yes
note over n_orders, n_payments : Координатор падает после голосования
n_orders ->x n_payments : [потеряно] PREPARE tx=ord_1042 -> VOTE yes
note over n_orders, n_odb : Сага: цепочка локальных транзакций
n_orders -> n_odb : INSERT INTO sagas (id, order_id, step, status)
n_odb --> n_orders : UPDATE 1
note over n_orders, n_payments : Сбой: отмена компенсирующим действием
n_orders -> n_payments : POST /charges/ch_88/refunds HTTP/1.1
n_payments --> n_orders : HTTP/1.1 201 Created
note over n_orders, n_bus : Хореография: сервисы реагируют на события
n_orders ->> n_bus : produce topic=orders key=1042
n_bus -->> n_orders : ack partition=3 offset=7713
note over n_orders, n_bus : В базе сохранено, событие не ушло
n_orders ->x n_bus : [потеряно] produce topic=orders key=1042
note over n_orders, n_odb : Outbox: событие пишется вместе с заказом
n_orders -> n_odb : BEGIN;
n_odb --> n_orders : COMMIT
note over n_bus, n_payments : At-least-once: потребитель отбрасывает дубли
n_bus ->> n_payments : [дубль] deliver topic=orders key=1042 offset=7714
n_payments -->> n_bus : INSERT INTO processed (event_id) VALUES ('ev_5c1') ON CONFLICT DO NOTHING
@endumlPlantUML: компоненты
@startuml
left to right direction
agent "Приложение магазина" as n_client
component "Заказы" as n_orders
database "База заказов" as n_odb
component "Платежи" as n_payments
component "Склад" as n_inventory
queue "Лог событий" as n_bus
collections "Outbox relay" as n_relay
n_client --> n_orders : вызов
n_orders --> n_odb : вызов
n_bus -[bold]-> n_payments : дубль
n_payments ..> n_bus : асинхронно
n_bus --> n_inventory : асинхронно
n_relay --> n_odb : вызов
n_relay -[bold]-> n_bus : дубль
@endumlИтог
Четыре правила для работы, которая охватывает несколько сервисов.
1) Транзакции между сервисами нет; избегайте 2PC — он вешает всех на самом медленном узле. 2) Используйте сагу: локальные шаги, у каждого компенсация, через оркестратор или события. 3) Пишите события через outbox в той же транзакции, что и данные. 4) Доставка — хотя бы один раз, поэтому каждый потребитель отбрасывает дубли по event_id.
Показатели: в начале и в конце
| Показатель | В начале | В конце |
|---|---|---|
| Заказ p95 | 320 мс | 190 мс |
| Списано без заказа | 0/день | 0/день |
| Потерянные события | 0/день | 0/день |
Шаги
- Кейс Один заказ, три базы
Приложение оформляет заказ.
- Проблема Деньги списаны, вызов склада упал
Платежи списали деньги.
- Кейс Двухфазный коммит: сначала все голосуют
Координатор (здесь — Заказы) просит каждого участника сделать prepare: выполнить работу, заблокировать строки и проголосовать.
- Проблема Координатор падает после голосования
Заказы упали между голосами и решением.
- Решение Сага: цепочка локальных транзакций
Отказываемся от глобальной блокировки.
- Решение Сбой: отмена компенсирующим действием
Склад отвечает «нет в наличии».
- Кейс Хореография: сервисы реагируют на события
Другой способ вести ту же сагу — без оркестратора.
- Проблема В базе сохранено, событие не ушло
Заказы коммитят заказ, а потом публикуют событие: две отдельные записи.
- Решение Outbox: событие пишется вместе с заказом
Заказы пишут заказ и событие в таблицу
outboxодной локальной транзакцией. - Решение At-least-once: потребитель отбрасывает дубли
Relay опубликовал
ev_5c1и упал, не успев пометить строку отправленной. - Итоги Итоги
Четыре правила для работы, которая охватывает несколько сервисов.
Термины
- Двухфазный коммит (2PC)
- Координатор сначала просит всех участников подготовиться и проголосовать, и только если все «за», рассылает commit. Участники всё это время держат блокировки и зависают, если координатор упал, поэтому 2PC избегают.
- Сага
- Работа через несколько сервисов идёт цепочкой локальных транзакций, у каждого шага есть компенсация. Если шаг упал, предыдущие отменяются компенсирующими действиями; цепочкой управляет оркестратор или события (хореография).
- Outbox
- Сервис пишет данные и событие в таблицу outbox одной локальной транзакцией, а отдельный relay публикует событие в брокер. Событие может опоздать, но больше не потеряется.
- Доставка at-least-once
- Сообщение доставляется минимум один раз, а иногда дважды. Поэтому потребитель отбрасывает дубли по event_id или пишет идемпотентно.