Шпаргалка · Масштабирование
Серверы без состояния
Проблема
API магазина держит вошедших пользователей в собственной памяти. На одном сервере всё работает, а ломается в тот момент, когда добавляешь второй или перезапускаешь первый. Где на самом деле должно жить состояние.
Чему вы научитесь
- Почему сессия в памяти процесса привязывает пользователя к одному серверу
- Почему sticky-сессии только прячут проблему
- Перенос сессий в общее хранилище вроде Redis
- Подписанные токены: без поиска, но и без мгновенного выхода
Диаграмма как код
Итоговая схема урока в виде текста: вставьте её в Jira, GitLab, GitHub, Notion или документацию, там Mermaid рисуется сам. Есть варианты для D2 и PlantUML (Confluence, IntelliJ).
Mermaid: схема
flowchart LR
n_client(["Браузер"])
n_app1["Сервер приложения 1"]
n_lb{"Балансировщик"}
n_app2["Сервер приложения 2"]
n_redis{{"Хранилище сессий"}}
n_client --> n_lb
n_lb --> n_app1
n_lb --> n_app2
n_app1 --> n_redis
n_app2 --> n_redisMermaid: последовательность запросов
sequenceDiagram
participant n_client as Браузер
participant n_app1 as Сервер приложения 1
participant n_lb as Балансировщик
participant n_app2 as Сервер приложения 2
participant n_redis as Хранилище сессий
Note over n_client,n_app1: Вход на единственном сервере
n_client->>n_app1: POST /login HTTP/1.1
n_app1-->>n_client: HTTP/1.1 200 OK
Note over n_client,n_app1: Одного сервера мало
n_client->>n_app1: GET /cart HTTP/1.1
n_app1-->>n_client: HTTP/1.1 503 Service Unavailable
Note over n_lb,n_app2: Балансировщик и второй сервер
n_lb->>n_app2: upstream app {
Note over n_lb,n_app2: Сервер 2 этого пользователя не видел
n_lb->>n_app2: GET /cart HTTP/1.1
n_app2-->>n_lb: HTTP/1.1 401 Unauthorized
Note over n_lb,n_app1: Sticky-сессии: всегда тот же сервер
n_lb->>n_app1: upstream app {
Note over n_lb,n_app1: Деплой перезапускает сервер 1
n_lb-xn_app1: app1 #124; SIGTERM: deploy v2.4
Note over n_app2,n_redis: Сессии переезжают в общее хранилище
n_app2->>n_redis: GET sess:h_51e0
n_redis-->>n_app2: (bulk string, 38 bytes)
Note over n_lb,n_app2: Тот же деплой, никто не заметил
n_lb->>n_app2: GET /cart HTTP/1.1
n_app2-->>n_lb: HTTP/1.1 200 OK
Note over n_client,n_lb: Другой путь: состояние едет вместе с запросом
n_client->>n_lb: POST /login HTTP/1.1
n_lb-->>n_client: HTTP/1.1 200 OK
Note over n_app1,n_redis: Цена: токен нельзя отозвать
n_app1->>n_redis: SET deny:jti_7f2 1 EX 900
n_redis-->>n_app1: OKD2
direction: right
n_client: "Браузер" {
shape: rectangle
}
n_app1: "Сервер приложения 1" {
shape: rectangle
}
n_lb: "Балансировщик" {
shape: diamond
}
n_app2: "Сервер приложения 2" {
shape: rectangle
}
n_redis: "Хранилище сессий" {
shape: hexagon
}
n_client -> n_lb
n_lb -> n_app1
n_lb -> n_app2
n_app1 -> n_redis
n_app2 -> n_redisPlantUML: последовательность запросов
@startuml
participant "Браузер" as n_client
participant "Сервер приложения 1" as n_app1
participant "Балансировщик" as n_lb
participant "Сервер приложения 2" as n_app2
collections "Хранилище сессий" as n_redis
note over n_client, n_app1 : Вход на единственном сервере
n_client -> n_app1 : POST /login HTTP/1.1
n_app1 --> n_client : HTTP/1.1 200 OK
note over n_client, n_app1 : Одного сервера мало
n_client -> n_app1 : GET /cart HTTP/1.1
n_app1 --> n_client : HTTP/1.1 503 Service Unavailable
note over n_lb, n_app2 : Балансировщик и второй сервер
n_lb -> n_app2 : upstream app {
note over n_lb, n_app2 : Сервер 2 этого пользователя не видел
n_lb -> n_app2 : GET /cart HTTP/1.1
n_app2 --> n_lb : HTTP/1.1 401 Unauthorized
note over n_lb, n_app1 : Sticky-сессии: всегда тот же сервер
n_lb -> n_app1 : upstream app {
note over n_lb, n_app1 : Деплой перезапускает сервер 1
n_lb ->x n_app1 : [потеряно] app1 | SIGTERM: deploy v2.4
note over n_app2, n_redis : Сессии переезжают в общее хранилище
n_app2 -> n_redis : GET sess:h_51e0
n_redis --> n_app2 : (bulk string, 38 bytes)
note over n_lb, n_app2 : Тот же деплой, никто не заметил
n_lb -> n_app2 : GET /cart HTTP/1.1
n_app2 --> n_lb : HTTP/1.1 200 OK
note over n_client, n_lb : Другой путь: состояние едет вместе с запросом
n_client -> n_lb : POST /login HTTP/1.1
n_lb --> n_client : HTTP/1.1 200 OK
note over n_app1, n_redis : Цена: токен нельзя отозвать
n_app1 -> n_redis : SET deny:jti_7f2 1 EX 900
n_redis --> n_app1 : OK
@endumlPlantUML: компоненты
@startuml
left to right direction
agent "Браузер" as n_client
component "Сервер приложения 1" as n_app1
node "Балансировщик" as n_lb
component "Сервер приложения 2" as n_app2
stack "Хранилище сессий" as n_redis
n_client --> n_lb
n_lb --> n_app1
n_lb --> n_app2
n_app1 --> n_redis
n_app2 --> n_redis
@endumlИтог
Четыре правила серверов без состояния.
1) Между запросами в памяти процесса ничего не живёт: любой сервер можно в любой момент убить или добавить. 2) Sticky-сессии прячут проблему, а не решают её. 3) Общее состояние — в общее хранилище (Redis, база). 4) Подписанные токены убирают поиск, но усложняют выход: делайте их короткоживущими.
Показатели: в начале и в конце
| Показатель | В начале | В конце |
|---|---|---|
| Серверов в работе | 1 | 2 |
| Внезапные разлогины | 0/мин | 0/мин |
| Ответ p95 | 80 мс | 72 мс |
Шаги
- Кейс Вход на единственном сервере
Пользователь входит.
- Проблема Одного сервера мало
Трафик вырос втрое.
- Решение Балансировщик и второй сервер
Теперь каждый запрос принимает балансировщик и раздаёт по очереди: один на сервер 1, следующий на сервер 2.
- Проблема Сервер 2 этого пользователя не видел
Пользователь вошёл на сервере 1.
- Решение Sticky-сессии: всегда тот же сервер
Балансировщик теперь берёт хеш от cookie сессии и всегда отправляет пользователя на один и тот же сервер.
- Проблема Деплой перезапускает сервер 1
Выкатывается новая версия, сервер 1 перезапускается.
- Решение Сессии переезжают в общее хранилище
Серверы больше не держат сессии в своей памяти.
- Кейс Тот же деплой, никто не заметил
Сервер 1 перезапускается ради следующего релиза.
- Решение Другой путь: состояние едет вместе с запросом
Вместо ID сессии вход возвращает подписанный токен (JWT), в котором уже лежат ID пользователя и срок действия.
- Кейс Цена: токен нельзя отозвать
Пользователь жмёт «выйти» на украденном ноутбуке.
- Итоги Итоги
Четыре правила серверов без состояния.
Термины
- Stateless-сервер
- Сервер, который ничего не хранит в памяти процесса между запросами. Сессии и файлы лежат в общем хранилище, поэтому любой сервер можно убрать или добавить в любой момент.
- Sticky-сессия
- Балансировщик всегда отправляет пользователя на тот же сервер. Это прячет проблему, а не решает её: при перезапуске сервера сессия теряется, а нагрузка перекашивается.