mufassall

Шпаргалка · Масштабирование

Серверы без состояния

10 мин · Начальный · mufassall.dtwin.uz/ru/l/stateless/

← Открыть урок

Проблема

API магазина держит вошедших пользователей в собственной памяти. На одном сервере всё работает, а ломается в тот момент, когда добавляешь второй или перезапускаешь первый. Где на самом деле должно жить состояние.

Чему вы научитесь

  • Почему сессия в памяти процесса привязывает пользователя к одному серверу
  • Почему sticky-сессии только прячут проблему
  • Перенос сессий в общее хранилище вроде Redis
  • Подписанные токены: без поиска, но и без мгновенного выхода
Итоговая сцена
42%30%42%8%

Диаграмма как код

Итоговая схема урока в виде текста: вставьте её в Jira, GitLab, GitHub, Notion или документацию, там Mermaid рисуется сам. Есть варианты для D2 и PlantUML (Confluence, IntelliJ).

Mermaid: схема

flowchart LR
  n_client(["Браузер"])
  n_app1["Сервер приложения 1"]
  n_lb{"Балансировщик"}
  n_app2["Сервер приложения 2"]
  n_redis{{"Хранилище сессий"}}
  n_client --> n_lb
  n_lb --> n_app1
  n_lb --> n_app2
  n_app1 --> n_redis
  n_app2 --> n_redis

Mermaid: последовательность запросов

sequenceDiagram
  participant n_client as Браузер
  participant n_app1 as Сервер приложения 1
  participant n_lb as Балансировщик
  participant n_app2 as Сервер приложения 2
  participant n_redis as Хранилище сессий
  Note over n_client,n_app1: Вход на единственном сервере
  n_client->>n_app1: POST /login HTTP/1.1
  n_app1-->>n_client: HTTP/1.1 200 OK
  Note over n_client,n_app1: Одного сервера мало
  n_client->>n_app1: GET /cart HTTP/1.1
  n_app1-->>n_client: HTTP/1.1 503 Service Unavailable
  Note over n_lb,n_app2: Балансировщик и второй сервер
  n_lb->>n_app2: upstream app {
  Note over n_lb,n_app2: Сервер 2 этого пользователя не видел
  n_lb->>n_app2: GET /cart HTTP/1.1
  n_app2-->>n_lb: HTTP/1.1 401 Unauthorized
  Note over n_lb,n_app1: Sticky-сессии: всегда тот же сервер
  n_lb->>n_app1: upstream app {
  Note over n_lb,n_app1: Деплой перезапускает сервер 1
  n_lb-xn_app1: app1 #124; SIGTERM: deploy v2.4
  Note over n_app2,n_redis: Сессии переезжают в общее хранилище
  n_app2->>n_redis: GET sess:h_51e0
  n_redis-->>n_app2: (bulk string, 38 bytes)
  Note over n_lb,n_app2: Тот же деплой, никто не заметил
  n_lb->>n_app2: GET /cart HTTP/1.1
  n_app2-->>n_lb: HTTP/1.1 200 OK
  Note over n_client,n_lb: Другой путь: состояние едет вместе с запросом
  n_client->>n_lb: POST /login HTTP/1.1
  n_lb-->>n_client: HTTP/1.1 200 OK
  Note over n_app1,n_redis: Цена: токен нельзя отозвать
  n_app1->>n_redis: SET deny:jti_7f2 1 EX 900
  n_redis-->>n_app1: OK

D2

direction: right

n_client: "Браузер" {
  shape: rectangle
}
n_app1: "Сервер приложения 1" {
  shape: rectangle
}
n_lb: "Балансировщик" {
  shape: diamond
}
n_app2: "Сервер приложения 2" {
  shape: rectangle
}
n_redis: "Хранилище сессий" {
  shape: hexagon
}

n_client -> n_lb
n_lb -> n_app1
n_lb -> n_app2
n_app1 -> n_redis
n_app2 -> n_redis

PlantUML: последовательность запросов

@startuml
participant "Браузер" as n_client
participant "Сервер приложения 1" as n_app1
participant "Балансировщик" as n_lb
participant "Сервер приложения 2" as n_app2
collections "Хранилище сессий" as n_redis
note over n_client, n_app1 : Вход на единственном сервере
n_client -> n_app1 : POST /login HTTP/1.1
n_app1 --> n_client : HTTP/1.1 200 OK
note over n_client, n_app1 : Одного сервера мало
n_client -> n_app1 : GET /cart HTTP/1.1
n_app1 --> n_client : HTTP/1.1 503 Service Unavailable
note over n_lb, n_app2 : Балансировщик и второй сервер
n_lb -> n_app2 : upstream app {
note over n_lb, n_app2 : Сервер 2 этого пользователя не видел
n_lb -> n_app2 : GET /cart HTTP/1.1
n_app2 --> n_lb : HTTP/1.1 401 Unauthorized
note over n_lb, n_app1 : Sticky-сессии: всегда тот же сервер
n_lb -> n_app1 : upstream app {
note over n_lb, n_app1 : Деплой перезапускает сервер 1
n_lb ->x n_app1 : [потеряно] app1 | SIGTERM: deploy v2.4
note over n_app2, n_redis : Сессии переезжают в общее хранилище
n_app2 -> n_redis : GET sess:h_51e0
n_redis --> n_app2 : (bulk string, 38 bytes)
note over n_lb, n_app2 : Тот же деплой, никто не заметил
n_lb -> n_app2 : GET /cart HTTP/1.1
n_app2 --> n_lb : HTTP/1.1 200 OK
note over n_client, n_lb : Другой путь: состояние едет вместе с запросом
n_client -> n_lb : POST /login HTTP/1.1
n_lb --> n_client : HTTP/1.1 200 OK
note over n_app1, n_redis : Цена: токен нельзя отозвать
n_app1 -> n_redis : SET deny:jti_7f2 1 EX 900
n_redis --> n_app1 : OK
@enduml

PlantUML: компоненты

@startuml
left to right direction
agent "Браузер" as n_client
component "Сервер приложения 1" as n_app1
node "Балансировщик" as n_lb
component "Сервер приложения 2" as n_app2
stack "Хранилище сессий" as n_redis
n_client --> n_lb
n_lb --> n_app1
n_lb --> n_app2
n_app1 --> n_redis
n_app2 --> n_redis
@enduml

Итог

Четыре правила серверов без состояния.

1) Между запросами в памяти процесса ничего не живёт: любой сервер можно в любой момент убить или добавить. 2) Sticky-сессии прячут проблему, а не решают её. 3) Общее состояние — в общее хранилище (Redis, база). 4) Подписанные токены убирают поиск, но усложняют выход: делайте их короткоживущими.

Показатели: в начале и в конце

ПоказательВ началеВ конце
Серверов в работе12
Внезапные разлогины0/мин0/мин
Ответ p9580 мс72 мс

Шаги

  1. Кейс Вход на единственном сервере

    Пользователь входит.

  2. Проблема Одного сервера мало

    Трафик вырос втрое.

  3. Решение Балансировщик и второй сервер

    Теперь каждый запрос принимает балансировщик и раздаёт по очереди: один на сервер 1, следующий на сервер 2.

  4. Проблема Сервер 2 этого пользователя не видел

    Пользователь вошёл на сервере 1.

  5. Решение Sticky-сессии: всегда тот же сервер

    Балансировщик теперь берёт хеш от cookie сессии и всегда отправляет пользователя на один и тот же сервер.

  6. Проблема Деплой перезапускает сервер 1

    Выкатывается новая версия, сервер 1 перезапускается.

  7. Решение Сессии переезжают в общее хранилище

    Серверы больше не держат сессии в своей памяти.

  8. Кейс Тот же деплой, никто не заметил

    Сервер 1 перезапускается ради следующего релиза.

  9. Решение Другой путь: состояние едет вместе с запросом

    Вместо ID сессии вход возвращает подписанный токен (JWT), в котором уже лежат ID пользователя и срок действия.

  10. Кейс Цена: токен нельзя отозвать

    Пользователь жмёт «выйти» на украденном ноутбуке.

  11. Итоги Итоги

    Четыре правила серверов без состояния.

Термины

Stateless-сервер
Сервер, который ничего не хранит в памяти процесса между запросами. Сессии и файлы лежат в общем хранилище, поэтому любой сервер можно убрать или добавить в любой момент.
Sticky-сессия
Балансировщик всегда отправляет пользователя на тот же сервер. Это прячет проблему, а не решает её: при перезапуске сервера сессия теряется, а нагрузка перекашивается.