Konspekt · Masshtablash
Holatsiz (stateless) serverlar
Muammo
Do'kon API'si tizimga kirgan foydalanuvchilarni o'z xotirasida saqlaydi. Bitta serverda ishlaydi, ikkinchisini qo'shishingiz yoki birinchisini qayta ishga tushirishingiz bilan buziladi. Holat aslida qayerda turishi kerak.
Nimani o'rganasiz
- Nega jarayon xotirasidagi sessiya foydalanuvchini bitta serverga bog'lab qo'yadi
- Nega sticky sessiya muammoni faqat yashiradi
- Sessiyalarni Redis kabi umumiy omborga ko'chirish
- Imzolangan token: qidiruv yo'q, lekin darhol chiqarib yuborish ham yo'q
Diagramma kod sifatida
Darsdagi yakuniy sxemani matn ko'rinishida oling va Jira, GitLab, GitHub, Notion yoki hujjatga qo'ying: Mermaid u yerlarda o'zi chiziladi. D2 va PlantUML (Confluence, IntelliJ) uchun alohida variantlar bor.
Mermaid: sxema
flowchart LR
n_client(["Brauzer"])
n_app1["Ilova serveri 1"]
n_lb{"Load balancer"}
n_app2["Ilova serveri 2"]
n_redis{{"Sessiya ombori"}}
n_client --> n_lb
n_lb --> n_app1
n_lb --> n_app2
n_app1 --> n_redis
n_app2 --> n_redisMermaid: so'rovlar ketma-ketligi
sequenceDiagram
participant n_client as Brauzer
participant n_app1 as Ilova serveri 1
participant n_lb as Load balancer
participant n_app2 as Ilova serveri 2
participant n_redis as Sessiya ombori
Note over n_client,n_app1: Bitta serverda tizimga kirish
n_client->>n_app1: POST /login HTTP/1.1
n_app1-->>n_client: HTTP/1.1 200 OK
Note over n_client,n_app1: Bitta server yetmay qoldi
n_client->>n_app1: GET /cart HTTP/1.1
n_app1-->>n_client: HTTP/1.1 503 Service Unavailable
Note over n_lb,n_app2: Load balancer va ikkinchi server
n_lb->>n_app2: upstream app {
Note over n_lb,n_app2: 2-server bu foydalanuvchini hech ko'rmagan
n_lb->>n_app2: GET /cart HTTP/1.1
n_app2-->>n_lb: HTTP/1.1 401 Unauthorized
Note over n_lb,n_app1: Sticky sessiya: doim o'sha server
n_lb->>n_app1: upstream app {
Note over n_lb,n_app1: Deploy 1-serverni qayta ishga tushiradi
n_lb-xn_app1: app1 #124; SIGTERM: deploy v2.4
Note over n_app2,n_redis: Sessiyalar umumiy omborga ko'chadi
n_app2->>n_redis: GET sess:h_51e0
n_redis-->>n_app2: (bulk string, 38 bytes)
Note over n_lb,n_app2: O'sha deploy, hech kim sezmaydi
n_lb->>n_app2: GET /cart HTTP/1.1
n_app2-->>n_lb: HTTP/1.1 200 OK
Note over n_client,n_lb: Boshqa yo'l: holat so'rov bilan birga yuradi
n_client->>n_lb: POST /login HTTP/1.1
n_lb-->>n_client: HTTP/1.1 200 OK
Note over n_app1,n_redis: Narxi: tokenni qaytarib olib bo'lmaydi
n_app1->>n_redis: SET deny:jti_7f2 1 EX 900
n_redis-->>n_app1: OKD2
direction: right
n_client: "Brauzer" {
shape: rectangle
}
n_app1: "Ilova serveri 1" {
shape: rectangle
}
n_lb: "Load balancer" {
shape: diamond
}
n_app2: "Ilova serveri 2" {
shape: rectangle
}
n_redis: "Sessiya ombori" {
shape: hexagon
}
n_client -> n_lb
n_lb -> n_app1
n_lb -> n_app2
n_app1 -> n_redis
n_app2 -> n_redisPlantUML: so'rovlar ketma-ketligi
@startuml
participant "Brauzer" as n_client
participant "Ilova serveri 1" as n_app1
participant "Load balancer" as n_lb
participant "Ilova serveri 2" as n_app2
collections "Sessiya ombori" as n_redis
note over n_client, n_app1 : Bitta serverda tizimga kirish
n_client -> n_app1 : POST /login HTTP/1.1
n_app1 --> n_client : HTTP/1.1 200 OK
note over n_client, n_app1 : Bitta server yetmay qoldi
n_client -> n_app1 : GET /cart HTTP/1.1
n_app1 --> n_client : HTTP/1.1 503 Service Unavailable
note over n_lb, n_app2 : Load balancer va ikkinchi server
n_lb -> n_app2 : upstream app {
note over n_lb, n_app2 : 2-server bu foydalanuvchini hech ko'rmagan
n_lb -> n_app2 : GET /cart HTTP/1.1
n_app2 --> n_lb : HTTP/1.1 401 Unauthorized
note over n_lb, n_app1 : Sticky sessiya: doim o'sha server
n_lb -> n_app1 : upstream app {
note over n_lb, n_app1 : Deploy 1-serverni qayta ishga tushiradi
n_lb ->x n_app1 : [yo'qoldi] app1 | SIGTERM: deploy v2.4
note over n_app2, n_redis : Sessiyalar umumiy omborga ko'chadi
n_app2 -> n_redis : GET sess:h_51e0
n_redis --> n_app2 : (bulk string, 38 bytes)
note over n_lb, n_app2 : O'sha deploy, hech kim sezmaydi
n_lb -> n_app2 : GET /cart HTTP/1.1
n_app2 --> n_lb : HTTP/1.1 200 OK
note over n_client, n_lb : Boshqa yo'l: holat so'rov bilan birga yuradi
n_client -> n_lb : POST /login HTTP/1.1
n_lb --> n_client : HTTP/1.1 200 OK
note over n_app1, n_redis : Narxi: tokenni qaytarib olib bo'lmaydi
n_app1 -> n_redis : SET deny:jti_7f2 1 EX 900
n_redis --> n_app1 : OK
@endumlPlantUML: komponentlar
@startuml
left to right direction
agent "Brauzer" as n_client
component "Ilova serveri 1" as n_app1
node "Load balancer" as n_lb
component "Ilova serveri 2" as n_app2
stack "Sessiya ombori" as n_redis
n_client --> n_lb
n_lb --> n_app1
n_lb --> n_app2
n_app1 --> n_redis
n_app2 --> n_redis
@endumlXulosa
Holatsiz serverlar uchun to'rt qoida.
1) So'rovlar orasida jarayon xotirasida hech narsa qolmaydi: istalgan server istalgan vaqtda o'chishi yoki qo'shilishi mumkin. 2) Sticky sessiya muammoni yashiradi, hal qilmaydi. 3) Umumiy holat umumiy omborga ketadi (Redis, baza). 4) Imzolangan token qidiruvni olib tashlaydi, lekin chiqishni qiyinlashtiradi: muddatini qisqa qiling.
Ko'rsatkichlar: boshida va oxirida
| Ko'rsatkich | Boshida | Oxirida |
|---|---|---|
| Ishlayotgan serverlar | 1 | 2 |
| Kutilmagan chiqishlar | 0/daq | 0/daq |
| Javob p95 | 80 ms | 72 ms |
Qadamlar
- Holat Bitta serverda tizimga kirish
Foydalanuvchi tizimga kiradi.
- Muammo Bitta server yetmay qoldi
Trafik uch barobar oshdi.
- Yechim Load balancer va ikkinchi server
Endi har so'rovni load balancer qabul qiladi va navbat bilan tarqatadi: biri 1-serverga, keyingisi 2-serverga.
- Muammo 2-server bu foydalanuvchini hech ko'rmagan
Foydalanuvchi 1-serverda kirgan.
- Yechim Sticky sessiya: doim o'sha server
Load balancer endi sessiya cookie'sidan hash oladi va foydalanuvchini doim bitta serverga yuboradi.
- Muammo Deploy 1-serverni qayta ishga tushiradi
Yangi versiya chiqariladi va 1-server qayta ishga tushadi.
- Yechim Sessiyalar umumiy omborga ko'chadi
Serverlar endi sessiyani o'z xotirasida saqlamaydi.
- Holat O'sha deploy, hech kim sezmaydi
Keyingi reliz uchun 1-server qayta ishga tushadi.
- Yechim Boshqa yo'l: holat so'rov bilan birga yuradi
Sessiya ID'si o'rniga login imzolangan token (JWT) qaytaradi, uning ichida foydalanuvchi ID'si va amal qilish muddati bor.
- Holat Narxi: tokenni qaytarib olib bo'lmaydi
Foydalanuvchi o'g'irlangan noutbukda «chiqish»ni bosadi.
- Xulosa Xulosa
Holatsiz serverlar uchun to'rt qoida.
Atamalar
- Stateless (holatsiz) server
- So'rovlar orasida jarayon xotirasida hech narsa saqlamaydigan server. Sessiya va fayllar umumiy omborda, shuning uchun istalgan server istalgan vaqtda o'chishi yoki qo'shilishi mumkin.
- Sticky sessiya
- Balancer bir foydalanuvchini doim o'sha serverga yuboradi. Bu muammoni yashiradi, hal qilmaydi: server qayta ishga tushsa sessiya yo'qoladi, yuk esa notekis bo'ladi.