Основы / 2 / 3
Задержка и пропускная способность
Сколько длится один запрос и сколько запросов помещается в секунду — два разных числа. API поиска растёт от горстки пользователей до вечернего пика: почему среднее прячет проблему и почему сервер на 90% уже в беде.
- 11 мин
- Начальный
- 10 шагов
- Пропускная способность
- 5 /с
- Задержка p50
- 41 мс
- Задержка p99
- 60 мс
- Ошибки
- 0 %
- запрос
- ответ
- повторная доставка
- дубликат
- потеряно
Цифры — модельный сценарий, не замеры
Настоящий запрос
Пользователи → API поискаЗапрос
GET /search?q=lamp HTTP/1.1
Host: api.example.com
X-Request-Id1: req_4410
Ответ
HTTP/1.1 200 OK
Server-Timing2: app;dur=29, db;dur=12
X-Request-Id— Связывает запрос с его строками в логах, чтобы потом найти его время.Server-Timing— Разбивка от самого сервера: 29 мс кода приложения и 12 мс базы.
А что, если…?
Подставьте свои числа: результат и формула пересчитываются сразу.
Сколько запросов в секунду завершается.
Сколько один запрос проводит на сервере.
Сколько запросов один сервер ведёт параллельно.
На какую загрузку серверов вы закладываетесь.
Результат
- Одновременно внутри L
- 8,2
- Нужно серверов
- 1
- Загрузка каждого
- 13%
Расчёт
L = λ × W = 200/с × 0,041 с = 8,2
N = ⌈L / (c × u)⌉ = ⌈8,2 / (64 × 0,70)⌉ = 1
нагрузка = L / (N × c) = 8,2 / (1 × 64) = 13%Упрощённая учебная модель: показывает направление и масштаб, а не бенчмарк.
Соберите самиШпаргалкаСравнение уроков
Курс: Уроков: 74
01 Основы
02 Масштабирование
03 Данные и хранение
04 Взаимодействие
05 Надёжность
06 Архитектура
07 Безопасность
08 Поставка
09 Целые системы
10 Бизнес-процессы
11 Разборы реальных систем