mufassall

Надёжность / 3 / 6

Таймауты и ретраи

API оформления заказа зависит от сервиса тарифов, который сначала тормозит, а потом падает. Как таймауты, backoff, бюджет ретраев и circuit breaker не дают одной больной зависимости уронить всё.

  • 13 мин
  • Средний
  • 11 шагов
Оформление p95
180 мс
Неудачные заказы
0,2 %
Вызовы тарифов
400 /с
Двойные списания
0 /день
В Лабораторию

30%40%
  • запрос
  • ответ
  • повторная доставка
  • дубликат
  • потеряно
  • вызов: ответ по той же линии

Цифры — модельный сценарий, не замеры

Настоящий запрос

API заказов → Сервис тарифов

Запрос

GET /v1/quote?city=TAS&kg=2.4 HTTP/1.1
Host1: rates.internal
Accept: application/json

Ответ

HTTP/1.1 200 OK
X-Response-Time2: 85ms

{
  "price": 332000,
  "currency": "UZS",
  "eta_days": 2
}
  1. Host — Внутренний сервис, не публичный. Но это всё равно сетевой вызов, и он может зависнуть.
  2. X-Response-Time — Сегодня 85 мс. Что делать, если станет 30 секунд, код не знает.
  3. price — Цена доставки в минимальных единицах. Без какой-то цены заказ не оформить.

А что, если…?

Подставьте свои числа: результат и формула пересчитываются сразу.

Шанс, что один вызов закончится таймаутом или ошибкой.

Сколько повторов после первой попытки.

Столько ждёт каждая попытка, потом сдаётся.

Первое окно паузы; с каждой попыткой удваивается.

Вызовы к сервису без учёта повторов.

Результат

Попыток на запрос в среднем
1,031
Нагрузка на сервис
412/с
Вероятность успеха
99,99992%
Худшая задержка
3 900мс

Расчёт

попытки = (1 − p^(r+1)) / (1 − p) = (1 − 0,03^4) / (1 − 0,03) = 1,031
нагрузка = 400 × 1,031 = 412/с
успех = 1 − p^(r+1) = 1 − 0,03^4 = 99,99992%
худший = (r + 1) × T + b × (2^r − 1) = 4 × 800 + 100 × 7 = 3 900 мс

Упрощённая учебная модель: показывает направление и масштаб, а не бенчмарк.

Соберите самиШпаргалкаСравнение уроков

Курс: Уроков: 74
  1. 01 Основы

    1. Жизнь одного запроса
    2. Задержка и пропускная способность
    3. Оценка на салфетке
  2. 02 Масштабирование

    1. Вертикальное и горизонтальное масштабирование
    2. Балансировка нагрузки
    3. Серверы без состояния
    4. Кеширование
    5. Инвалидация кеша
    6. CDN и кеш на краю сети
  3. 03 Данные и хранение

    1. SQL и NoSQL
    2. Индексы в базе данных
    3. Геопоиск: кто рядом
    4. Полнотекстовый поиск
    5. Векторный поиск
    6. Движки хранения: B-tree и LSM
    7. Фильтр Блума
    8. Репликация базы данных
    9. Шардирование
    10. Консистентное хеширование
    11. Уникальные идентификаторы
    12. CAP: когда рвётся связь
    13. Консенсус и выбор лидера
    14. Транзакции
    15. Загрузка файлов
  4. 04 Взаимодействие

    1. Стили API
    2. Очереди сообщений
    3. Pub/sub и журнал событий
    4. Обновления в реальном времени
    5. Надёжные колбэки
    6. Надёжная отправка вебхуков
  5. 05 Надёжность

    1. Резервирование и failover
    2. Rate limiting
    3. Таймауты и ретраи
    4. Наблюдаемость
    5. SLO и бюджет ошибок
    6. Backpressure
  6. 06 Архитектура

    1. Микросервисы
    2. Обнаружение сервисов
    3. Саги и outbox
    4. Захват изменений данных (CDC)
    5. Транзакционный outbox
    6. Распределённые блокировки
    7. Batch и stream
    8. Мультитенантность
    9. Event sourcing
  7. 07 Безопасность

    1. Аутентификация
    2. Авторизация
    3. Шифрование и секреты
    4. Управление секретами
  8. 08 Поставка

    1. Тестирование
    2. CI/CD: от коммита до продакшена
    3. Миграции без простоя
    4. Фича-флаги
  9. 09 Целые системы

    1. От требований к дизайну
    2. Проектируем сокращатель ссылок
    3. Проектируем ленту новостей
    4. Проектируем чат
    5. Проектируем видеохостинг
    6. Проектируем поисковые подсказки (autocomplete)
    7. Проектируем планировщик задач
  10. 10 Бизнес-процессы

    1. Платёжный шлюз
    2. Деньги и округление
    3. Двойная запись в учёте денег
    4. Сверка платежей
    5. Биллинг подписок
    6. Электронная цифровая подпись
    7. Жизненный цикл документа
    8. Журнал аудита
    9. Доставка уведомлений
    10. Массовый импорт
    11. Возвраты и чарджбэки
    12. Сквозная нумерация документов
  11. 11 Разборы реальных систем

    1. Разбор: как Discord хранит сообщения
    2. Разбор: совместное редактирование в Figma