Страница товара читает из базы одну и ту же строку тысячи раз в секунду. Кеш перед базой делает чтение быстрым, а потом приносит свои проблемы: устаревшие данные, набег на горячий ключ и вопрос, куда идут записи.
Чему вы научитесь
Чтение по схеме cache-aside: смотрим в кеш, при промахе идём в базу и заполняем
TTL и инвалидация: почему запись должна удалять копию в кеше
Что такое набег (stampede) на горячий ключ и как его гасят coalescing и случайный TTL
Write-through против write-back и чем рискует каждый
Итог
Пять правил кеша.
1) Cache-aside: читаем кеш, при промахе читаем базу и заполняем. 2) У каждого ключа есть TTL как страховка. 3) Запись удаляет ключ, после коммита. 4) Горячим ключам нужны coalescing и случайный TTL. 5) Write-back — только для данных, которые не жалко потерять.
Сервер магазина на одном континенте, покупатели — на другом. Картинки и скрипты переезжают в edge-кеши рядом с пользователями: как запрос попадает на edge, когда уходит на origin, как заменить файл и что кешировать нельзя никогда.
Чему вы научитесь
Как edge-кеш встаёт между пользователем и origin и сколько стоят промах и попадание
Что и на сколько кешировать, решает Cache-Control
Замена файла: purge или версионированные URL
Origin shield и почему персональные ответы нельзя кешировать
Итог
Пять правил CDN.
1) Статика отдаётся с edge рядом с пользователем; origin только заполняет промахи. 2) Origin явно ставит Cache-Control в каждом ответе. 3) Файлы меняют через версионированные URL; purge — для аварий. 4) Origin shield превращает много промахов edge в один. 5) Персональные ответы — всегда private, no-store.