Перейти до вмісту

Highload: навантажувальне тестування, вузькі місця та масштабування застосунку

Вимірюємо, скільки трафіку система витримує сьогодні, знаходимо, що ламається першим, і усуваємо це. Далі налаштовуємо масштабування так, щоб потужність ішла за навантаженням, і залишаємо план для наступного рівня трафіку.

Коли це потрібно

  • 1

    Попереду рекламна кампанія, розпродаж або запуск, а ніхто не знає, скільки витримає система

  • 2

    У години пік сервіс гальмує або падає

  • 3

    Ви додаєте сервери, а час відповіді не покращується

  • 4

    Важкі операції виконуються просто в запиті й блокують усе інше

  • 5

    Клієнт або інвестор просить підтвердити, що система витримає навантаження

Що входить

  • Навантажувальне тестування за реальними сценаріями

    Відтворюємо те, що справді роблять користувачі, — вхід, пошук, оформлення замовлення, виклики API, — а не одну адресу. Навантаження піднімаємо сходинками, доки система не почне деградувати.

  • Пошук вузького місця

    Під час тесту дивимось метрики на кожному рівні: застосунок, база даних, пул з'єднань, черга, мережа. Ви бачите, що здалося першим і чому.

  • Горизонтальне масштабування

    Готуємо сервіс до роботи в кількох копіях: стан виносимо з процесу, сесії та файли — у спільне сховище, балансувальник перевіряє стан кожної копії.

  • Черги для важкої роботи

    Довгі операції виносимо із запиту у фонові воркери. Запит відповідає одразу, а воркери масштабуються за глибиною черги.

  • Кешування та CDN

    Статику й повторювані відповіді віддає CDN або кеш. База отримує індекси, пул з'єднань і репліки для читання — там, де це дає результат.

  • Автоскейлінг і план потужностей

    Поди й ноди додаються за метриками та прибираються після піку — у межах лімітів, які задаєте ви. У плані описано, що треба змінити на кожному наступному рівні трафіку.

Уся система на одному екрані

Стан сервісів, трафік, деплої та алерти — такі дашборди ми налаштовуємо для кожного проєкту.

production · overvieweu-central-1 · last 24 h

Service overview

Services
12
Healthy
12 / 12
Deploys today
7
Open alerts
0

Requests per second

All services, 5 min average

1.1k5500
00:0006:0012:0018:0024:00

p95 latency, ms

Alarm threshold 250 ms

2801400
00:0006:0012:0018:0024:00

Ілюстрація з умовними даними. Для кожного проєкту дашборди будуємо під його власні сервіси.

Як іде робота

  1. 1

    Сценарії та цілі

    Узгоджуємо, що роблять користувачі, якого трафіку ви очікуєте і який час відповіді прийнятний.

  2. 2

    Базовий тест

    Навантажуємо систему такою, якою вона є, і фіксуємо, де й на якому рівні починається деградація.

  3. 3

    Виправлення

    Усуваємо вузькі місця по одному, починаючи з найдешевшого виправлення. Після кожної зміни — повторний тест.

  4. 4

    Фінальний прогін і план

    Тест на цільовому навантаженні, звіт із замірами до й після та план потужностей на ріст.

Запитання

  • k6
  • Kubernetes
  • AWS EKS
  • KEDA
  • Redis
  • PostgreSQL
  • Traefik
  • CloudFront
  • Cloudflare
  • VictoriaMetrics
  • Grafana
  • Loki

Опишіть завдання — отримайте план і ціну

Напишіть, що у вас є і що потрібно. Відповідаємо протягом одного робочого дня — запитаннями або конкретною пропозицією.