Шумо барои хидмати вебӣ навбатчӣ ҳастед: тақсимкунандаи бор дар пеши парки нусхаҳо, кэш дар пеши пойгоҳи додаҳо ва ҳадафи дастрасии 99,9 %. Ҳар дақиқа модел таъхири навбат, тамомшавии вақт, зарбаҳои кэш ва бори пойгоҳи додаҳоро аз формулаҳои китоби дарсӣ ҳисоб мекунад — ва қарорҳои шумо чӣ арзиш доранд.
Қабати поёнии парк. Баланд кардан нусхаҳоро фавран оғоз мекунад — онҳо ҳанӯз пеш аз хизмат таъхири боло шуданро лозим доранд.
Пайгирии ҳадаф аз рӯи истифода; то даме ки нусхаҳо ҳанӯз боло мешаванд, афзоиши нав нест. Хомӯш = дақиқан ҳадди ақал.
Пасттар = ҳадди бештар ва хароҷоти бештар. Истифодаи чен кардашуда аз 100 % гузашта наметавонад, бинобар ин парки пурра танҳо қадам ба қадам меафзояд.
TTL-и дарозтар = бештар зарба, аммо ҷавобҳо метавонанд кӯҳнатар бошанд (синни миёна ≈ TTL/2).
6 дақиқа калидҳои серистифодаро бор мекунад (+12 % кэш дар як дақиқа) ба нархи 600 дархости иловагии пойгоҳи додаҳо/сония.
Ҳиссаи 30 %-и аҳамияти паст (пешбор, дастаҳо, хазандагон), ки дар тақсимкунандаи бор бо «баъдтар кӯшиш кунед» рад карда мешавад.
Хусусияти вазнин 20 мс CPU ва як дархости пойгоҳи додаҳоро ба ҳар дархост меафзояд. Хомӯш = паст шудани мулоими хизматрасонӣ.
Охирин сохтори солимро дар парки нави серверҳо дубора ҷойгир мекунад (5 дақ, ду маротиба ҳисоб карда мешавад), сипас трафикро мегузаронад. Бори дигар пахш кардан омодагиро аз нав оғоз мекунад; агар сохтори бад зинда набошад, он танҳо пул арзиш дорад.
| Суръати сӯхтан (1 соат) | 0,0 × |
|---|---|
| Дархостҳо | 1125 req/s |
| Нусхаҳои хизматрасон | 10 |
| Нусхаҳои боло шудаистода | 0 |
| Нишондиҳандаи зарбаи кэш | 77 % |
| Истифодаи пойгоҳи додаҳо | 19 % |
| Трафики партофташуда | 0 % |
| Хароҷоти парк | 4,00 $/h |
| Хароҷоти то имрӯз | 0,00 $ |
| Синни миёнаи ҷавобҳои дар кэш | 30 s |
| Трафик дар нусхаи бад | 0 % |
| Тавсияҳо дастрасанд | 100 % |
Соати 09:10 нусхаи нав мебарояд. Моҳ аллакай душвор буд: танҳо 20 %-и буҷети хато мондааст. Чанд дақиқа пас аз ҷойгиркунӣ огоҳии суръати сӯхтан садо медиҳад. Буҷетро ҳифз кунед.
Истиноди хизматрасонӣ зуд паҳн мешавад ва қуллаи трафик дар як вақти ин субҳ интизор меравад — ҳеҷ кас намедонад кай ва чӣ қадар калон. Нусхаҳои нав имрӯз 8 дақиқа барои боло шудан мегиранд. Вақте ки он расад, хатогиҳо ва таъхирро паст нигоҳ доред, бе сӯзонидани пул ба иқтидори бекор.
Дар қуллаи нимрӯзӣ скрипти хизматрасонӣ тамоми кэшро тоза мекунад. Ҳоло ҳар дархост ба пойгоҳи додаҳо меравад, ки барои нишондиҳандаи маъмулии зарбаи 85 % андоза шудааст. Хидматро бе зиёдбор кардани пойгоҳи додаҳо барқарор кунед.
Ҳар муносибате, ки тренажёр истифода мебарад, бо сарчашмааш. Собитҳои ҳамчун фарзия нишондодашуда мутобиқсозиҳои намунавӣ мебошанд.
λ(t) = base × (1 + 0.25·sin(2π(t + clock − 6 h)/24 h)) × surge(t), clock = time of day at the start (peak at 12:00); count/min ≈ N(60λ, √(60λ)) × (1 + N(0, 0.02))[6]Фарзия: шумораи коргарҳо, вақти хизмат, иқтидори пойгоҳи додаҳо, андозаи кэш, суръати пуркунӣ, нархҳо ва басомади хатои нусхаи бад қиматҳои намунавӣ барои хидмати вебии миёна мебошанд.N = instances × 16 workers, a = λ·S; C(a, N) = B / (1 − (a/N)(1 − B)), B = Erlang B[3][6]P(W > t) = C·e^(−(N/S − λ)·t); timeouts = P(W > 2 s); a ≥ N ⇒ failed share = 1 − N/a[3]p99 ≈ S·ln 100 + ln(C/0.01)/(N/S − λ) (service + waiting quantile, an approximation)[3][6]Тақрибан: ҷамъ кардани квантилҳои хизматрасонӣ ва интизорӣ p99-и дақиқи маҷмӯи онҳо нест (метавонад каме баланд ё паст бошад); навбат дар дохили ҳар дақиқа устувор ҳисобида мешавад, зеро дархостҳо миллисонияҳо тӯл мекашанд.busy workers L = λ·S ⇒ utilization = λ·S / N[4]hit = warm × rT/(1 + rT), r = λ / 20,000 objects; mean age of a cached answer ≈ T/2[5]DB load = λ·q·(1 − hit); query time = 5 ms/(1 − ρ_db) (≤ 250 ms); S = S_app + (1 − hit)·q·query time[6]Фарзия: шумораи коргарҳо, вақти хизмат, иқтидори пойгоҳи додаҳо, андозаи кэш, суръати пуркунӣ, нархҳо ва басомади хатои нусхаи бад қиматҳои намунавӣ барои хидмати вебии миёна мебошанд.budget = 1 − SLO = 0.1 %; burn = error rate / 0.1 %; Δbudget per min = burn / 43,200; burn (1 h) = mean error rate over the last 60 min / 0.1 % (window pre-filled with the opening minute)[1][2]desired = ⌈serving × utilization / target⌉ (utilization saturates at 100 %); new instances serve after the boot delay[6]Фарзия: шумораи коргарҳо, вақти хизмат, иқтидори пойгоҳи додаҳо, андозаи кэш, суръати пуркунӣ, нархҳо ва басомади хатои нусхаи бад қиматҳои намунавӣ барои хидмати вебии миёна мебошанд.16 workers/instance · app time 50 ms (+20 ms and +1 query with the feature on) · 2 queries/request · DB 4,000 queries/s · 20,000 hot objects · cache refill τ = 30 min (slower while the DB is saturated) · warm-up job +12 %/min for 6 min, +600 queries/s · timeout 2 s · 30 % low-priority traffic · bad build +5 % errors, ×1.25 CPU · rollback 5 min · $0.40 per instance-hour · scale-in by ≤ 20 % of the fleet after 10 quiet minutes · up to 40 instancesФарзия: шумораи коргарҳо, вақти хизмат, иқтидори пойгоҳи додаҳо, андозаи кэш, суръати пуркунӣ, нархҳо ва басомади хатои нусхаи бад қиматҳои намунавӣ барои хидмати вебии миёна мебошанд.Тасодуфӣ: генератори mulberry32 бо дона; тақсимотҳои истифодашуда — яксон, экспоненсиалӣ (CDF-и баръакс), нормалӣ (Box–Muller), Пуассон (Knuth). Дона нишон дода мешавад ва мубодила шуданиро дорад.
Модели таълимӣ — барои қарорҳои амалиётӣ нест. Объектҳои воқеӣ ҳар собитро ба таҷҳизот ва додаҳои худ мутобиқ мекунанд.