Та вэб үйлчилгээнд дуудлагын жижүүр: жишээнүүдийн флотын өмнө ачаалал тэнцвэржүүлэгч, өгөгдлийн сангийн өмнө кэш, 99.9 % бэлэн байдлын зорилт. Минут бүр загвар сурах бичгийн томьёогоор дарааллын саатал, хугацаа хэтрэлт, кэшийн амжилт, өгөгдлийн сангийн ачааллыг тооцно — мөн таны шийдвэрийн зардлыг.
Флотын доод хязгаар. Өсгөхөд жишээнүүд шууд эхэлнэ — үйлчлэхээсээ өмнө ачаалах саатал хэрэгтэй хэвээр.
Ашиглалт дээрх зорилтот хяналт; жишээнүүд эхэлж байх хооронд шинэ өргөтгөлгүй. Унтраалттай = яг хамгийн бага.
Бага = илүү нөөц, илүү зардал. Хэмжсэн ашиглалт 100 %-иас хэтэрч чадахгүй тул ханасан флот зөвхөн алхам алхмаар өснө.
Урт TTL = илүү олон амжилт, гэхдээ хариултууд хуучин байж болно (дундаж нас ≈ TTL/2).
6 минутын турш халуун түлхүүрүүдийг ачаална (минут тутамд кэшийн +12 %), нэмэлт 600 өгөгдлийн сангийн лавлагаа/с-ийн үнээр.
Бага ач холбогдолтой 30 %-ийн (урьдчилан татах, багц, мөлхөгч) ачаалал тэнцвэржүүлэгч дээр "дараа дахин оролд" гэж татгалзсан хувь.
Хүнд функц хүсэлт бүрт 20 ms CPU, нэг өгөгдлийн сангийн лавлагаа нэмнэ. Унтраалттай = зөөлөн бууралт.
Сүүлийн сайн бүтээцийг шинэ флийт дээр дахин байршуулж (5 min, хоёр удаа тооцогдоно), дараа нь урсгалыг шилжүүлнэ. Дахин дарвал бэлтгэл дахин эхэлнэ; муу бүтээц ажиллахгүй байхад зөвхөн мөнгө үрнэ.
| Шатах хурд (1 h) | 0.0 × |
|---|---|
| Хүсэлтүүд | 1125 req/s |
| Үйлчилж байгаа жишээнүүд | 10 |
| Эхэлж байгаа жишээнүүд | 0 |
| Кэшийн амжилтын хувь | 77 % |
| Өгөгдлийн сангийн ашиглалт | 19 % |
| Хаясан урсгал | 0 % |
| Флотын зардал | 4.00 $/h |
| Одоогийн зардал | 0.00 $ |
| Кэшлэсэн хариултуудын дундаж нас | 30 s |
| Муу бүтээлт дээрх урсгал | 0 % |
| Боломжит зөвлөмжүүд | 100 % |
09:10-д шинэ бүтээлт гарна. Сар аль хэдийн хүнд байсан: алдааны төсвийн ердөө 20 % үлдсэн. Байршуулсны дараа хэдэн минутын дотор шатах хурдны сэрэмжлүүлэг дуугарна. Төсвөө хамгаал.
Үйлчилгээний холбоос хурдан тархаж байгаа бөгөөд өнөө өглөө хэзээ нэгэн цагт урсгалын өсөлт хүлээгдэж байна — хэзээ, хэр том гэдгийг хэн ч мэдэхгүй. Шинэ инстанс өнөөдөр асахад 8 минут шаардана. Тэр ирэхэд сул хүчин чадалд мөнгө шатаалгүйгээр алдаа, саатлыг бага байлга.
Үдийн оргилд засвар үйлчилгээний скрипт бүх кэшийг цэвэрлэнэ. Хүсэлт бүр одоо өгөгдлийн сан руу очно, энэ нь ердийн 85 % амжилтын хувьд зориулагдсан. Өгөгдлийн санг хэт ачаалахгүйгээр үйлчилгээг сэргээ.
Симуляторын ашигладаг холбоос бүрийг эх сурвалжтай нь үзүүллээ. Таамаглал гэж тэмдэглэсэн тогтмолууд нь жишээ тохируулга юм.
λ(t) = base × (1 + 0.25·sin(2π(t + clock − 6 h)/24 h)) × surge(t), clock = time of day at the start (peak at 12:00); count/min ≈ N(60λ, √(60λ)) × (1 + N(0, 0.02))[6]Таамаглал: ажилтны тоо, үйлчилгээний хугацаа, өгөгдлийн сангийн чадал, кэшийн хэмжээ, дахин дүүргэх хурд, үнэ, муу бүтээлтийн алдааны хувь нь дунд зэргийн вэб үйлчилгээний жишээ утгууд.N = instances × 16 workers, a = λ·S; C(a, N) = B / (1 − (a/N)(1 − B)), B = Erlang B[3][6]P(W > t) = C·e^(−(N/S − λ)·t); timeouts = P(W > 2 s); a ≥ N ⇒ failed share = 1 − N/a[3]p99 ≈ S·ln 100 + ln(C/0.01)/(N/S − λ) (service + waiting quantile, an approximation)[3][6]Ойролцоолол: үйлчилгээ болон хүлээлтийн квантилуудыг нэмэх нь тэдний нийлбэрийн яг p99 биш (бага зэрэг өндөр эсвэл доогуур байж болно); хүсэлт миллисекундээр хэмжигддэг тул дараалал минут тутамд тогтвортой гэж үзнэ.busy workers L = λ·S ⇒ utilization = λ·S / N[4]hit = warm × rT/(1 + rT), r = λ / 20,000 objects; mean age of a cached answer ≈ T/2[5]DB load = λ·q·(1 − hit); query time = 5 ms/(1 − ρ_db) (≤ 250 ms); S = S_app + (1 − hit)·q·query time[6]Таамаглал: ажилтны тоо, үйлчилгээний хугацаа, өгөгдлийн сангийн чадал, кэшийн хэмжээ, дахин дүүргэх хурд, үнэ, муу бүтээлтийн алдааны хувь нь дунд зэргийн вэб үйлчилгээний жишээ утгууд.budget = 1 − SLO = 0.1 %; burn = error rate / 0.1 %; Δbudget per min = burn / 43,200; burn (1 h) = mean error rate over the last 60 min / 0.1 % (window pre-filled with the opening minute)[1][2]desired = ⌈serving × utilization / target⌉ (utilization saturates at 100 %); new instances serve after the boot delay[6]Таамаглал: ажилтны тоо, үйлчилгээний хугацаа, өгөгдлийн сангийн чадал, кэшийн хэмжээ, дахин дүүргэх хурд, үнэ, муу бүтээлтийн алдааны хувь нь дунд зэргийн вэб үйлчилгээний жишээ утгууд.16 workers/instance · app time 50 ms (+20 ms and +1 query with the feature on) · 2 queries/request · DB 4,000 queries/s · 20,000 hot objects · cache refill τ = 30 min (slower while the DB is saturated) · warm-up job +12 %/min for 6 min, +600 queries/s · timeout 2 s · 30 % low-priority traffic · bad build +5 % errors, ×1.25 CPU · rollback 5 min · $0.40 per instance-hour · scale-in by ≤ 20 % of the fleet after 10 quiet minutes · up to 40 instancesТаамаглал: ажилтны тоо, үйлчилгээний хугацаа, өгөгдлийн сангийн чадал, кэшийн хэмжээ, дахин дүүргэх хурд, үнэ, муу бүтээлтийн алдааны хувь нь дунд зэргийн вэб үйлчилгээний жишээ утгууд.Санамсаргүй байдал: seed-тэй mulberry32 генератор; ашигласан тархалтууд — жигд, экспоненциал (урвуу CDF), хэвийн (Box–Muller), Пуассон (Knuth). Seed харагдах бөгөөд хуваалцаж болно.
Боловсролын загвар — үйл ажиллагааны шийдвэрт зориулаагүй. Бодит байгууламжууд тогтмол бүрийг өөрийн тоног төхөөрөмж, өгөгдөлд тохируулдаг.