Siz veb-xizmat uchun navbatchisiz (on-call): nusxalar parki oldida yuk balanslagich, ma’lumotlar bazasi oldida kesh va 99,9 % mavjudlik maqsadi. Har daqiqa model navbat kechikishi, timeoutlar, kesh urishlari va ma’lumotlar bazasi yuklamasini darslik formulalaridan hisoblaydi — va qarorlaringiz qancha turishini.
Park uchun quyi chegara. Uni oshirish nusxalarni darhol ishga tushiradi — ular xizmat ko‘rsatishdan oldin baribir yuklanish kechikishini talab qiladi.
Bandlik bo‘yicha maqsadni kuzatish; nusxalar hali yuklanayotganda yangi kengaytirish yo‘q. O‘chiq = aynan minimum.
Pastroq = ko‘proq zaxira va ko‘proq xarajat. O‘lchangan bandlik 100 % dan oshmaydi, shuning uchun to‘yingan park faqat bosqichma-bosqich o‘sadi.
Uzunroq TTL = ko‘proq urishlar, lekin javoblar eskiroq bo‘lishi mumkin (o‘rtacha yosh ≈ TTL/2).
6 daqiqa davomida issiq kalitlarni yuklaydi (daqiqada keshning +12 %) qo‘shimcha 600 ma’lumotlar bazasi so‘rovi/s evaziga.
Past ustuvorlikdagi 30 % (oldindan yuklash, paketli, kraulerlar) ning yuk balanslagichda "keyinroq urinib ko‘ring" bilan rad etiladigan ulushi.
Og‘ir funksiya har bir so‘rovga 20 ms CPU va bitta ma’lumotlar bazasi so‘rovini qo‘shadi. O‘chiq = silliq pasayish.
Oxirgi yaxshi buildni yangi flotda qayta joylashtiradi (5 daqiqa, ikki marta hisoblanadi), so‘ng trafikni almashtiradi. Qayta bosish tayyorgarlikni qaytadan boshlaydi; yomon build ishlamayotgan bo‘lsa, faqat pul sarflanadi.
| Yonish tezligi (1 h) | 0,0 × |
|---|---|
| So‘rovlar | 1125 req/s |
| Xizmat ko‘rsatayotgan nusxalar | 10 |
| Yuklanayotgan nusxalar | 0 |
| Kesh urish ulushi | 77 % |
| Ma’lumotlar bazasi bandligi | 19 % |
| To‘xtatilgan trafik | 0 % |
| Park xarajati | 4,00 $/h |
| Hozirgacha xarajat | 0,00 $ |
| Keshdagi javoblarning o‘rtacha yoshi | 30 s |
| Yomon builddagi trafik | 0 % |
| Tavsiyalar mavjud | 100 % |
09:10 da yangi build chiqariladi. Oy allaqachon og‘ir o‘tgan: xato byudjetining faqat 20 % i qolgan. Deploydan bir necha daqiqa keyin yonish tezligi signali chaladi. Byudjetni asrang.
Xizmatga havola tez tarqalmoqda va bugun ertalab biror vaqtda trafik oshishi kutilmoqda — qachon va qanchalik kattaligini hech kim bilmaydi. Yangi instance larning ishga tushishi hozir 8 daqiqa oladi. U kelganda, ishlamay turgan quvvatga pul sarflamasdan, xatolar va kechikishni past ushlang.
Tush cho‘qqisida ta’mirlash skripti butun keshni tozalaydi. Endi har bir so‘rov odatdagi 85 % urish ulushiga mo‘ljallangan ma’lumotlar bazasiga boradi. Ma’lumotlar bazasini ortiqcha yuklamasdan xizmatni tiklang.
Simulyator ishlatadigan har bir bog‘lanish, manbasi bilan. Taxmin deb belgilangan doimiylar misol kalibrlashlardir.
λ(t) = base × (1 + 0.25·sin(2π(t + clock − 6 h)/24 h)) × surge(t), clock = time of day at the start (peak at 12:00); count/min ≈ N(60λ, √(60λ)) × (1 + N(0, 0.02))[6]Taxmin: ishchilar soni, xizmat vaqtlari, ma’lumotlar bazasi sig‘imi, kesh o‘lchami, to‘ldirish tezligi, narxlar va yomon buildning xato ulushi o‘rta veb-xizmat uchun ko‘rgazmali qiymatlar.N = instances × 16 workers, a = λ·S; C(a, N) = B / (1 − (a/N)(1 − B)), B = Erlang B[3][6]P(W > t) = C·e^(−(N/S − λ)·t); timeouts = P(W > 2 s); a ≥ N ⇒ failed share = 1 − N/a[3]p99 ≈ S·ln 100 + ln(C/0.01)/(N/S − λ) (service + waiting quantile, an approximation)[3][6]Yaqinlashtirish: xizmat va kutish kvantillarini qo‘shish ularning yig‘indisining aniq p99 i emas (u biroz yuqori yoki past bo‘lishi mumkin); so‘rovlar millisekundlarda bajarilgani uchun navbat har daqiqa ichida barqaror deb olinadi.busy workers L = λ·S ⇒ utilization = λ·S / N[4]hit = warm × rT/(1 + rT), r = λ / 20,000 objects; mean age of a cached answer ≈ T/2[5]DB load = λ·q·(1 − hit); query time = 5 ms/(1 − ρ_db) (≤ 250 ms); S = S_app + (1 − hit)·q·query time[6]Taxmin: ishchilar soni, xizmat vaqtlari, ma’lumotlar bazasi sig‘imi, kesh o‘lchami, to‘ldirish tezligi, narxlar va yomon buildning xato ulushi o‘rta veb-xizmat uchun ko‘rgazmali qiymatlar.budget = 1 − SLO = 0.1 %; burn = error rate / 0.1 %; Δbudget per min = burn / 43,200; burn (1 h) = mean error rate over the last 60 min / 0.1 % (window pre-filled with the opening minute)[1][2]desired = ⌈serving × utilization / target⌉ (utilization saturates at 100 %); new instances serve after the boot delay[6]Taxmin: ishchilar soni, xizmat vaqtlari, ma’lumotlar bazasi sig‘imi, kesh o‘lchami, to‘ldirish tezligi, narxlar va yomon buildning xato ulushi o‘rta veb-xizmat uchun ko‘rgazmali qiymatlar.16 workers/instance · app time 50 ms (+20 ms and +1 query with the feature on) · 2 queries/request · DB 4,000 queries/s · 20,000 hot objects · cache refill τ = 30 min (slower while the DB is saturated) · warm-up job +12 %/min for 6 min, +600 queries/s · timeout 2 s · 30 % low-priority traffic · bad build +5 % errors, ×1.25 CPU · rollback 5 min · $0.40 per instance-hour · scale-in by ≤ 20 % of the fleet after 10 quiet minutes · up to 40 instancesTaxmin: ishchilar soni, xizmat vaqtlari, ma’lumotlar bazasi sig‘imi, kesh o‘lchami, to‘ldirish tezligi, narxlar va yomon buildning xato ulushi o‘rta veb-xizmat uchun ko‘rgazmali qiymatlar.Tasodifiylik: seedli mulberry32 generatori; ishlatilgan taqsimotlar — tekis, eksponensial (teskari CDF), normal (Box–Muller), Puasson (Knuth). Seed ko‘rsatiladi va ulashiladi.
Ta’limiy model — operatsion qarorlar uchun emas. Haqiqiy obyektlar har bir doimiyni o‘z jihozi va ma’lumotlariga moslab kalibrlaydi.