🖥️ IT ಕಾರ್ಯಾಚರಣೆಗಳು — ಸೈಟ್ ವಿಶ್ವಾಸಾರ್ಹತೆ ಲೈವ್ ಮಾದರಿ

ಆಧಾರ — ಸಂಖ್ಯೆಗಳ ಹಿಂದಿನ ಮಾದರಿ

ಸಿಮ್ಯುಲೇಟರ್ ಬಳಸುವ ಪ್ರತಿ ಸಂಬಂಧ, ಅದರ ಮೂಲದೊಂದಿಗೆ. ಊಹೆಗಳೆಂದು ಗುರುತಿಸಿದ ಸ್ಥಿರಾಂಕಗಳು ವಿವರಣಾತ್ಮಕ ಮಾಪನಾಂಕಗಳು.

ವಿನಂತಿಗಳು ದೈನಂದಿನ ವಕ್ರರೇಖೆ ಮತ್ತು ಅಡಚಣೆಗಳನ್ನು ಅನುಸರಿಸುತ್ತವೆ; ನಿಮಿಷದ ಎಣಿಕೆ ಯಾದೃಚ್ಛಿಕ (ಪಾಯ್ಸನ್, ಸಾಮಾನ್ಯ ಅಂದಾಜು) ಸ್ವಲ್ಪ ಸ್ಫೋಟಕತೆಯೊಂದಿಗೆ.

λ(t) = base × (1 + 0.25·sin(2π(t + clock − 6 h)/24 h)) × surge(t), clock = time of day at the start (peak at 12:00); count/min ≈ N(60λ, √(60λ)) × (1 + N(0, 0.02))[6]ಊಹೆ: ವರ್ಕರ್ ಸಂಖ್ಯೆಗಳು, ಸೇವಾ ಸಮಯಗಳು, ಡೇಟಾಬೇಸ್ ಸಾಮರ್ಥ್ಯ, ಕ್ಯಾಷ್ ಗಾತ್ರ, ಮರುತುಂಬುವ ವೇಗ, ಬೆಲೆಗಳು ಮತ್ತು ಕೆಟ್ಟ ಬಿಲ್ಡ್‌ನ ದೋಷ ದರ ಮಧ್ಯಮ ಗಾತ್ರದ ವೆಬ್ ಸೇವೆಗೆ ವಿವರಣಾತ್ಮಕ ಮೌಲ್ಯಗಳು.

ಎರ್ಲಾಂಗ್ C: M/M/N ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ವಿನಂತಿ ಮುಕ್ತ ವರ್ಕರ್‌ಗಾಗಿ ಕಾಯಬೇಕಾದ ಸಂಭವನೀಯತೆ.

N = instances × 16 workers, a = λ·S; C(a, N) = B / (1 − (a/N)(1 − B)), B = Erlang B[3][6]

ಕಾಯುವ ಸಮಯದ ಬಾಲ: t ಗಿಂತ ಹೆಚ್ಚು ಕಾಲ ಕಾಯುವ ಸಂಭವನೀಯತೆ ಘಾತೀಯವಾಗಿ ಕುಸಿಯುತ್ತದೆ; 2-s ಟೈಮ್‌ಔಟ್‌ನಲ್ಲಿ ಇನ್ನೂ ಕಾಯುತ್ತಿರುವ ವಿನಂತಿಗಳು ವಿಫಲವಾಗುತ್ತವೆ. ಸಾಮರ್ಥ್ಯ ಮೀರಿದರೆ ಹೆಚ್ಚುವರಿ ವಿಫಲವಾಗುತ್ತದೆ.

P(W > t) = C·e^(−(N/S − λ)·t); timeouts = P(W > 2 s); a ≥ N ⇒ failed share = 1 − N/a[3]

ಸೇವಾ ಸಮಯ ಮತ್ತು ಕಾಯುವ ಸಮಯದ ಕ್ವಾಂಟೈಲ್‌ಗಳಿಂದ p99 ವಿಳಂಬ.

p99 ≈ S·ln 100 + ln(C/0.01)/(N/S − λ) (service + waiting quantile, an approximation)[3][6]ಅಂದಾಜು: ಸೇವೆ ಮತ್ತು ಕಾಯುವಿಕೆ ಕ್ವಾಂಟೈಲ್‌ಗಳನ್ನು ಕೂಡಿಸುವುದು ಅವುಗಳ ಮೊತ್ತದ ನಿಖರ p99 ಅಲ್ಲ (ಅದು ಸ್ವಲ್ಪ ಹೆಚ್ಚು ಅಥವಾ ಕಡಿಮೆ ಇರಬಹುದು); ವಿನಂತಿಗಳು ಮಿಲಿಸೆಕೆಂಡ್‌ಗಳಲ್ಲಿ ಮುಗಿಯುವುದರಿಂದ ಸರತಿಯನ್ನು ಪ್ರತಿ ನಿಮಿಷದೊಳಗೆ ಸ್ಥಿರವೆಂದು ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ.

ಲಿಟಲ್‌ನ ನಿಯಮ: ಕಾರ್ಯನಿರತ ವರ್ಕರ್‌ಗಳು = ಆಗಮನ ದರ × ಸೇವೆಯಲ್ಲಿನ ಸಮಯ.

busy workers L = λ·S ⇒ utilization = λ·S / N[4]

TTL ಕ್ಯಾಷ್: ಯಾದೃಚ್ಛಿಕ ವಿನಂತಿಗಳೊಂದಿಗೆ, ಪ್ರತಿ ಮಿಸ್ ವಿನಂತಿಗಳು ಹಿಟ್ ಆಗುವ TTL ಅವಧಿಯನ್ನು ಪ್ರಾರಂಭಿಸುತ್ತದೆ.

hit = warm × rT/(1 + rT), r = λ / 20,000 objects; mean age of a cached answer ≈ T/2[5]

ಕ್ಯಾಷ್ ಮಿಸ್‌ಗಳು ಡೇಟಾಬೇಸ್ ಅನ್ನು ಲೋಡ್ ಮಾಡುತ್ತವೆ; ಅದರ ಸರತಿ ವಿಳಂಬ ಅದನ್ನು ಮುಟ್ಟುವ ಪ್ರತಿ ವಿನಂತಿಯನ್ನು ನಿಧಾನಗೊಳಿಸುತ್ತದೆ, ಇದು ಆ್ಯಪ್ ವರ್ಕರ್‌ಗಳನ್ನೂ ತುಂಬುತ್ತದೆ.

DB load = λ·q·(1 − hit); query time = 5 ms/(1 − ρ_db) (≤ 250 ms); S = S_app + (1 − hit)·q·query time[6]ಊಹೆ: ವರ್ಕರ್ ಸಂಖ್ಯೆಗಳು, ಸೇವಾ ಸಮಯಗಳು, ಡೇಟಾಬೇಸ್ ಸಾಮರ್ಥ್ಯ, ಕ್ಯಾಷ್ ಗಾತ್ರ, ಮರುತುಂಬುವ ವೇಗ, ಬೆಲೆಗಳು ಮತ್ತು ಕೆಟ್ಟ ಬಿಲ್ಡ್‌ನ ದೋಷ ದರ ಮಧ್ಯಮ ಗಾತ್ರದ ವೆಬ್ ಸೇವೆಗೆ ವಿವರಣಾತ್ಮಕ ಮೌಲ್ಯಗಳು.

SLO ಮತ್ತು ದೋಷ ಬಜೆಟ್: ಬರ್ನ್ ರೇಟ್ ಬಜೆಟ್ ಅನುಮತಿಸಿದ್ದಕ್ಕಿಂತ ಎಷ್ಟು ಪಟ್ಟು ವೇಗವಾಗಿ ಖರ್ಚಾಗುತ್ತಿದೆ ಎಂದು ಹೇಳುತ್ತದೆ.

budget = 1 − SLO = 0.1 %; burn = error rate / 0.1 %; Δbudget per min = burn / 43,200; burn (1 h) = mean error rate over the last 60 min / 0.1 % (window pre-filled with the opening minute)[1][2]

ಬೂಟ್ ವಿಳಂಬ ಮತ್ತು ಕೂಲ್‌ಡೌನ್ ಇರುವ ಗುರಿ-ಟ್ರ್ಯಾಕಿಂಗ್ ಸ್ವಯಂ ಸ್ಕೇಲರ್.

desired = ⌈serving × utilization / target⌉ (utilization saturates at 100 %); new instances serve after the boot delay[6]ಊಹೆ: ವರ್ಕರ್ ಸಂಖ್ಯೆಗಳು, ಸೇವಾ ಸಮಯಗಳು, ಡೇಟಾಬೇಸ್ ಸಾಮರ್ಥ್ಯ, ಕ್ಯಾಷ್ ಗಾತ್ರ, ಮರುತುಂಬುವ ವೇಗ, ಬೆಲೆಗಳು ಮತ್ತು ಕೆಟ್ಟ ಬಿಲ್ಡ್‌ನ ದೋಷ ದರ ಮಧ್ಯಮ ಗಾತ್ರದ ವೆಬ್ ಸೇವೆಗೆ ವಿವರಣಾತ್ಮಕ ಮೌಲ್ಯಗಳು.

ಮಾದರಿ ಬಳಸುವ ಇತರ ಕಾರ್ಯಾಚರಣೆ ಸ್ಥಿರಾಂಕಗಳು.

16 workers/instance · app time 50 ms (+20 ms and +1 query with the feature on) · 2 queries/request · DB 4,000 queries/s · 20,000 hot objects · cache refill τ = 30 min (slower while the DB is saturated) · warm-up job +12 %/min for 6 min, +600 queries/s · timeout 2 s · 30 % low-priority traffic · bad build +5 % errors, ×1.25 CPU · rollback 5 min · $0.40 per instance-hour · scale-in by ≤ 20 % of the fleet after 10 quiet minutes · up to 40 instancesಊಹೆ: ವರ್ಕರ್ ಸಂಖ್ಯೆಗಳು, ಸೇವಾ ಸಮಯಗಳು, ಡೇಟಾಬೇಸ್ ಸಾಮರ್ಥ್ಯ, ಕ್ಯಾಷ್ ಗಾತ್ರ, ಮರುತುಂಬುವ ವೇಗ, ಬೆಲೆಗಳು ಮತ್ತು ಕೆಟ್ಟ ಬಿಲ್ಡ್‌ನ ದೋಷ ದರ ಮಧ್ಯಮ ಗಾತ್ರದ ವೆಬ್ ಸೇವೆಗೆ ವಿವರಣಾತ್ಮಕ ಮೌಲ್ಯಗಳು.

ಯಾದೃಚ್ಛಿಕತೆ: ಸೀಡ್ ಮಾಡಿದ mulberry32 ಜನರೇಟರ್; ಬಳಸಿದ ವಿತರಣೆಗಳು — ಏಕರೂಪ, ಘಾತೀಯ (ವಿಲೋಮ CDF), ಸಾಮಾನ್ಯ (Box–Muller), ಪಾಯಿಸಾನ್ (Knuth). ಸೀಡ್ ತೋರಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ಹಂಚಿಕೊಳ್ಳಬಹುದು.

ಮೂಲಗಳು

1. Site Reliability Engineering — Ch. 3 Embracing Risk (error budgets), Ch. 4 Service Level Objectives — Beyer, Jones, Petoff, Murphy (eds.), O'Reilly, 2016
2. The Site Reliability Workbook — Ch. 5 Alerting on SLOs (burn rate; 14.4× over 1 h = 2 % of a 30-day budget) — Beyer, Murphy, Rensin, Kawahara, Thorne (eds.), O'Reilly, 2018
3. Teletraffic Engineering Handbook — Erlang C formula; waiting-time distribution for M/M/n, FCFS — ITU-D Study Group 2 Question 16/2 (V. B. Iversen), 2005
4. J. D. C. Little — A Proof for the Queuing Formula: L = λW — Operations Research 9(3):383–387, 1961
5. J. Jung, A. W. Berger, H. Balakrishnan — Modeling TTL-based Internet Caches — IEEE INFOCOM 2003, 2003
6. M. Harchol-Balter — Performance Modeling and Design of Computer Systems: Queueing Theory in Action (M/M/k, server farms, capacity provisioning) — Cambridge University Press, 2013