ਤੁਸੀਂ ਇੱਕ ਵੈੱਬ ਸੇਵਾ ਲਈ ਆਨ-ਕਾਲ ਹੋ: ਇੰਸਟੈਂਸਾਂ ਦੇ ਫਲੀਟ ਦੇ ਸਾਹਮਣੇ ਇੱਕ ਲੋਡ ਬੈਲੈਂਸਰ, ਡੇਟਾਬੇਸ ਦੇ ਸਾਹਮਣੇ ਇੱਕ ਕੈਸ਼, ਅਤੇ 99.9 % ਉਪਲਬਧਤਾ ਟੀਚਾ। ਹਰ ਮਿੰਟ ਮਾਡਲ ਪਾਠ-ਪੁਸਤਕ ਫ਼ਾਰਮੂਲਿਆਂ ਤੋਂ ਕਤਾਰ ਦੇਰੀ, ਟਾਈਮਆਊਟ, ਕੈਸ਼ ਹਿੱਟ ਅਤੇ ਡੇਟਾਬੇਸ ਲੋਡ ਗਿਣਦਾ ਹੈ — ਅਤੇ ਇਹ ਵੀ ਕਿ ਤੁਹਾਡੇ ਫ਼ੈਸਲਿਆਂ ਦੀ ਕੀਮਤ ਕੀ ਹੈ।
ਫਲੀਟ ਦੀ ਹੇਠਲੀ ਹੱਦ। ਇਸ ਨੂੰ ਵਧਾਉਣ ਨਾਲ ਇੰਸਟੈਂਸ ਇੱਕਦਮ ਚੱਲ ਪੈਂਦੇ ਹਨ — ਪਰ ਸੇਵਾ ਤੋਂ ਪਹਿਲਾਂ ਉਨ੍ਹਾਂ ਨੂੰ ਬੂਟ ਦੇਰੀ ਚਾਹੀਦੀ ਹੈ।
ਵਰਤੋਂ 'ਤੇ ਟੀਚਾ ਟਰੈਕਿੰਗ; ਜਦੋਂ ਤੱਕ ਇੰਸਟੈਂਸ ਬੂਟ ਹੋ ਰਹੇ ਹਨ ਕੋਈ ਨਵੀਂ ਸਕੇਲ-ਆਊਟ ਨਹੀਂ। ਬੰਦ = ਬਿਲਕੁਲ ਘੱਟੋ-ਘੱਟ।
ਘੱਟ = ਵੱਧ ਗੁੰਜਾਇਸ਼ ਅਤੇ ਵੱਧ ਖ਼ਰਚ। ਮਾਪੀ ਵਰਤੋਂ 100 % ਤੋਂ ਵੱਧ ਨਹੀਂ ਹੋ ਸਕਦੀ, ਇਸ ਲਈ ਭਰਿਆ ਫਲੀਟ ਸਿਰਫ਼ ਕਦਮ-ਦਰ-ਕਦਮ ਵਧਦਾ ਹੈ।
ਲੰਮਾ TTL = ਵੱਧ ਹਿੱਟ, ਪਰ ਜਵਾਬ ਪੁਰਾਣੇ ਹੋ ਸਕਦੇ ਹਨ (ਔਸਤ ਉਮਰ ≈ TTL/2)।
6 ਮਿੰਟ ਲਈ ਗਰਮ ਕੁੰਜੀਆਂ ਲੋਡ ਕਰਦਾ ਹੈ (ਪ੍ਰਤੀ ਮਿੰਟ ਕੈਸ਼ ਦਾ +12 %) 600 ਵਾਧੂ ਡੇਟਾਬੇਸ ਕਵੇਰੀਆਂ/s ਦੀ ਕੀਮਤ 'ਤੇ।
30 % ਘੱਟ-ਤਰਜੀਹ (ਪ੍ਰੀਫੈੱਚ, ਬੈਚ, ਕ੍ਰਾਲਰ) ਦਾ ਹਿੱਸਾ ਜੋ ਲੋਡ ਬੈਲੈਂਸਰ 'ਤੇ “ਬਾਅਦ ਵਿੱਚ ਮੁੜ ਕੋਸ਼ਿਸ਼ ਕਰੋ” ਨਾਲ ਰੱਦ ਹੁੰਦਾ ਹੈ।
ਭਾਰੀ ਫੀਚਰ ਪ੍ਰਤੀ ਬੇਨਤੀ 20 ms CPU ਅਤੇ ਇੱਕ ਡੇਟਾਬੇਸ ਕਵੇਰੀ ਜੋੜਦਾ ਹੈ। ਬੰਦ = ਹੌਲੀ-ਹੌਲੀ ਘਟਾਉਣਾ।
ਆਖ਼ਰੀ ਚੰਗੇ ਬਿਲਡ ਨੂੰ ਨਵੇਂ ਫਲੀਟ 'ਤੇ ਮੁੜ ਤੈਨਾਤ ਕਰਦਾ ਹੈ (5 min, ਦੋ ਵਾਰ ਬਿੱਲ), ਫਿਰ ਟ੍ਰੈਫ਼ਿਕ ਬਦਲਦਾ ਹੈ। ਦੁਬਾਰਾ ਦਬਾਉਣ 'ਤੇ ਤਿਆਰੀ ਮੁੜ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ; ਜੇ ਕੋਈ ਮਾੜਾ ਬਿਲਡ ਚਾਲੂ ਨਹੀਂ ਤਾਂ ਇਸ ਦਾ ਸਿਰਫ਼ ਖ਼ਰਚਾ ਹੁੰਦਾ ਹੈ।
| ਬਰਨ ਰੇਟ (1 h) | 0.0 × |
|---|---|
| ਬੇਨਤੀਆਂ | 1125 req/s |
| ਸੇਵਾ ਕਰ ਰਹੇ ਇੰਸਟੈਂਸ | 10 |
| ਬੂਟ ਹੋ ਰਹੇ ਇੰਸਟੈਂਸ | 0 |
| ਕੈਸ਼ ਹਿੱਟ ਦਰ | 77 % |
| ਡੇਟਾਬੇਸ ਵਰਤੋਂ | 19 % |
| ਛੱਡਿਆ ਟ੍ਰੈਫਿਕ | 0 % |
| ਫਲੀਟ ਲਾਗਤ | 4.00 $/h |
| ਹੁਣ ਤੱਕ ਦੀ ਲਾਗਤ | 0.00 $ |
| ਕੈਸ਼ ਕੀਤੇ ਜਵਾਬਾਂ ਦੀ ਔਸਤ ਉਮਰ | 30 s |
| ਮਾੜੇ ਬਿਲਡ 'ਤੇ ਟ੍ਰੈਫਿਕ | 0 % |
| ਉਪਲਬਧ ਸਿਫ਼ਾਰਸ਼ਾਂ | 100 % |
09:10 ਵਜੇ ਨਵਾਂ ਬਿਲਡ ਜਾਰੀ ਹੁੰਦਾ ਹੈ। ਮਹੀਨਾ ਪਹਿਲਾਂ ਹੀ ਔਖਾ ਰਿਹਾ ਹੈ: ਗਲਤੀ ਬਜਟ ਦਾ ਸਿਰਫ਼ 20 % ਬਚਿਆ ਹੈ। ਡਿਪਲੋਇ ਤੋਂ ਮਿੰਟਾਂ ਬਾਅਦ ਬਰਨ-ਰੇਟ ਪੇਜ ਵੱਜ ਪੈਂਦਾ ਹੈ। ਬਜਟ ਦੀ ਰਾਖੀ ਕਰੋ।
ਸੇਵਾ ਦਾ ਇੱਕ ਲਿੰਕ ਤੇਜ਼ੀ ਨਾਲ ਫੈਲ ਰਿਹਾ ਹੈ ਅਤੇ ਅੱਜ ਸਵੇਰੇ ਕਿਸੇ ਵੇਲੇ ਟ੍ਰੈਫ਼ਿਕ ਦੇ ਉਛਾਲ ਦੀ ਉਮੀਦ ਹੈ — ਕਿਸੇ ਨੂੰ ਨਹੀਂ ਪਤਾ ਕਦੋਂ, ਜਾਂ ਕਿੰਨਾ ਵੱਡਾ। ਨਵੇਂ ਇੰਸਟੈਂਸ ਨੂੰ ਅੱਜ ਸ਼ੁਰੂ ਹੋਣ ਵਿੱਚ 8 ਮਿੰਟ ਲੱਗਦੇ ਹਨ। ਜਦੋਂ ਇਹ ਆਵੇ, ਵਿਹਲੀ ਸਮਰੱਥਾ 'ਤੇ ਪੈਸੇ ਫੂਕੇ ਬਿਨਾਂ ਗ਼ਲਤੀਆਂ ਅਤੇ ਲੇਟੈਂਸੀ ਘੱਟ ਰੱਖੋ।
ਦੁਪਹਿਰ ਦੇ ਸਿਖਰ 'ਤੇ ਇੱਕ ਰੱਖ-ਰਖਾਅ ਸਕ੍ਰਿਪਟ ਪੂਰਾ ਕੈਸ਼ ਸਾਫ਼ ਕਰ ਦਿੰਦੀ ਹੈ। ਹੁਣ ਹਰ ਬੇਨਤੀ ਡੇਟਾਬੇਸ ਕੋਲ ਜਾਂਦੀ ਹੈ, ਜੋ ਆਮ 85 % ਹਿੱਟ ਦਰ ਲਈ ਮਾਪਿਆ ਗਿਆ ਸੀ। ਡੇਟਾਬੇਸ ਨੂੰ ਓਵਰਲੋਡ ਕੀਤੇ ਬਿਨਾਂ ਸੇਵਾ ਵਾਪਸ ਲਿਆਓ।
ਸਿਮੂਲੇਟਰ ਵੱਲੋਂ ਵਰਤਿਆ ਹਰ ਸੰਬੰਧ, ਆਪਣੇ ਸਰੋਤ ਸਮੇਤ। ਧਾਰਨਾਵਾਂ ਵਜੋਂ ਚਿੰਨ੍ਹਿਤ ਸਥਿਰਾਂਕ ਦ੍ਰਿਸ਼ਟਾਂਤਕ ਕੈਲੀਬ੍ਰੇਸ਼ਨ ਹਨ।
λ(t) = base × (1 + 0.25·sin(2π(t + clock − 6 h)/24 h)) × surge(t), clock = time of day at the start (peak at 12:00); count/min ≈ N(60λ, √(60λ)) × (1 + N(0, 0.02))[6]ਧਾਰਨਾ: ਵਰਕਰਾਂ ਦੀ ਗਿਣਤੀ, ਸੇਵਾ ਸਮੇਂ, ਡੇਟਾਬੇਸ ਸਮਰੱਥਾ, ਕੈਸ਼ ਦਾ ਆਕਾਰ, ਮੁੜ-ਭਰਨ ਦੀ ਗਤੀ, ਕੀਮਤਾਂ ਅਤੇ ਮਾੜੇ ਬਿਲਡ ਦੀ ਗਲਤੀ ਦਰ ਦਰਮਿਆਨੀ ਵੈੱਬ ਸੇਵਾ ਲਈ ਉਦਾਹਰਣ ਮੁੱਲ ਹਨ।N = instances × 16 workers, a = λ·S; C(a, N) = B / (1 − (a/N)(1 − B)), B = Erlang B[3][6]P(W > t) = C·e^(−(N/S − λ)·t); timeouts = P(W > 2 s); a ≥ N ⇒ failed share = 1 − N/a[3]p99 ≈ S·ln 100 + ln(C/0.01)/(N/S − λ) (service + waiting quantile, an approximation)[3][6]ਅਨੁਮਾਨ: ਸੇਵਾ ਅਤੇ ਉਡੀਕ ਕੁਆਂਟਾਈਲਾਂ ਨੂੰ ਜੋੜਨਾ ਉਨ੍ਹਾਂ ਦੇ ਜੋੜ ਦਾ ਸਹੀ p99 ਨਹੀਂ ਹੈ (ਇਹ ਥੋੜ੍ਹਾ ਵੱਧ ਜਾਂ ਘੱਟ ਹੋ ਸਕਦਾ ਹੈ); ਕਤਾਰ ਨੂੰ ਹਰ ਮਿੰਟ ਦੇ ਅੰਦਰ ਸਥਿਰ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿਉਂਕਿ ਬੇਨਤੀਆਂ ਮਿਲੀਸਕਿੰਟਾਂ ਵਿੱਚ ਪੂਰੀਆਂ ਹੁੰਦੀਆਂ ਹਨ।busy workers L = λ·S ⇒ utilization = λ·S / N[4]hit = warm × rT/(1 + rT), r = λ / 20,000 objects; mean age of a cached answer ≈ T/2[5]DB load = λ·q·(1 − hit); query time = 5 ms/(1 − ρ_db) (≤ 250 ms); S = S_app + (1 − hit)·q·query time[6]ਧਾਰਨਾ: ਵਰਕਰਾਂ ਦੀ ਗਿਣਤੀ, ਸੇਵਾ ਸਮੇਂ, ਡੇਟਾਬੇਸ ਸਮਰੱਥਾ, ਕੈਸ਼ ਦਾ ਆਕਾਰ, ਮੁੜ-ਭਰਨ ਦੀ ਗਤੀ, ਕੀਮਤਾਂ ਅਤੇ ਮਾੜੇ ਬਿਲਡ ਦੀ ਗਲਤੀ ਦਰ ਦਰਮਿਆਨੀ ਵੈੱਬ ਸੇਵਾ ਲਈ ਉਦਾਹਰਣ ਮੁੱਲ ਹਨ।budget = 1 − SLO = 0.1 %; burn = error rate / 0.1 %; Δbudget per min = burn / 43,200; burn (1 h) = mean error rate over the last 60 min / 0.1 % (window pre-filled with the opening minute)[1][2]desired = ⌈serving × utilization / target⌉ (utilization saturates at 100 %); new instances serve after the boot delay[6]ਧਾਰਨਾ: ਵਰਕਰਾਂ ਦੀ ਗਿਣਤੀ, ਸੇਵਾ ਸਮੇਂ, ਡੇਟਾਬੇਸ ਸਮਰੱਥਾ, ਕੈਸ਼ ਦਾ ਆਕਾਰ, ਮੁੜ-ਭਰਨ ਦੀ ਗਤੀ, ਕੀਮਤਾਂ ਅਤੇ ਮਾੜੇ ਬਿਲਡ ਦੀ ਗਲਤੀ ਦਰ ਦਰਮਿਆਨੀ ਵੈੱਬ ਸੇਵਾ ਲਈ ਉਦਾਹਰਣ ਮੁੱਲ ਹਨ।16 workers/instance · app time 50 ms (+20 ms and +1 query with the feature on) · 2 queries/request · DB 4,000 queries/s · 20,000 hot objects · cache refill τ = 30 min (slower while the DB is saturated) · warm-up job +12 %/min for 6 min, +600 queries/s · timeout 2 s · 30 % low-priority traffic · bad build +5 % errors, ×1.25 CPU · rollback 5 min · $0.40 per instance-hour · scale-in by ≤ 20 % of the fleet after 10 quiet minutes · up to 40 instancesਧਾਰਨਾ: ਵਰਕਰਾਂ ਦੀ ਗਿਣਤੀ, ਸੇਵਾ ਸਮੇਂ, ਡੇਟਾਬੇਸ ਸਮਰੱਥਾ, ਕੈਸ਼ ਦਾ ਆਕਾਰ, ਮੁੜ-ਭਰਨ ਦੀ ਗਤੀ, ਕੀਮਤਾਂ ਅਤੇ ਮਾੜੇ ਬਿਲਡ ਦੀ ਗਲਤੀ ਦਰ ਦਰਮਿਆਨੀ ਵੈੱਬ ਸੇਵਾ ਲਈ ਉਦਾਹਰਣ ਮੁੱਲ ਹਨ।ਬੇਤਰਤੀਬੀ: ਸੀਡ ਵਾਲਾ mulberry32 ਜਨਰੇਟਰ; ਵਰਤੀਆਂ ਵੰਡਾਂ — ਯੂਨੀਫ਼ਾਰਮ, ਘਾਤਾਂਕੀ (ਉਲਟ CDF), ਸਧਾਰਨ (Box–Muller), ਪੌਆਸੋਂ (Knuth)। ਸੀਡ ਦਿਖਾਇਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਸਾਂਝਾ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
ਸਿੱਖਿਆ ਮਾਡਲ — ਸੰਚਾਲਨ ਫ਼ੈਸਲਿਆਂ ਲਈ ਨਹੀਂ। ਅਸਲ ਸਾਈਟਾਂ ਹਰ ਸਥਿਰਾਂਕ ਨੂੰ ਆਪਣੇ ਉਪਕਰਣਾਂ ਅਤੇ ਡਾਟਾ ਅਨੁਸਾਰ ਕੈਲੀਬਰੇਟ ਕਰਦੀਆਂ ਹਨ।