Do hast stânby foar in webtsjinst: in lestferdieler foar in float eksimplaren, in cache foar in databank, en in beskikberensdoel fan 99,9 %. Elke minút berekkenet it model wachtrigefertraging, time-outs, cachetreffers en databanklêst út learboekformules — en wat dyn besluten kostje.
Ûndergrins foar de float. Ferheegje start daliks eksimplaren — se hawwe de opstartfertraging noch nedich foardat se betsjinje.
Doelrjochte regeling op de benutting; gjin nij opskaalje salang't der noch eksimplaren opstarte. Út = krekt it minimum.
Leger = mear romte en mear kosten. Mjitten benutting kin net boppe 100 % komme, dus in fersêde float groeit allinnich stap foar stap.
Langere TTL = mear treffers, mar antwurden kinne âlder wêze (gemiddelde leeftyd ≈ TTL/2).
Laadt 6 minuten lang faak brûkte kaaien (+12 % fan de cache per minút) tsjin de priis fan 600 ekstra databankfragen/s.
Diel fan de 30 % lege prioriteit (prefetch, batch, crawlers) dat by de lestferdieler ôfwiisd wurdt mei „besykje letter wer”.
De swiere funksje foeget 20 ms CPU en ien databankfraach per fersyk ta. Út = kontrolearre efterútgong.
Set de lêste goede build op in farske float út (5 min, twa kear yn rekken brocht) en skeakelt dan it ferkear om. Opnij drukke start de tarieding op ’e nij; sûnder minne build yn it libben kostet it allinnich jild.
| Ferbrûkssnelheid (1 h) | 0,0 × |
|---|---|
| Fersiken | 1125 req/s |
| Eksimplaren dy’t betsjinje | 10 |
| Eksimplaren dy’t opstarte | 0 |
| Cache-trefferrate | 77 % |
| Databankbenutting | 19 % |
| Ôfstjitten ferkear | 0 % |
| Floatkosten | 4,00 $/h |
| Kosten oant no ta | 0,00 $ |
| Gemiddelde leeftyd fan cachte antwurden | 30 s |
| Ferkear op de minne build | 0 % |
| Oanbefellings beskikber | 100 % |
Om 09:10 giet in nije build út. De moanne wie al hurd: mar 20 % fan it flaterbudzjet is oer. Minuten nei de útrol giet it ferbrûkssnelheidsalarm ôf. Beskermje it budzjet.
In keppeling nei de tsjinst ferspriedt him fluch en der wurdt ergens fan moarn in ferkearspiek ferwachte — nimmen wit wannear of hoe grut. Nije ynstânsjes hawwe hjoed 8 minuten nedich om te starten. As er komt, hâld flaters en latinsje leech sûnder jild te ferbaarnen oan net brûkte kapasiteit.
Op de middeispiek leechmakket in ûnderhâldsskript de hiele cache. Elk fersyk giet no nei de databank, dy’t grutte hat foar de gewoane trefferrate fan 85 %. Krij de tsjinst werom sûnder de databank te oerbelêsten.
Elke relaasje dy't de simulator brûkt, mei de boarne. Konstanten dy't as oanname markearre binne, binne yllustrative kalibraasjes.
λ(t) = base × (1 + 0.25·sin(2π(t + clock − 6 h)/24 h)) × surge(t), clock = time of day at the start (peak at 12:00); count/min ≈ N(60λ, √(60λ)) × (1 + N(0, 0.02))[6]Oanname: oantal workers, betsjinningstiden, databankkapasiteit, cachegrutte, fersnelling fan opfolling, prizen en de flaterrate fan de minne build binne yllustrative wearden foar in middelgrutte webtsjinst.N = instances × 16 workers, a = λ·S; C(a, N) = B / (1 − (a/N)(1 − B)), B = Erlang B[3][6]P(W > t) = C·e^(−(N/S − λ)·t); timeouts = P(W > 2 s); a ≥ N ⇒ failed share = 1 − N/a[3]p99 ≈ S·ln 100 + ln(C/0.01)/(N/S − λ) (service + waiting quantile, an approximation)[3][6]Benadering: it optellen fan de kwantilen fan tsjinst- en wachttiid is net de krekte p99 fan harren som (it kin in bytsje te heech of te leech wêze); de rige wurdt binnen elke minút as stasjonêr behannele, om’t fersiken millisekonden duorje.busy workers L = λ·S ⇒ utilization = λ·S / N[4]hit = warm × rT/(1 + rT), r = λ / 20,000 objects; mean age of a cached answer ≈ T/2[5]DB load = λ·q·(1 − hit); query time = 5 ms/(1 − ρ_db) (≤ 250 ms); S = S_app + (1 − hit)·q·query time[6]Oanname: oantal workers, betsjinningstiden, databankkapasiteit, cachegrutte, fersnelling fan opfolling, prizen en de flaterrate fan de minne build binne yllustrative wearden foar in middelgrutte webtsjinst.budget = 1 − SLO = 0.1 %; burn = error rate / 0.1 %; Δbudget per min = burn / 43,200; burn (1 h) = mean error rate over the last 60 min / 0.1 % (window pre-filled with the opening minute)[1][2]desired = ⌈serving × utilization / target⌉ (utilization saturates at 100 %); new instances serve after the boot delay[6]Oanname: oantal workers, betsjinningstiden, databankkapasiteit, cachegrutte, fersnelling fan opfolling, prizen en de flaterrate fan de minne build binne yllustrative wearden foar in middelgrutte webtsjinst.16 workers/instance · app time 50 ms (+20 ms and +1 query with the feature on) · 2 queries/request · DB 4,000 queries/s · 20,000 hot objects · cache refill τ = 30 min (slower while the DB is saturated) · warm-up job +12 %/min for 6 min, +600 queries/s · timeout 2 s · 30 % low-priority traffic · bad build +5 % errors, ×1.25 CPU · rollback 5 min · $0.40 per instance-hour · scale-in by ≤ 20 % of the fleet after 10 quiet minutes · up to 40 instancesOanname: oantal workers, betsjinningstiden, databankkapasiteit, cachegrutte, fersnelling fan opfolling, prizen en de flaterrate fan de minne build binne yllustrative wearden foar in middelgrutte webtsjinst.Willekeur: in seeded mulberry32-generator; brûkte ferdielingen — unifoarm, eksponinsjeel (omkearde CDF), normaal (Box–Muller), Poisson (Knuth). It seed wurdt toand en is te dielen.
Edukatyf model — net foar operasjonele beslissingen. Echte lokaasjes kalibrearje elke konstante op har eigen apparatuer en gegevens.