আপুনি এটা ৱেব সেৱাৰ বাবে অন-কল: ইনষ্টেন্সৰ ফ্লীটৰ সন্মুখত এটা লোড বেলেন্সাৰ, ডাটাবেছৰ সন্মুখত এটা কেশ, আৰু এটা 99.9 % উপলব্ধতাৰ লক্ষ্য। প্ৰতি মিনিটত মডেলে পাঠ্যপুথিৰ সূত্ৰৰ পৰা শাৰীৰ বিলম্ব, টাইমআউট, কেশ হিট আৰু ডাটাবেছ ভাৰ গণনা কৰে — আৰু আপোনাৰ সিদ্ধান্তৰ খৰচ।
ফ্লীটৰ ভিত্তি। ইয়াক বঢ়ালে লগে লগে ইনষ্টেন্স আৰম্ভ হয় — সিহঁতে সেৱা দিয়াৰ আগতে এতিয়াও বুট বিলম্বৰ প্ৰয়োজন।
ব্যৱহাৰৰ ওপৰত লক্ষ্য অনুসৰণ; ইনষ্টেন্সবোৰ এতিয়াও বুট হৈ থাকোঁতে নতুন স্কেল-আউট নাই। বন্ধ = ঠিক নূন্যতম।
কম = বেছি হেডৰুম আৰু বেছি খৰচ। জোখা ব্যৱহাৰ 100 % ৰ ওপৰলৈ যাব নোৱাৰে, গতিকে সংপৃক্ত ফ্লীট কেৱল পদক্ষেপ-পদক্ষেপে বাঢ়ে।
দীঘল TTL = বেছি হিট, কিন্তু উত্তৰবোৰ পুৰণি হ'ব পাৰে (গড় বয়স ≈ TTL/2)।
6 মিনিটৰ বাবে গৰম কী লোড কৰে (প্ৰতি মিনিটত কেশৰ +12 %) 600 অতিৰিক্ত ডাটাবেছ প্ৰশ্ন/s ৰ মাচুলত।
নিম্ন-অগ্ৰাধিকাৰৰ 30 % ৰ (প্ৰিফেচ, বেচ, ক্ৰ'লাৰ) যিটো অংশ লোড বেলেন্সাৰত “পিছত পুনৰ চেষ্টা কৰক” বুলি প্ৰত্যাখ্যান কৰা হয়।
গধুৰ বৈশিষ্ট্যই প্ৰতি অনুৰোধত 20 ms CPU আৰু এটা ডাটাবেছ প্ৰশ্ন যোগ কৰে। বন্ধ = ধীৰ অৱনতি।
শেষৰ ভাল বিল্ড এটা নতুন ফ্লীটত পুনৰ ডিপ্লয় কৰে (5 min, দুবাৰ বিল কৰা হয়), তাৰ পিছত ট্ৰেফিক সলায়। আকৌ টিপিলে প্ৰস্তুতি পুনৰ আৰম্ভ হয়; কোনো বেয়া বিল্ড লাইভ নথকা হ'লে ইয়াৰ কেৱল ধন খৰচ হয়।
| বাৰ্ন ৰেট (1 h) | 0.0 × |
|---|---|
| অনুৰোধ | 1125 req/s |
| সেৱা দি থকা ইনষ্টেন্স | 10 |
| বুট হৈ থকা ইনষ্টেন্স | 0 |
| কেশ হিটৰ হাৰ | 77 % |
| ডাটাবেছ ব্যৱহাৰ | 19 % |
| পেলাই দিয়া ট্ৰেফিক | 0 % |
| ফ্লীটৰ খৰচ | 4.00 $/h |
| এতিয়ালৈকে খৰচ | 0.00 $ |
| কেশ কৰা উত্তৰৰ গড় বয়স | 30 s |
| বেয়া বিল্ডত ট্ৰেফিক | 0 % |
| পৰামৰ্শ উপলব্ধ | 100 % |
এটা নতুন বিল্ড 09:10 ত ওলায়। মাহটো ইতিমধ্যে কঠিন আছিল: ভুলৰ বাজেটৰ মাত্ৰ 20 % বাকী আছে। ডিপ্লয়ৰ কেইমিনিটমান পিছত বাৰ্ন-ৰেট পেজ বাজে। বাজেট ৰক্ষা কৰক।
সেৱাটোলৈ এটা লিংক দ্ৰুতগতিত বিয়পি আছে আৰু আজি পুৱা কোনোবা সময়ত ট্ৰেফিকৰ ঢৌ অহাৰ আশা কৰা হৈছে — কেতিয়া, বা কিমান ডাঙৰ, কোনেও নাজানে। আজি নতুন ইনষ্টেন্স বুট হ'বলৈ 8 মিনিট লাগে। যেতিয়া ই আহিব, অলস ক্ষমতাত ধন পুৰি নপেলাকৈ ভুল আৰু পলম কম ৰাখক।
দুপৰীয়াৰ শিখৰত এটা ৰক্ষণাবেক্ষণ স্ক্ৰিপ্টে গোটেই কেশ ফ্লাশ কৰে। প্ৰতিটো অনুৰোধ এতিয়া ডাটাবেছলৈ যায়, যিটো সচৰাচৰ 85 % হিট হাৰৰ বাবে আকাৰ দিয়া হৈছিল। ডাটাবেছ অতিভাৰ নকৰাকৈ সেৱা ঘূৰাই আনক।
চিমুলেটৰে ব্যৱহাৰ কৰা প্ৰতিটো সম্পৰ্ক, ইয়াৰ উৎসৰ সৈতে। অনুমান হিচাপে চিহ্নিত ধ্ৰুৱক দৃষ্টান্তমূলক কেলিব্ৰেচন।
λ(t) = base × (1 + 0.25·sin(2π(t + clock − 6 h)/24 h)) × surge(t), clock = time of day at the start (peak at 12:00); count/min ≈ N(60λ, √(60λ)) × (1 + N(0, 0.02))[6]অনুমান: ৱৰ্কাৰৰ সংখ্যা, সেৱা সময়, ডাটাবেছৰ ক্ষমতা, কেশৰ আকাৰ, ৰিফিলৰ গতি, মূল্য আৰু বেয়া বিল্ডৰ ভুলৰ হাৰ এটা মধ্যম আকাৰৰ ৱেব সেৱাৰ বাবে উদাহৰণস্বৰূপ মান।N = instances × 16 workers, a = λ·S; C(a, N) = B / (1 − (a/N)(1 − B)), B = Erlang B[3][6]P(W > t) = C·e^(−(N/S − λ)·t); timeouts = P(W > 2 s); a ≥ N ⇒ failed share = 1 − N/a[3]p99 ≈ S·ln 100 + ln(C/0.01)/(N/S − λ) (service + waiting quantile, an approximation)[3][6]আনুমানিক: সেৱা আৰু অপেক্ষাৰ কোৱান্টাইল যোগ কৰাটো সিহঁতৰ যোগফলৰ সঠিক p99 নহয় (অলপ বেছি বা কম হ'ব পাৰে); প্ৰতিটো মিনিটৰ ভিতৰত শাৰীক স্থিৰ বুলি গণ্য কৰা হয় কাৰণ অনুৰোধবোৰে মিলিছেকেণ্ড লয়।busy workers L = λ·S ⇒ utilization = λ·S / N[4]hit = warm × rT/(1 + rT), r = λ / 20,000 objects; mean age of a cached answer ≈ T/2[5]DB load = λ·q·(1 − hit); query time = 5 ms/(1 − ρ_db) (≤ 250 ms); S = S_app + (1 − hit)·q·query time[6]অনুমান: ৱৰ্কাৰৰ সংখ্যা, সেৱা সময়, ডাটাবেছৰ ক্ষমতা, কেশৰ আকাৰ, ৰিফিলৰ গতি, মূল্য আৰু বেয়া বিল্ডৰ ভুলৰ হাৰ এটা মধ্যম আকাৰৰ ৱেব সেৱাৰ বাবে উদাহৰণস্বৰূপ মান।budget = 1 − SLO = 0.1 %; burn = error rate / 0.1 %; Δbudget per min = burn / 43,200; burn (1 h) = mean error rate over the last 60 min / 0.1 % (window pre-filled with the opening minute)[1][2]desired = ⌈serving × utilization / target⌉ (utilization saturates at 100 %); new instances serve after the boot delay[6]অনুমান: ৱৰ্কাৰৰ সংখ্যা, সেৱা সময়, ডাটাবেছৰ ক্ষমতা, কেশৰ আকাৰ, ৰিফিলৰ গতি, মূল্য আৰু বেয়া বিল্ডৰ ভুলৰ হাৰ এটা মধ্যম আকাৰৰ ৱেব সেৱাৰ বাবে উদাহৰণস্বৰূপ মান।16 workers/instance · app time 50 ms (+20 ms and +1 query with the feature on) · 2 queries/request · DB 4,000 queries/s · 20,000 hot objects · cache refill τ = 30 min (slower while the DB is saturated) · warm-up job +12 %/min for 6 min, +600 queries/s · timeout 2 s · 30 % low-priority traffic · bad build +5 % errors, ×1.25 CPU · rollback 5 min · $0.40 per instance-hour · scale-in by ≤ 20 % of the fleet after 10 quiet minutes · up to 40 instancesঅনুমান: ৱৰ্কাৰৰ সংখ্যা, সেৱা সময়, ডাটাবেছৰ ক্ষমতা, কেশৰ আকাৰ, ৰিফিলৰ গতি, মূল্য আৰু বেয়া বিল্ডৰ ভুলৰ হাৰ এটা মধ্যম আকাৰৰ ৱেব সেৱাৰ বাবে উদাহৰণস্বৰূপ মান।যাদৃচ্ছিকতা: এটা বীজযুক্ত mulberry32 জেনেৰেটৰ; ব্যৱহৃত বিতৰণ — সমান, ঘাতাংকীয় (ব্যস্ত CDF), স্বাভাৱিক (Box–Muller), পইছন (Knuth)। বীজ দেখুওৱা হয় আৰু শ্বেয়াৰ কৰিব পাৰি।
শিক্ষামূলক মডেল — কাৰ্যকৰী সিদ্ধান্তৰ বাবে নহয়। প্ৰকৃত স্থানবোৰে প্ৰতিটো ধ্ৰুৱক নিজৰ সৰঞ্জাম আৰু তথ্য অনুসৰি কেলিব্ৰেট কৰে।