1. QPS (Query Per Second)
服務(wù)端每秒執(zhí)行的查詢(query)請求數(shù), 它是對特定查詢服務(wù)器在給定時間段內(nèi)處理的流量的度量。
2. TPS (Transactions Per Second)
每秒處理的事務(wù)數(shù), (它是軟件測試結(jié)果的度量單位)。事務(wù)是一個過程,其中客戶端向服務(wù)器發(fā)送請求,服務(wù)器進行響應(yīng)??蛻舳嗽诎l(fā)送請求時開始計時,在接收服務(wù)器響應(yīng)后結(jié)束計時,這用于計算所用的時間和完成的事務(wù)數(shù)量。
3. QPS VS TPS
QPS 與 TPS 最大的不同點在于, tps 是度量一次事務(wù),而qps 是對一次請求的度量
例如,訪問一個頁面請求服務(wù)器2秒,一次訪問,產(chǎn)生一個“ tps”,產(chǎn)生2個單獨的“ qps”。
4. Concurrency number(并發(fā)數(shù))
服務(wù)端程序 "同時" 處理請求或事務(wù)的任務(wù)數(shù)。
5. QPS(TPS) 并發(fā)數(shù) 怎么計算?
QPS(TPS)= Concurrency number(并發(fā)數(shù))/ Average response time(rt 平均響應(yīng)時間)。
Concurrency number(并發(fā)數(shù)) = QPS * Average response time (rt 平均響應(yīng)時間)。
6. 什么是28 法則?
如果每天 **80% 的訪問集中在 20% 的時間,這20% 的時間 **被稱為峰值時間。
峰時QPS = (頁面訪問數(shù) PV * 80% ) / ( 86400s * 20% )
所需服務(wù)器數(shù) = 峰時QPS / 一臺服務(wù)器QPS承載數(shù)
7. 最佳線程數(shù)怎么設(shè)置?
單線程的QPS = 1000ms/RT(響應(yīng)時間)
場景:單線程處理一個請求執(zhí)行平均耗時79ms, 那么單線程支持的 QPS 大約是 12.65。
QPS 與線程數(shù)是線性相關(guān)的,多線程場景中增加線程數(shù),可以成倍的提高QPS (但是要考慮服務(wù)器 cpu core 數(shù),內(nèi)核數(shù)
如果分配超出內(nèi)核 2倍的線程數(shù),無疑會增加線程上線文切換和總線hub的調(diào)度成本。)
最佳線程數(shù) = {(線程等待時間+ 線程CPU切換耗時)/ 線程CPU切換耗時} * CPU core(核數(shù))
需要注意的是:** 當(dāng)達(dá)到最優(yōu)線程數(shù),繼續(xù)增加線程數(shù)量,QPS 也不會繼續(xù)線性增長,并且響應(yīng)時間可能變長,如果繼續(xù)增加線程數(shù)就會造成QPS 降低, 所有切記線程數(shù)不是越多越好。**
每個系統(tǒng)都有其最佳線程數(shù),但在不同的狀態(tài)下,最佳線程數(shù)會發(fā)生變化。瓶頸資源可能(CPU,Memory(內(nèi)存),鎖,IO 等)
** 超過最優(yōu)線程將會導(dǎo)致 (資源競爭,增加響應(yīng)時間)。**