QPS TPS PV 與 并發(fā)量(concurrent number)

1. QPS (Query Per Second)

服務(wù)端每秒執(zhí)行的查詢(query)請求數(shù), 它是對特定查詢服務(wù)器在給定時間段內(nèi)處理的流量的度量。

2. TPS (Transactions Per Second)

每秒處理的事務(wù)數(shù), (它是軟件測試結(jié)果的度量單位)。事務(wù)是一個過程,其中客戶端向服務(wù)器發(fā)送請求,服務(wù)器進行響應(yīng)??蛻舳嗽诎l(fā)送請求時開始計時,在接收服務(wù)器響應(yīng)后結(jié)束計時,這用于計算所用的時間和完成的事務(wù)數(shù)量。

3. QPS VS TPS

QPS 與 TPS 最大的不同點在于, tps 是度量一次事務(wù),而qps 是對一次請求的度量
例如,訪問一個頁面請求服務(wù)器2秒,一次訪問,產(chǎn)生一個“ tps”,產(chǎn)生2個單獨的“ qps”。

4. Concurrency number(并發(fā)數(shù))

服務(wù)端程序 "同時" 處理請求或事務(wù)的任務(wù)數(shù)。

5. QPS(TPS) 并發(fā)數(shù) 怎么計算?

QPS(TPS)= Concurrency number(并發(fā)數(shù))/ Average response time(rt 平均響應(yīng)時間)。
Concurrency number(并發(fā)數(shù)) = QPS * Average response time (rt 平均響應(yīng)時間)。

6. 什么是28 法則?

如果每天 **80% 的訪問集中在 20% 的時間,這20% 的時間 **被稱為峰值時間。

峰時QPS =  (頁面訪問數(shù) PV * 80% ) / ( 86400s * 20% ) 
所需服務(wù)器數(shù) = 峰時QPS / 一臺服務(wù)器QPS承載數(shù)

7. 最佳線程數(shù)怎么設(shè)置?

單線程的QPS = 1000ms/RT(響應(yīng)時間) 
場景:單線程處理一個請求執(zhí)行平均耗時79ms, 那么單線程支持的 QPS 大約是 12.65。
      QPS 與線程數(shù)是線性相關(guān)的,多線程場景中增加線程數(shù),可以成倍的提高QPS  (但是要考慮服務(wù)器 cpu core 數(shù),內(nèi)核數(shù)
      如果分配超出內(nèi)核 2倍的線程數(shù),無疑會增加線程上線文切換和總線hub的調(diào)度成本。)
      

最佳線程數(shù) = {(線程等待時間+ 線程CPU切換耗時)/  線程CPU切換耗時} *  CPU core(核數(shù))

需要注意的是:** 當(dāng)達(dá)到最優(yōu)線程數(shù),繼續(xù)增加線程數(shù)量,QPS 也不會繼續(xù)線性增長,并且響應(yīng)時間可能變長,如果繼續(xù)增加線程數(shù)就會造成QPS 降低, 所有切記線程數(shù)不是越多越好。**

每個系統(tǒng)都有其最佳線程數(shù),但在不同的狀態(tài)下,最佳線程數(shù)會發(fā)生變化。瓶頸資源可能(CPU,Memory(內(nèi)存),鎖,IO 等)
** 超過最優(yōu)線程將會導(dǎo)致 (資源競爭,增加響應(yīng)時間)。**

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容