在開發(fā)高并發(fā)系統(tǒng)時，有三把利器用來保護(hù)系統(tǒng)：緩存、降級和限流。緩存這個概念是大家共識的，沒有什么異議，但在好些文章中我看有人會把降級和限流兩個概念混淆在一起，我認(rèn)為這樣理解是不對的，貼下我認(rèn)為正確的解釋：
服務(wù)降級：
服務(wù)降級是在服務(wù)器壓力陡增的情況下，利用有限資源，根據(jù)當(dāng)前業(yè)務(wù)情況，關(guān)閉某些服務(wù)接口或者頁面，以此釋放服務(wù)器資源以保證核心任務(wù)的正常運(yùn)行。
服務(wù)限流：
流量控制本質(zhì)上是減小訪問量，而服務(wù)處理能力不變；而服務(wù)降級本質(zhì)上是降低了部分服務(wù)的處理能力，增強(qiáng)另一部分服務(wù)處理能力，而訪問量不變。
以下主要介紹幾種常見的服務(wù)限流算法和優(yōu)缺點(diǎn)，以及單機(jī)限流和分布式限流。沒有哪種算法是最好的或者是最差的，具體要根據(jù)實(shí)際業(yè)務(wù)場景決定使用哪種實(shí)現(xiàn)方式，本質(zhì)都是提高功能的性價比，利用盡可能小的開發(fā)成本，產(chǎn)生盡可能大的收益。常見的限流算法包含：計(jì)數(shù)器法，滑動窗口算法，令牌桶算法以及漏桶算法（隊(duì)列限流）。
計(jì)數(shù)器法
計(jì)數(shù)器法是限流算法里最簡單也是最容易實(shí)現(xiàn)的一種算法。假設(shè)我們規(guī)定接口A的qps是100， 即每分鐘的訪問次數(shù)不能超過100。那么我們可以這么做：在一開始的時候，我們可以設(shè)置一個計(jì)數(shù)器counter，初始化為0， 過期時間為1秒，即1秒后計(jì)數(shù)器失效。每當(dāng)一個請求過來的時候，counter值加1，判斷當(dāng)前counter的值是否大于100，如果大于100則說明請求數(shù)過多，直接拒絕請求。如果請求counter計(jì)數(shù)器不存在，則重置計(jì)數(shù)器，開始新的一秒的接口限流。注意并發(fā)情況下訪問計(jì)數(shù)器需要加鎖。
缺點(diǎn)：限制粒度太低，存在臨界問題。
例如：假設(shè)有一個惡意用戶，他在0:59時，瞬間發(fā)送了100個請求，并且1:00又瞬間發(fā)送了100個請求，那么其實(shí)這個用戶在1秒內(nèi)，瞬間發(fā)送了200個請求。用戶通過在時間窗口的重置節(jié)點(diǎn)處突發(fā)請求，可以瞬間超過我們的速率限制。用戶有可能通過算法的這個漏洞，瞬間壓垮我們的應(yīng)用。解決這個問題的辦法就是提高限流的粒度，即滑動窗口算法。
滑動窗口（rolling window）
滑動窗口的概念源于計(jì)算機(jī)網(wǎng)絡(luò)，它的限流思想描述如下：假設(shè)一個時間窗口就是一分鐘。然后我們將時間窗口進(jìn)行劃分，比如我們將滑動窗口劃成了6格，所以每格代表的是10秒鐘。每過10秒鐘，我們的時間窗口就會往右滑動一格。每一個格子都有自己獨(dú)立的計(jì)數(shù)器counter，比如當(dāng)一個請求在0:35秒的時候到達(dá)，那么0:30~0:39對應(yīng)的counter就會加1?；瑒哟翱谀軌蚝芎玫慕鉀Q計(jì)數(shù)器法所存在的臨界問題，并且窗口劃分粒度越細(xì)，窗口滑動就越平滑，控制效果越好?；瑒哟翱趯?shí)現(xiàn)較復(fù)雜，臨界問題只是某種極端案例，比如惡意攻擊，是否采用這種限流方式，還需取決于具體業(yè)務(wù)的要求。
令牌桶法
思想描述：系統(tǒng)按照恒定的時間間隔（通常是1/QPS）往桶里加入Token,每個Token代表一次接口訪問權(quán)限，如果桶已經(jīng)滿了丟棄令牌。新請求來臨時，會請求從桶中拿走一個Token,如果沒有Token可拿了就阻塞或者拒絕服務(wù)請求。放入Token的時間間隔取決于限制的qps，假設(shè)接口的qps是100，則按照1/qps的速率放令牌，即每10ms放入一個令牌，令牌桶算法不存在瞬間的流量高峰，它能嚴(yán)格控制接口在qps內(nèi)訪問。
漏桶算法
漏桶算法就是我們常采用的隊(duì)列限流方法，通過在請求和實(shí)際的處理服務(wù)中間加一層隊(duì)列，限制高并發(fā)請求對系統(tǒng)造成的壓力，系統(tǒng)將按照自己的處理能力慢慢處理請求，這種限流方法的適用于接口處理實(shí)時性要求不高的業(yè)務(wù)場景，且可靠性高，漏桶算法實(shí)現(xiàn)也比較簡單。
以上是對四種限流方式的介紹和總結(jié)，理解了限流方式，再說下我們常提到的單機(jī)限流和分布式限流。
什么是分布式限流？
首先當(dāng)我們的服務(wù)是以多實(shí)例，集群形式存在的情況下才需要分布式限流。由于redis天生能夠很好的支持分布式，因此分布式限流的實(shí)現(xiàn)redis就成了不二選擇。分布式限流是基于單機(jī)限流范圍的一個擴(kuò)大，能夠從服務(wù)集群的整體處理能力上做一個統(tǒng)一的流量管理，也是我們企業(yè)中常用的限流方式。
轉(zhuǎn)自：https://blog.csdn.net/dd18709200301/article/details/89714390
