背景信息

在實(shí)際應(yīng)用中，收到的請(qǐng)求是沒(méi)有規(guī)律的。例如：某應(yīng)用的處理請(qǐng)求的能力是每秒10個(gè)。在某一秒，突然到來(lái)了30個(gè)請(qǐng)求，而接下來(lái)兩秒，都沒(méi)有請(qǐng)求到達(dá)。在這種情況下，如果直接拒絕20個(gè)請(qǐng)求，應(yīng)用在接下來(lái)的兩秒就會(huì)空閑。所以，需要把驟增的請(qǐng)求平均到一段時(shí)間內(nèi)，讓系統(tǒng)負(fù)載保持在請(qǐng)求處理水位之內(nèi)，同時(shí)盡可能地處理更多請(qǐng)求。

上圖中，黃色的部分代表超出消息處理能力的部分。把黃色部分的消息平均到之后的空閑時(shí)間去處理，這樣既可以保證系統(tǒng)負(fù)載處在一個(gè)穩(wěn)定的水位，又可以盡可能地處理更多消息。通過(guò)配置流控規(guī)則，可以達(dá)到消息勻速處理的效果。

功能原理

AHAS流控降級(jí)的排隊(duì)等待功能，可以把驟增的大量請(qǐng)求勻速分配，以固定的間隔時(shí)間讓請(qǐng)求通過(guò)，起到“削峰填谷”的效果，從而避免流量驟增造成系統(tǒng)負(fù)載過(guò)高的情況。堆積的請(qǐng)求將會(huì)被排隊(duì)處理，當(dāng)請(qǐng)求的預(yù)計(jì)排隊(duì)時(shí)間超過(guò)最大超時(shí)時(shí)長(zhǎng)時(shí)，AHAS將拒絕這部分超時(shí)的請(qǐng)求。

例如：配置勻速模式下請(qǐng)求QPS為5，則每200 ms處理一條請(qǐng)求，多余的處理任務(wù)將排隊(duì)；同時(shí)設(shè)置了超時(shí)時(shí)間為5s，則預(yù)計(jì)排隊(duì)時(shí)長(zhǎng)超過(guò)5s的處理任務(wù)將被直接拒絕。具體操作步驟，請(qǐng)參見(jiàn)新建流控規(guī)則。

示意圖如下：