2018-12-14 一文搞懂AB Testing的分層分流(轉(zhuǎn))

在網(wǎng)絡(luò)分析中,A / B測試(桶測試或分流測試)是一個隨機(jī)實驗,通常有兩個辯題,A和B。如果你還對這個測試不是很明白,那就來文中看看~

一、定義

在網(wǎng)絡(luò)分析中,A / B測試(桶測試或分流測試)是一個隨機(jī)實驗,通常有兩個變體,A和B。利用控制變量法保持有單一變量的前提下,將A、B數(shù)據(jù)進(jìn)行對比,得出實驗結(jié)論。

二、簡述

通常網(wǎng)站會利用分層和分流的機(jī)制保證本站的流量高可用,原因有以下幾點(diǎn):

(1)網(wǎng)站的流量是有限的

(2)實驗的對象是多層的或同一層內(nèi)互不干擾的

多層:例如網(wǎng)站不僅僅有UI層(界面),通常還有算法層等。

同一層內(nèi)互不干擾:例如網(wǎng)站的推薦位有多個(首頁推薦位、商詳頁推薦位)。

(3)AB tests的需求是大量的

AB 是一種科學(xué)的利用數(shù)據(jù)證明方案可行性的手段,一般在網(wǎng)站中廣泛使用。如果流量不進(jìn)行分層、分流可能會導(dǎo)致流量饑餓,即實驗一在進(jìn)行中占用了全站的80%的流量,實驗二就只能使用20%的流量。

因此良好的分層、分流規(guī)則可以充分使用網(wǎng)站的流量。

三、分層規(guī)則

1. 正交、互斥

在介紹分層規(guī)則之前,先介紹一下正交和互斥的概念。

(1)正交

如何理解正交?

例如:我們有100個兵乓球,隨機(jī)拿出來50個染成藍(lán)色,50個染成白色,則我們有藍(lán)色、白色兵乓球各50個,現(xiàn)在我們把這100個兵乓球重新放在袋子中搖勻,隨機(jī)拿出50個兵乓球,那么這50個兵乓球顏色藍(lán)色和白色各25。

當(dāng)然舉這個例子并不是非常的恰當(dāng),因為樣本太少了,此處舉例只為說明正交的意義。

正交實驗:每個獨(dú)立實驗為一層,層與層之間流量是正交的,一份流量穿越每層實驗時,都會再次隨機(jī)打散,且隨機(jī)效果離散。

(2)互斥

如何理解互斥?

例如:我們有100個兵乓球,每25個為一組,分別染成藍(lán)、白、橘、綠。若X實驗?zāi)玫氖撬{(lán)色、白色則Y實驗只能拿橘色和綠色,我們說X實驗的和Y實驗是互斥的。

互斥實驗:實驗在同一層拆分流量,且不論如何拆分,不同組的流量是不重疊的。

2. 分層、分流規(guī)則

基于Goolge論文:《Overlapping Experiment Infrastructure:More, Better, Faster Experimentation》

流量從上往下流過分流模型:

(1)規(guī)則詳述:

域1和域2拆分流量,此時域1和域2是互斥的。

流量流過域2中的B1層、B2層、B3層時,B1層、B2層、B3層的流量都是與域2的流量相等。此時B1層、B2層、B3層的流量是正交的。

擴(kuò)展:流量流過域2中的B1層時,又把B1層分為了B1-1,B1-2,B1-3,此時B1-1,B1-2,B1-3之間又是互斥的。

根據(jù)以上規(guī)則我們可以不斷的在此模型中增加域、層,并且可以互相嵌套。這要與實際的業(yè)務(wù)相匹配,拆分過多的結(jié)構(gòu)可能會把簡單的業(yè)務(wù)復(fù)雜化,拆分過少的結(jié)構(gòu)又可能不滿足實際業(yè)務(wù)。

(2)使用場景

例1:B1層、B2層、B3層可能分別為:UI層、搜索結(jié)果層、廣告結(jié)果層,這幾層基本上是沒有任何的業(yè)務(wù)關(guān)聯(lián)度的,即使共用相同的流量(流量正交)也不會對實際的業(yè)務(wù)造成結(jié)果。

但是如果不同層之間所進(jìn)行的試驗互相關(guān)聯(lián),如B1層是修改的一個頁面的按鈕文字顏色,B2層是修改的按鈕的顏色,當(dāng)按鈕文字顏色和按鈕顏色一樣時,該按鈕已經(jīng)是不可用的了。因此建議同一類型的實驗在同一層內(nèi)進(jìn)行,并且需要考慮到不同實驗互相的依賴。

例2:域1的此種分流的意義在于,當(dāng)我們做一個實驗,并且希望其他任何實驗都不能對我實驗進(jìn)行干擾,保證最后實驗的可信度。

有興趣的朋友可以去看一下Goolge的原文。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容