近日,火山引擎 DataTester 推出了重要功能——A/B實驗經驗庫。
基于在字節跳動已完成150萬余次A/B實驗的經驗,DataTester 首創了A/B實驗經驗庫功能。該功能可幫助業務人員將歷史的A/B實驗經驗沉淀,并通過條件篩選,快速找到所需實驗信息并進行數據分析。汲取過往在A/B實驗設計和結果方面的經驗,并了解優化方向,更好為后續的業務賦能。
以往,當企業需要去查看往期A/B實驗信息時,只能通過實驗列表去挨個點擊查看,這樣做對于業務人員來說不僅僅很耗時耗力,而且無法全面了解過往A/B實驗所積累的有效信息。
A/B實驗經驗庫功能上線后,企業能夠自主篩選、高效調用以往A/B實驗的數據及詳情,并查閱 DataTester 以經驗報告形式做的抽象和總結。該功能讓 DataTester 從單純支持A/B實驗的數據工具平臺,升級成為了企業業務信息沉淀的系統,可以幫助企業不斷迭代優化A/B實驗的設計與效果。

在 DataTester 的經驗庫中,用戶可以通過檢索多類標簽,查看業務歷史上A/B實驗的目標群體、實驗策略、實驗結論:
● 實驗信息:支持檢索實驗名稱、實驗描述、實驗版本名稱、創新人等信息;
● 運行時間:支持對運行時間、開始時間、停止時間進行時間范圍篩選;
● 展示指標:支持輸入需要所需查詢的任意數據指標,如點擊率、轉化率、DAU等;
● 目標受眾:支持篩選實驗目標人群包,可按公共屬性和用戶分群等維度進行篩選。
以具體的應用場景舉例,假設業務運營有一個目標:期望增加產品在“北上廣深”的女性用戶群體的使用活躍度。那么業務運營首先要了解在過往,產品針對“北上廣深”的女性群體做過哪些運營動作,在A/B測試中,哪些運營動作成效顯著,哪些效果不好。
在 DataTester 的經驗庫中,業務運營人員可以選擇目標受眾為“女性”標簽,再選擇城市標簽為“北京、上海、廣州、深圳”;此時,即可查看以往針對上述人群的有效果的實驗有哪些。

如果想進一步拆分針對上述人群中與“使用活躍度”有關的實驗,那么可以在指標選取上更加細分和靈活。例如可選取“新增用戶數”指標,來查看往期試驗中,提升了目標群體日活的實驗;與此同時還可選取“訂購”指標,查看往期試驗中提升了目標群體消費情況的實驗。

這樣一個滿足業務運營所需條件的往期實驗就全部篩選出來了。運營人員可以詳細的查看和分析往期實驗的數據,在此基礎上繼續設計深化新的A/B實驗策略。

DataTester 的A/B實驗經驗庫,讓企業的每一次A/B實驗都不再是各自獨立的個體,而能夠層層遞進,每一次都在上一次的實驗效果基礎上進一步調優,可以幫助企業減少“重復造輪子”的情況,大幅提升效率。
DataTester 是字節跳動內部應用多年的A/B實驗平臺,當前已通過火山引擎面向外部企業開放服務,能基于先進的底層算法,提供科學分流能力和智能的統計引擎,支持多種復雜的A/B實驗類型。在應用和分析場景上,火山引擎 DataTester 深度耦合推薦、廣告、搜索、UI、產品功能等多種業務場景需求,為業務增長、轉化、產品迭代,策略優化,運營提效等各個環節提供科學的決策依據,讓業務真正做到數據驅動。
目前,火山引擎 DataTester 已經服務了美的、得到、凱叔講故事等在內的上百家標桿客戶,將成熟的“數據驅動增長”經驗賦能給各行業。