一、AB测试的必要性
1.1 算法评估
线下可以使用离线的AUC,NDCG等指标进行算法模型的评估,算法上线后怎样进行算法间的评估,上线的算法是好是坏,好多少?坏多少?
要有效评估算法,必须借助AB测试工具。
1.2 方向指导
在算法上线后,往往伴随着特征的增减,怎样能够确定特征对于算法模型影响?
算法进行AB测试过程中通过线上指标,能够确定特征对于核心指标的影响情况。
1.3 提升效率
新算法上线后,如果没有AB,就根本不能知道这个算法的效果是怎样的。导致达到目标的时间周期变长,效率低下。
1.4 总结:AB测试系统必须要有
商业社会, 由于功能设计者个人思维的局限性以及全量用户的不可调研性, 导致了一个功能的预期效果可能与实际上线后的效果存在认知、实用上的差异.
为了达到局部ROI最大化的目标(通常这一目标在潜在意义上会使得产品核心目标得以提升), 就需要用户自己“用脚投票”, 通过实际数据反馈来选出ROI最大化的功能方案.
基于这一商业目的, 多数互联网公司会采取AB测试来寻找能够为圈定指标带来最大收益的功能方案.
二、AB简介
2.1 什么是AB?
AB 测试的本质是分离式组间试验,也叫对照试验,在科研领域中已被广泛应用(它是药物测试的最高标准