体系_AB测试
在日常工作学习或生活中,我们可能会做一些实验,通过对收集到的实验数据进行分析从而验证事先的假设。推断反映了这样一个意图:将从有限数据集上得到的实验结果应用于更大的过程或总体。
推断统计过程:提出假设-->设计实验-->收集数据-->推断/结论
一、什么是AB测试
所谓AB测试,是指我们会将研究对象随机分成两组,并对两组实施不同的处理,比如不同的价格,不同的展示页面等等,从而确定不同处理方案中最优的一个。在两组实验中,一般会有一组是按现有处理方案或者不处理,称为对照组/控制组;而另外一组是新的处理方案,称为实验组。
AB测试的例子:
(1)测试两种土壤处理,以确定哪种土壤更适合育种。
(2)测试两种疗法,以确定哪种疗法对于抑制癌症更有效
(3)测试两个web标题,以确定哪个会带来更多点击量
(4)测试两条网络广告,以确定哪条广告能转化为更多的购买
(5)测试某事件触发时,投放与不投放对营销转化的影响
......
| 术语 | 含义 |
| 实验组 | 执行特定处理的一组实验对象 |
| 对比组/控制组 | 执行标准处理或不处理的一组实验对象 |
| 处理 | 对实验对象采取的措施,如不同定价,不同展示风格等 |
| 实验对象 | 如网站访问者,客户等 |
| 随机化 | 将实验对象随机分组以实施不同的处理 |
| 检验统计量 | 用于评估处理效果的度量;在标准的AB测试中,需要先确定一个度量,我们可能需要采集多种行为度量,而且这些度量可能是我们所关注的,但是如果希望实验能在处理A和处理B这两者之间做出一个决策,那需要预先确定一个度量,即检验统计量。 |
1. 为什么需要对照组/控制组,是为了确保,除了处理不同,其他条件都一样,以确保实验结果的差异是由于不同处理导致的;如果是采用前后对比,那么除了处理,可能还有其他一些因素存在差异,就无法排除其他因素的干扰。
2.单盲研究/双盲研究:
(1)单盲实验:实验者知道哪些对象做了哪些处理;而被实验对象不知道自己做的哪种处理
(2) 双盲实验:实验者和被实验对象都不知道哪个对象做了哪些处理。
二、为什么要做AB实验
三、AB实验的本质与原理
AB实验的本质是假设检验。
四、AB测试步骤
1.确认实验目的:明确实验想验证的内容
2.确定衡量指标:明确实验效果的衡量指标
3.实验方案设计:
(1)样本量确定
(2)实验周期
(3)确定分流方式
(4)数据收集与分析方式
(4)执行实验并收集数据
(5)进行假设检验,得出结论
a.提出假设:原假设和备择假设
b.确定统计量
c.确定拒绝域
d.计算统计量的p值
e.做出拒绝或者接受假设
五、AB实验实践
注:在卡中心工作期间,平时做所谓的AB实验,不是很规范,最多只是做到随机分组,但缺乏样本量估算、实验周期、实验结果的差异显著性检验等步骤。因此常常是“看上去像是有差异,但实际上到底是否有显著性差异”呢?就很迷茫了。
本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!
