体系_AB测试

在日常工作学习或生活中,我们可能会做一些实验,通过对收集到的实验数据进行分析从而验证事先的假设。推断反映了这样一个意图:将从有限数据集上得到的实验结果应用于更大的过程或总体。

推断统计过程:提出假设-->设计实验-->收集数据-->推断/结论

一、什么是AB测试

所谓AB测试,是指我们会将研究对象随机分成两组,并对两组实施不同的处理,比如不同的价格,不同的展示页面等等,从而确定不同处理方案中最优的一个。在两组实验中,一般会有一组是按现有处理方案或者不处理,称为对照组/控制组;而另外一组是新的处理方案,称为实验组。

AB测试的例子:

(1)测试两种土壤处理,以确定哪种土壤更适合育种。

(2)测试两种疗法,以确定哪种疗法对于抑制癌症更有效

(3)测试两个web标题,以确定哪个会带来更多点击量

(4)测试两条网络广告,以确定哪条广告能转化为更多的购买

(5)测试某事件触发时,投放与不投放对营销转化的影响

......

术语含义
实验组执行特定处理的一组实验对象
对比组/控制组执行标准处理或不处理的一组实验对象
处理对实验对象采取的措施,如不同定价,不同展示风格等
实验对象

如网站访问者,客户等

随机化将实验对象随机分组以实施不同的处理
检验统计量用于评估处理效果的度量;在标准的AB测试中,需要先确定一个度量,我们可能需要采集多种行为度量,而且这些度量可能是我们所关注的,但是如果希望实验能在处理A和处理B这两者之间做出一个决策,那需要预先确定一个度量,即检验统计量。
1. 为什么需要对照组/控制组,是为了确保,除了处理不同,其他条件都一样,以确保实验结果的差异是由于不同处理导致的;如果是采用前后对比,那么除了处理,可能还有其他一些因素存在差异,就无法排除其他因素的干扰。

2.单盲研究/双盲研究:

(1)单盲实验:实验者知道哪些对象做了哪些处理;而被实验对象不知道自己做的哪种处理

   (2) 双盲实验:实验者和被实验对象都不知道哪个对象做了哪些处理。

二、为什么要做AB实验

三、AB实验的本质与原理

AB实验的本质是假设检验。

四、AB测试步骤

1.确认实验目的:明确实验想验证的内容

2.确定衡量指标:明确实验效果的衡量指标

3.实验方案设计:

(1)样本量确定

(2)实验周期

(3)确定分流方式

(4)数据收集与分析方式

(4)执行实验并收集数据

(5)进行假设检验,得出结论

    a.提出假设:原假设和备择假设

    b.确定统计量

    c.确定拒绝域

    d.计算统计量的p值

    e.做出拒绝或者接受假设

五、AB实验实践

注:在卡中心工作期间,平时做所谓的AB实验,不是很规范,最多只是做到随机分组,但缺乏样本量估算、实验周期、实验结果的差异显著性检验等步骤。因此常常是“看上去像是有差异,但实际上到底是否有显著性差异”呢?就很迷茫了。


本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部