导读在数据驱动时代，不管是在产品功能迭代还是策略决策时都需要数据的支撑。那么，当我们准备上线一个新功能或者策略时，如何评估新老版本优劣，即数据的可量化就成了问题。这个时候就需要引入 A/B Test 了。一、A/B Test 是什么？A/B Test 的概念来源于生物医学的双盲测试，双盲测试中病人被随机分成两组，在不知情的情况下分别给予安慰剂和测试用药，经过一段时间的实验后再来比较这两组病人的表现
每天智慧一点点，这是多元思维模型的第5篇。网络效应是经济学和商业应用中的一个常见概念，是指随着节点不断添加到网络中，网络会变得更有价值的一种现象。当网络效应出现时，产品或服务的价值取决于使用它的其他节点数量。梅特卡夫定律还对这一现象做了定量解释，即网络的价值与网络规模的平方成正比。我们对比电话系统和电力系统：如果世界上只有一间房子有电，它仍然价值巨大，可以照明，可以让空调运转；但如果只有一间房子有
转载
2024-05-18 19:39:31
74阅读
用过ab做压力测试的朋友对这张图应该不陌生，但大多数人并不明白这代表什么意思，更别说怎么计算出来的了。虽然ab有很多问题(甚至无法避免)，但仍然值得研究。 通常只关注两项 Requests per second: 3680.02 [#/sec] (mean)
//每秒事务数：总事务数 / 执行时间
Time per request: 0.230 [ms] (mea
转载
2024-06-18 12:26:17
37阅读
应用中不同的场景、设计方案，不经过测试，你永远不知道消费者会更偏好哪一种。面对随时可能变更的产品需求，开发人员如何才能在保证测试进程的同时，让工作也变得高效、省力？本章内容，网易严选Android资深开发张云龙为您解读《Android ABTest 的框架设计》概述什么是Android ABTest ？AB测试是为web或app制作两个(A/B)或多个(A/B/n)版本，在同一时间维度，分别让组成
转载
2024-08-15 09:01:10
62阅读
网络效应也称网络外部性或需求方规模经济、需求方的范围经济（与生产方面的规模经济相对应）, 是指产品价值随购买这种产品及其兼容产品的消费者的数量增加而增加。
目录定义相关概念1. 白名单2. 流量正交&正交实验3. 灰度发布4.检验灵敏度AB Test 完整的实验流程1. 流程2. 注意事项3. 假设检验4. 实验5. 分流6. 确定最小样本量7. 确定实验时长8. Z检验9. T检验不显著现象及解决定义为了验证一个新策略的效果，准备原策略A和新策略B两种方案。 随后在总体用户中取出一小部分，将这部分用户完全随机地分在两个组中，使两组用户在统计
AB test用于推荐系统在线测试AB test一个总的目的和意图是，判断哪种UI或rerank策略更优，通过事实的依据判断哪种方案更符合用户的习惯和需求。一、背景介绍无法衡量就无法优化，对于互联网产品而言，不仅是推荐系统，整个app系统的更新迭代必然需要建立一套度衡量，来把控整个流程优化的方向，而ABtest系统就是一个很好的进行变量控制和优化方向选取的工具，循环：衡量-发现-迭代-验证。所谓精
转载
2024-05-18 15:26:02
270阅读
最近工作中，频繁听到业务方和同事聊到AB Test，所以我研究了下AB Test的流程规范。一、背景实际业务场景中，为了优化产品体验，我们常会提出多种产品策略方案。比如，手机的温控策略，可能会有多种方案，但选择哪种方案能给用户带来更好的体验呢？除了通过实验室测试、招募试用用户体验和使用现有数据验证等方法之外，最直接的方法是AB Test。AB Test是一种测试方法，通过对比两种策略在研究主体上的
转载
2024-04-29 22:57:39
256阅读
1.A/B测试简介 在各个行业中，ABtest对于数据分析师来说都是一个不陌生的明细。那么ABtest到底是什么？其基础原理是怎样的？ 在网站和APP的设计，产品的运营中，经常会面临多个设计/运营方案的选择，从界面颜色，界面功能按钮，不同的运营方案，都有不同的选择。ABtest可以帮助我们去做出选择，得出用户体验最佳的设计方案。 ABtest很类似于生物钟的控制变量法。将用户划分成不同的小组，在相
转载
2024-01-16 19:27:15
551阅读
前言前不久Hubble推出AB测试平台，web端已支持了编程实验、多链接实验，现在又支持了可视化实验。可视化实验通过所见即所得的在线配置，降低了运营方使用A/B Testing 的成本，本文就web端可视化实验实现简单分享下。分析整个可视化实验流程大体如下： 1. 创建可视化实验，填入目标url； 2. 打开目标页，进入在线编辑状态； 3. 编辑完成后保存退出； 4. 进入可视化调试；
转载
2024-04-12 10:35:08
102阅读
sdk支持abtest功能现在web端A/B 实验支持三种类型：编程实验、多链接实验、可视化实验，sdk在用户客户端的功能就是拉取实验配置，执行实验。流程如下：graph TD
A[拉取实验配置] --> B
B[归类实验配置] --> C
C[运行多链接实验] --> D
D[发送da_abtest事件] --> E
E[运行可视化实验或编程实验] --> F
F
转载
2024-04-24 16:25:59
227阅读
目录一、实验设计1确定业务目标2 选择检验指标2.1 选择一类指标2.2 选择统计量3 确定原假设与备择假设4 两类统计错误的防范5 样本量计算6 检验策略选择、设计分组策略7 当企业没有AB测试的条件的时候，如何解决问题？二、实验结论分析1 决策统计检验2 决策业务问题结束语 我在另一篇博客中提到了什么是ABTest，并引用了一个项目，感兴趣的朋友可以再去看看。本篇博客会从企业真实业务的角度来
转载
2024-05-20 10:32:38
122阅读
[从案例实战看AB Test系统设计及其原理 | 人人都是产品经理] 编辑导语：AB Test，即有A、B两个设计版本。通过小范围发布，得到并比较这两个版本之间你所关心的数据，最后选择效果最好的版本。对于互联网产品来说，通过A/B测试提升点击转化率，优化获客成本可以得到越来越多的关注。本文作者从案例实战出发，为我们分享了AB Test系统设计及其原理。在实际工作中，我们经常会遇到这种问题
转载
2024-03-30 07:55:19
408阅读
目录1.基本概念2.ABtest流程3.ABtest样本量计算(假设检验)3.1 对于点击率，转化率等指标的样本量估计3.2 对于时长等指标的样本量估计4.ABtest显著性检验(假设检验)5.注意5.1 新奇效应5.2 灰度发布5.3 早鸟用户5.4 分组信息控制产品功能5.5 正交性实验6.参考资料 1.基本概念ABtest是一种在线评估方法，为了实现同一个目标而制定的两个方案，一部分用户使
转载
2023-12-16 10:11:42
154阅读
个性化推荐系统、搜索引擎、广告系统，这些系统都需要在线上不断上线，不断优化，优化之后怎么确定是好是坏。这时就需要ABTest来确定，最近想的办法、优化的算法、优化的逻辑数据是正向的，是有意义的，是提升数据效果的。ab需求能方便测试，提供界面快速调整流量，调整流量后能够方便看效果变化，以及不同ab分支算法对比到底是a算法好、还是b算法好、还是c算法好。再有就是白名单配置上线新算法时，实现新算法上线测
转载
2024-03-09 18:31:22
220阅读
本系列文章 主要是 分享思维模型，涉及各个领域，重在提升认知1 模型故事语言起源合同法律 达成共识计算机 网络协议2 模型 协议3 模型简图
原创
2021-08-11 19:13:10
281阅读
信息对称
在美国你会选择吃麦当劳吗？
有五家店，其他四家我一无所知，第五家看见麦当劳，我很有可能会选择麦当劳，因为我只要在全球任何一家麦当劳餐厅吃过，我就知道他是什么样的口味，什么样的品类，大致什么价位，它给我的是一种确定感，也就是我对麦当劳拥有足够的信息对称性。也是因为麦当劳通过连锁销售的方式有效解决了信息不对称的问题。
信息对称：在市场条件下能够实现有效的交易，交易双方掌握的信息必须对称，如果
原创
2021-09-04 11:53:59
164阅读
目录一、网络的瓶颈效应一、网络的瓶颈效应上一节，我们讲到机器语言、汇编语言和高级语言，毫无疑问，机器语言和汇编语言我们可以放弃学习，谁想学让谁学去吧！我们重心可以放在高级语言上面，但是高级语言中的编译型语言和汇编型语言两者是互相矛盾的。这个时候对于不同的问题我们就应该有不同的策略，如果我们需要开发一个类似于操作系统这样要求执行速度并且开发周期长的系统，我们可以考虑使用编译型语言；如果我们需要开发一
原创
2021-04-15 20:09:08
257阅读
一.什么是ABTest测试ABTest的目的和意图是判断哪种种UI或rerank策略更优，通过事实的依据( CTR或下单率/成交量.....)判断哪种策略更符合用户的习惯和需求，多用于产品发布时的最优策略。所谓(A/BTesting)测试，简单来说，就是为同一个目标制定两个方案(比如两个页面)，让一部分用户使用A方案，另一部分用户使用B 方案，记录下用户的使用情况，看哪个方案更符合设计目标。二
转载
2024-05-05 18:30:52
85阅读
一、AB test的业务价值当我们设计了一个新的功能模块、策划了某种活动或者有多种方案不知如何抉择时，想要验证新的功能模块或者活动上线是否能给业务带来显著的收益，但由于受到个人思维的局限性以及全量用户的不可调研性，可能会导致一个功能的预期效果与实际线上后的效果存在认知、实用上的差异。因此，为了更科学合理地验证一个功能上线是否能给业务带来显著收益，就需要用户自己「用脚投票」，通过用户的行为数据分析所
转载
2024-07-25 15:01:33
53阅读
