A/B 测试：以变应变，给用户更好的体验“宠爱”

编辑导语：数据分析是推动决策的重要环节之一，而若想让数据真正地产生价值，则可能需要基于一定的运营框架，形成业务价值输出闭环，进而推动后续优化迭代，提升用户的产品使用体验。本篇文章里，作者结合实际经验，基于企业运营框架SDAF做了一次A/B测试与用户行为相结合的实践梳理，不妨来看一下。

伴随着企业数字化转型进程的加速及用户行为分析理念的深入，各种各样的数据分析模型，比如事件分析、漏斗分析、留存分析等，早已成为企业日常运营不可或缺的“小助手”。

作为大数据分析与营销科技服务提供商，在我们过去服务客户的过程中，逐渐意识到，数据分析只是企业数字化转型过程中的一环，要想让数据真正对企业产生价值，应该将基于数据流的决策、行动与反馈统统加入进来，也就是基于数据流的企业运营框架 SDAF，即 Sense（感知）、Decision（决策）、Action（行动）、Feedback（反馈），形成一个完整的业务价值产出闭环。

当我们进一步思考，为什么 SDAF 是个环，而且是多个持续不断的环呢？

这时候我们会发现，这是因为普遍存在两个痛点：一是目标不精确，可能会导致行动失准、产出失效；二是手段不精确，可能会导致最终产出小于投入。这不仅是因为我们自身的认知有限，用户本身也十分“善变”。

也正是因此，我们希望将 A/B 测试与用户行为分析结合，带来应对用户变化的解决方案，最大化提升价值产出与效率，持续优化、持续迭代，给用户带来更好的体验“宠爱”。

那么，我们如何应用行为分析和 A/B 测试，达到良好融合、最大化提升价值产出的效率呢？用通俗的话语进行描述，那就是：“像投资人一样找杠杆，像科学家一样做试验。”而要找到杠杆，首先得理解我们的目标是什么。如果从用户行为的角度来描述目标，可以分为一次性行为和周期性行为。

一次性行为： 我们希望用户尽可能发生单个目标行为，且这类行为通常非常关键，可以为后续的产品使用打下坚实基础，常见如用户注册、首单支付、实名认证等等。这类行为对应着我们的业务目标是“转化”，即让更多用户沿着正确路径达成目标事件。

周期性行为： 我们希望用户尽可能多次发生某个行为，或者发生的程度更深，通常是体现产品核心价值的行为，常见如支付订单、浏览内容等等。这类问题通常对应的业务目标是“参与度”或“留存”，即让用户更多更深入地做某件事情。

接下来我们将基于 SDAF 闭环运营框架，详细为大家介绍 A/B 测试与用户行为相结合的应用实践。

一、Sense：使用行为分析模型，感知用户行为

对于用户的一次性行为，我们的业务目标是让更多的用户沿着正确的路径做某个事情。可以通过以下模型进行观测：

• 漏斗分析：严格规定的路径上，用户流失情况如何？
• 路径分析：用户群体的实际行为路径如何分流？
• 行为序列：用户个体的实际行为路径如何跳转？

对于周期性的行为，我们的业务目标是让用户更多更持久地做某件事，并形成习惯。可以通过以下模型进行观测：

• 留存分析：用户行为的发生在时间上的持续性如何？
• 分布分析：用户行为的发生频次（强度）如何？

二、Decision：基于观测数据，正确使用数据做决策

只有数据是很难产生价值的，所以完成了 Sense 之后，需要做进一步的解读与决策。我将数据应用总结为以下三点：

1. 有限还原场景。 从抽象过的、框架化的角度还原用户的整个决策过程，比如通过漏斗分析、用户路径分析，就可以描绘用户的整体行为情况。
2. 做为诊断依据。 感知用户行为，通过时间或分类维度的横向竖向比较，可以大致确定是否存在问题。
3. 进行杠杆排序。 知晓当前哪个比较重要，哪个暂时不那么重要，虽然问题可能很多，但事儿还得一件一件干。

除此之外，比数据应用重要的事情是知道事情怎么做？要描述好这个事情，我通常会列出两张表。

第一张表叫做：为什么？ 如果我们对于要解决的问题有更准确的认识，解决起来的效果当然是较好的，因此可以从动力、阻力、时机等角度罗列可能的原因，并做一些主观上的排序。

第二张表叫做：怎么办？ 针对于这些具体原因，我们可以列出可能的方案或者方案的方向。最终使用 ICE 模型（Impact 影响范围、Confidence 自信程度、Ease 实现难易）进行主观排序，确定最近的一段时间，我们要做的试验是什么。

比如针对电商场景，我们可以梳理出电商的核心路径，并找到核心路径上的薄弱环节，或者杠杆指标，并进一步定位我们的关注点。

当定位到某个问题页面或者模块之后，我们会进一步列出为什么和怎么办。比如我们在数据分析中诊断出某电商的轮播图模块存在转化问题，该模块靠后的几张广告的渗透率急剧下降，且经评估我们认为该模块的重要度比较高，我们就可以进一步针对其列出以下列表：

三、Action：基于业务决策，实施 A/B 测试

当我们已经有了比较具体的试验方向，就可以进一步设计试验本身的细节，去罗列出试验实施的几个要素：

• 试验的假设：我们所认为的目标和手段之间的因果关系。（改动什么会影响什么？原因是什么？）
• 试验的变量：具体的改动元素，通常是单一元素，方便归因。
• 试验的指标：评估试验成败的指标及其相关指标。
• 试验的受众：具体实施试验的用户对象。

四、Feedback：分析试验数据，获取反馈与认知

“反馈”的字面含义，指的是我们从试验结果中获得的直接结论，即各试验组是否有差异，哪组策略更好或是更坏。而“认知”却是更深一层的，即我们学到的、可以被沉淀的知识。

比如在我司客户的某个电商场景中，对于奢侈品的图片加上各种相关标语的大图版本，从数据上来看转化率是更差的，这是“反馈”。而奢侈品类产品的大图中加上标语，对用户来说受到了注意力干扰，影响到体验产品的美感，这是“认知”。

在统计学中讲到，“即使数据上存在显著差异，我们无论接不接受新的方案，都是有概率犯错误的。”也就是说，反馈可能是错误的。

更要命的是，即使我们得到的反馈是对的，也可能在认知上犯错误。比如我们错误的认为，奢侈品的大图上不加标语是更好的，但实际上，只是不能只加优惠政策类标语，因为这看起来会很山寨，影响客户的信任度，恰当添加标语也可以提升信任度。

基于反馈，我们可以判定最近的试验是否有效，基于认知，我们也可以沉淀更多可累积的经验。

就像企业一直追求的精细化运营，其背后就是这种聚沙成塔式累积的效应，能够帮助我们累积得更多，走得更远！

 

作者：简宁，神策数据资深分析师

本文由 @神策数据 发布于人人都是产品经理。未经许可，禁止转载

题图来自Unsplash，基于CC0协议