新入职设计师必知的实验设计技巧
Source: Toss Tech
大家好,我是 Toss Bank 的产品设计师前努里(전누리)。
在这篇文章里,我想分享一下作为实习生加入 Toss,第一次设计实验的经历。
我接手的第一个任务是提升 Toss Bank 非会员的注册转化率。第一次需要设计实验时,我遇到了三个最大的难点。
1️⃣ 退化最严重的环节有好几个,应该从哪儿开始改进?
2️⃣ 已经有很多实验在进行,我还能做些什么?
3️⃣ 假设该怎么设定才能不动摇?
下面我会按顺序讲述我是如何解决这三个问题的。
1) 从哪里开始改进?——用速度 × 影响力来计算
首先,我查看了非会员注册漏斗的各环节流失数据。主要有三个环节:Intro(介绍页)、同意页、身份证认证页。
.png)
一开始我不知道该先动哪块,于是向周围的设计师请教。
- 同意页和身份证认证页属于公共模块,需进行法律/合规审查,难以快速实验和迭代。
- 相比之下,Intro 页面可以相对快速地进行实验,而且对提升首批流入有较大影响。
我认为对整体转化率影响最大的是 Intro 页面,于是决定从 Intro 开始改进。
2) 从已有学习中汲取经验
我没有直接去做稿,而是先回顾了过去的实验。已经有很多尝试,但大多数并没有明显击败原有页面。
起初我会想“不是已经都试过了吗?”但实际上在这个过程中学到了很多。通过整理其他设计师的假设、实验标准,我快速吸收了成功和失败的模式。
- 不仅看了与我要改进的页面相似的案例,也参考了情境不同的实验。
- 因为我认为问题定义方式和假设结构是可以借鉴的。
我并不是只看胜负,而是更关注:从什么问题出发、为什么提出这个假设、为了验证假设如何设计实验。相同的假设在不同情境下可能得到不同结果,所以我更注重“为什么”,而不是单纯的数值,并思考这些点如何落到自己的页面上。
这段经历让我意识到,实验经验越少,结构化阅读已有学习的时间比快速产生新想法更重要。
3) 正确设定假设——一次只验证一个
第一次实验:客服 + 选项
.png)
第一次实验的概念是“客服”。我们把页面做成像是客服在推荐一样,并只展示少量福利,让用户更容易选择,认为转化率会提升。结果是失败的,点击率下降了 10% 以上,CVR 下降了 3% 以上。
.png)
假设不够明确。我们说“选项少转化率会提升”,但原来的页面选项已经更少——原页面只有一个 CTA 按钮,而新页面变成了两个按钮。我们没有充分考虑用户为何来到这个页面,是否真的需要推荐。
从那以后,我改变了原则:在制作页面之前,先充分分析原页面的情境,再设定假设。
第二次尝试:明确现有问题
.png)
主要有两个问题:
1️⃣ 文案缺乏吸引力,用户感兴趣的点没有凸显。
2️⃣ 图片加载速度太慢,尤其在低配设备上需要 2~3 秒才能显示。
.png)
参考之前的实验学习,我查看了用户关注的价值点,发现“高利率产品”“每日计息”等关键词有效,于是据此制定改进方案。图片换成了最新的图形并使用低容量格式,降低了加载时间。
结果:仅更换文案和图片,点击率和转化率都上升。由明确问题出发的假设让实验方向保持稳定,我深有体会。
第三次实验:让用户想象场景的文案
.png)
从上一次实验得知,使用用户感兴趣的内容来改写文案可以提升 CTR 与 CVR。这次我们尝试使用能够让用户具体想象情境的表达。
- 旧文案:“只要放一天就能获得利息”(功能说明)
- 新文案:先展示用户能够最快感受到收益的情境
结果:仅文案优化,CTR 提升了 5%,CVR 也有显著提升。相同内容的不同表达方式会极大影响用户的第一印象,这让我意识到页面上所有元素都需要更细致地思考。
结语
虽然这里只列举了几个案例,但失败的实验远比成功的多。回顾整个过程,我发现假设的明确程度比结果本身更关键。假设越精准,方向就越不容易动摇,即使是失败的实验也能为后续提供重要线索。实验不是单纯验证成功与否,而是为后续选择提供更快、更明确的依据。
对我这个实习生来说,能够承担真实问题并得到团队的共同思考,以及团队内部外部积极分享学习的文化,给了我很大帮助。正是这段经历,让我现在能够独立负责一个领域,自己判断并做决定。
如果你是第一次进行实验设计,不必一开始就寻找宏大的答案。可以从小处入手,但一定要把假设设得清晰。
给新人设计师的实验设计检查清单
- 问题定义:准确识别在哪个环节流失最严重。
- 优先级选择:以速度和影响力为标准,挑选可以快速实验的区域。
- 已有学习调查:整理过去实验结果和假设,找出成功/失败模式。
- 假设设定:制定具体且可验证的假设,一次只验证一个。
- 原型制作:以最小改动快速构建可测试的版本。
- 指标定义:明确点击率(CTR)、转化率(CVR)等核心 KPI。
- 实验执行与分析:不仅看数据,更关注“为什么”,进行解读。
- 学习整理:将成功与失败原因文档化,应用到下一个实验中。