优化A/B测试不仅仅是程序员的事,设计师也能玩

A/B 分类测试

A/B分类测试使得网站可以通过比较同一网页的不同设计,来决定其中哪些设计将产生最好的结果。在A/B测试中用到的指标是微观和宏观的转化率。

随着那些不需要太多开发协助和技术资源就能运作A/B测试的工具的出现,A/B测试已经变得愈加常见。这个方法本在市场营销从业者中有着很稳的立脚点,而因为成本相对较低,它也正在越来越广泛地被用户体验设计师们所运用。

许多大型电子商务网站如谷歌及亚马逊都以“总在测试中”而著称——他们在任何时候都同时进行着多组A/B测试。

优化A/B测试不仅仅是程序员的事,设计师也能玩

(来自Netflix分享ppt)

无用输入,无用输出(GIGO)
使用恰当时,A/B测试是一个非常强大的工具。然而以下三种情形下的A/B测试还是会有潜在的问题:

1)当所要测试的设计元素并没有很好地体现设计意图。

糟糕的设计会导致糟糕的转换率——显而易见。但是,每个设计都是一个产品概念的后续执行,因而通过设计的实施来评判一个产品概念本身的优劣是很可笑的。通常要经过许多次设计尝试才能充分地体现出真正的设计意图。

比如说,从理论上讲,增加对某一选项的说明会增加其被选择的可能性,然而如果这条描述表达得像一则广告,用户就可能会无视。这个增加选项的说明的设计意图是对的,但其表达形式却是错的。因此设计意图和设计结果的偏差可能会是致命的。

当设计元素本身并不能告诉你问题的源头在哪。对问题起因的错误推测,也会让你在错误的设计元素上浪费时间,因为该元素并非是该问题背后真正的原因。即便修改这个设计元素也不能真正解决问题,因为你的切入点一开始就错了。

比如,你可能猜测一个贷款申请提交转化率低是因为流程的页面太多了,所以你把它浓缩到一个页面里,但是你仍看不到任何转化率的提升。你忽略的是,用户真正的问题是找不到贷款利率,而他们点进申请页面其实是为了找贷款利率。

2)当设计只是设计者的主观猜想。

使用A/B测试时你只能从已提供的设计选项中找到最佳的那个。如果这些选项是基于主观经验和意见的话,谁又能说这个测试包含了最优的设计呢?

3)这些A/B测试实验过程当中的瑕疵可以通过用户研究来减少。

即使只实施了些许的用户研究,我们仍能获取一些极其宝贵的有关于转化率问题的潜在原因的线索。

发现真正原因,定义更好的设计
发现(造成转化率低的)真正原因,定义更好的(用于测试的)设计。

“实验可以证实一个理论,但实验永远无法创造出一个理论。 ”——爱因斯坦

要保证A/B测试执行得好,需要定义以下这几步:

优化A/B测试不仅仅是程序员的事,设计师也能玩

你可以先集中全部精力建立一套致因体系,并罗列设计元素的可能性,然后用A/B方法把他们全部测试一遍:这是最直接了当却不免有一些鲁莽的方法。不经深思熟虑的 A/B测试等同于把想法往墙上扔然后看哪个能黏住。不幸的是,你做不起这样的测试:这样大规模地测试会增大用户放弃操作的几率,并且使总体验变糟糕。

当你等着从大量A/B测试像抽中彩票一样找到最好的方案,用户可能已经转而使用了他们第二选择的产品,他们可能最终认定你的网站是失败的,以后再也不会来了。你需要缩小假设的数量范围,并且小心谨慎、高效地部署你的A/B测试;为达到此目的,我们推荐使用用户研究的方法。

提升最优化测试的用户体验研究方法
优化A/B测试不仅仅是程序员的事,设计师也能玩

1)定义用户意图和可能反对的理由

理解人们为何访问、是否能成功访问、和他们为何会离开,是相当重要的。

如果你错误地假设了人们访问网站的原因,那么你的设计假设将不能够反应用户对环境的感知。没有做过调查就对用户离开的原因做假设是很危险的。

举个例子,假定你假设访问者没有做意想中的操作(买单)是因为价格太高,你于是将价格降低,边际利润就受到了打击。如果人们真正不买账的原因不是价格,而是他们不理解你提供的服务能解决什么,那么你就大错特错了。

让我们来看看Netflix是怎么做的:

Netflix就做了一个很有趣的A/B测试来了解影响转化率的因素。Netflix的主页上展示了大量的影视作品,然而不同用户所看到的是不一样的。作为其A/B测试的一部分,这是该公司对用户提供的个性化推荐。不仅如此,Netflix更对看到同一个影视产品推荐的用户进行了分批测试。他们让视觉设计师重新设计了不同版本的影视剧海报,并将这一变量用于A/B测试。得到的结果是,即便是同一个作品,不同的海报仍会造成不同的转化率。这就印证了造成用户离开或点击的理由是多样化的。

因此不要局限于那些明显的理由,而要深掘用户可能关注的点。有时候用户说的不一定是他们所做的,所以往往观察比问卷调查能提供更为真实的用户使用倾向。

优化A/B测试不仅仅是程序员的事,设计师也能玩(图片来自Netflix博客)

优化A/B测试不仅仅是程序员的事,设计师也能玩(图片来自Netflix博客;右上的两张标注的图片显著地提高了转化率)

2)发现界面的缺陷

如果你忽视了重大的可用性问题,比如让人难以理解的交互流程,或容易造成误解的微交互,那么你可能不会从不断的A/B测试中获得转化率的提升,因为你的设计并没有应对问题的根源。

举个例子:如果你提供的填空题中有几项要求的信息是用户不方便或不愿意提供的,那么仅仅靠更改提交按键的颜色来做A/B测试是不会有效提升转化率的,反而是浪费力气。理解低转化率的真正原因才是执行智慧、成功的测试的关键。

如何发掘界面的缺陷:可用性测试(远程主持或免主持,或当面)可以快速进行并可在五个左右用户的帮助下就揭露网站近85%的重大缺陷。

3)衡量网站的可寻性

测试导航标签和菜单设计能披露可寻性的问题。但是,糟糕的可寻性可以并且应该在实施A/B测试之前就确认,这直接影响了信息架构和站内导航。

如何衡量可寻性:树图测试可以在不影响任何界面设计的情况下测量一个已有的或设定的信息架构。树图测试会告诉你标签、链接分组、页面层级及命名系统是否直观。如果你在纠结如何命名网站中的区块、页面、链接以及标签,树形测试能帮你找出最有问题的命名,并帮你设计出能改善可寻性的新标签。树图测试可以用Optimal Workshop开发的Treejack这样的工具进行,它生成可用于测试信息架构的任务。

优化A/B测试不仅仅是程序员的事,设计师也能玩

3)测试前先”铺好路”

最简单的方法,就是开始在A/B测试前,先把那些可能会影响用户操作的绊脚石解决掉。一般几个小时的测试即能揭露几乎所有你网站上特别糟糕的设计。更为复杂和完善的用户研究当然益处更多,但不要忽视了最基本的审查清理工作。

对A/B测试而言,你当然希望所要测试的目标元素不会受到其它可用性问题的干扰,而是能被用户更好的体验到。所以开始测试前先做一次“路障清理”吧。

结语
结合不同方法最大化转化率。

A/B测试是一个绝妙的工具,却时常不幸被误用。如果用A/B测试替代用户研究,那么测试中的设计选项本质上只是主观猜测。你可以通过结合用户研究来更精准的找到问题起因、提出更符合现实的假设,从而为更好的测试结果提供更大的可能。

英文原文:Jennifer Cardello, Define Stronger A/B Test Variations Through UX Research.

本文编译:霍诗雨(点融黑帮),来自点融DDC设计团队的交互设计师,曾在纽约大学研习艺术史。热爱游戏,信仰中医,关注时事。

本文由@点融黑帮(ID:DianrongMafia)原创发布于36Kr,未经许可,禁止转载。

A/B 分类测试

A/B分类测试使得网站可以通过比较同一网页的不同设计,来决定其中哪些设计将产生最好的结果。在A/B测试中用到的指标是微观和宏观的转化率。

随着那些不需要太多开发协助和技术资源就能运作A/B测试的工具的出现,A/B测试已经变得愈加常见。这个方法本在市场营销从业者中有着很稳的立脚点,而因为成本相对较低,它也正在越来越广泛地被用户体验设计师们所运用。

许多大型电子商务网站如谷歌及亚马逊都以“总在测试中”而著称——他们在任何时候都同时进行着多组A/B测试。

(来自Netflix分享ppt)

无用输入,无用输出(GIGO)

使用恰当时,A/B测试是一个非常强大的工具。然而以下三种情形下的A/B测试还是会有潜在的问题:

1)当所要测试的设计元素并没有很好地体现设计意图。

糟糕的设计会导致糟糕的转换率——显而易见。但是,每个设计都是一个产品概念的后续执行,因而通过设计的实施来评判一个产品概念本身的优劣是很可笑的。通常要经过许多次设计尝试才能充分地体现出真正的设计意图。

比如说,从理论上讲,增加对某一选项的说明会增加其被选择的可能性,然而如果这条描述表达得像一则广告,用户就可能会无视。这个增加选项的说明的设计意图是对的,但其表达形式却是错的。因此设计意图和设计结果的偏差可能会是致命的。

当设计元素本身并不能告诉你问题的源头在哪。对问题起因的错误推测,也会让你在错误的设计元素上浪费时间,因为该元素并非是该问题背后真正的原因。即便修改这个设计元素也不能真正解决问题,因为你的切入点一开始就错了。

比如,你可能猜测一个贷款申请提交转化率低是因为流程的页面太多了,所以你把它浓缩到一个页面里,但是你仍看不到任何转化率的提升。你忽略的是,用户真正的问题是找不到贷款利率,而他们点进申请页面其实是为了找贷款利率。

2)当设计只是设计者的主观猜想。

使用A/B测试时你只能从已提供的设计选项中找到最佳的那个。如果这些选项是基于主观经验和意见的话,谁又能说这个测试包含了最优的设计呢?

3)这些A/B测试实验过程当中的瑕疵可以通过用户研究来减少。

即使只实施了些许的用户研究,我们仍能获取一些极其宝贵的有关于转化率问题的潜在原因的线索。

发现真正原因,定义更好的设计

发现(造成转化率低的)真正原因,定义更好的(用于测试的)设计。

“实验可以证实一个理论,但实验永远无法创造出一个理论。 ”——爱因斯坦

要保证A/B测试执行得好,需要定义以下这几步:

你可以先集中全部精力建立一套致因体系,并罗列设计元素的可能性,然后用A/B方法把他们全部测试一遍:这是最直接了当却不免有一些鲁莽的方法。不经深思熟虑的 A/B测试等同于把想法往墙上扔然后看哪个能黏住。不幸的是,你做不起这样的测试:这样大规模地测试会增大用户放弃操作的几率,并且使总体验变糟糕。

当你等着从大量A/B测试像抽中彩票一样找到最好的方案,用户可能已经转而使用了他们第二选择的产品,他们可能最终认定你的网站是失败的,以后再也不会来了。你需要缩小假设的数量范围,并且小心谨慎、高效地部署你的A/B测试;为达到此目的,我们推荐使用用户研究的方法。

提升最优化测试的用户体验研究方法

1)定义用户意图和可能反对的理由

理解人们为何访问、是否能成功访问、和他们为何会离开,是相当重要的。

如果你错误地假设了人们访问网站的原因,那么你的设计假设将不能够反应用户对环境的感知。没有做过调查就对用户离开的原因做假设是很危险的。

举个例子,假定你假设访问者没有做意想中的操作(买单)是因为价格太高,你于是将价格降低,边际利润就受到了打击。如果人们真正不买账的原因不是价格,而是他们不理解你提供的服务能解决什么,那么你就大错特错了。

让我们来看看Netflix是怎么做的:

Netflix就做了一个很有趣的A/B测试来了解影响转化率的因素。Netflix的主页上展示了大量的影视作品,然而不同用户所看到的是不一样的。作为其A/B测试的一部分,这是该公司对用户提供的个性化推荐。不仅如此,Netflix更对看到同一个影视产品推荐的用户进行了分批测试。他们让视觉设计师重新设计了不同版本的影视剧海报,并将这一变量用于A/B测试。得到的结果是,即便是同一个作品,不同的海报仍会造成不同的转化率。这就印证了造成用户离开或点击的理由是多样化的。

因此不要局限于那些明显的理由,而要深掘用户可能关注的点。有时候用户说的不一定是他们所做的,所以往往观察比问卷调查能提供更为真实的用户使用倾向。

(图片来自Netflix博客)

(图片来自Netflix博客;右上的两张标注的图片显著地提高了转化率)

2)发现界面的缺陷

如果你忽视了重大的可用性问题,比如让人难以理解的交互流程,或容易造成误解的微交互,那么你可能不会从不断的A/B测试中获得转化率的提升,因为你的设计并没有应对问题的根源。

举个例子:如果你提供的填空题中有几项要求的信息是用户不方便或不愿意提供的,那么仅仅靠更改提交按键的颜色来做A/B测试是不会有效提升转化率的,反而是浪费力气。理解低转化率的真正原因才是执行智慧、成功的测试的关键。

如何发掘界面的缺陷:可用性测试(远程主持或免主持,或当面)可以快速进行并可在五个左右用户的帮助下就揭露网站近85%的重大缺陷。

3)衡量网站的可寻性

测试导航标签和菜单设计能披露可寻性的问题。但是,糟糕的可寻性可以并且应该在实施A/B测试之前就确认,这直接影响了信息架构和站内导航。

如何衡量可寻性:树图测试可以在不影响任何界面设计的情况下测量一个已有的或设定的信息架构。树图测试会告诉你标签、链接分组、页面层级及命名系统是否直观。如果你在纠结如何命名网站中的区块、页面、链接以及标签,树形测试能帮你找出最有问题的命名,并帮你设计出能改善可寻性的新标签。树图测试可以用Optimal Workshop开发的Treejack这样的工具进行,它生成可用于测试信息架构的任务。

3)测试前先”铺好路”

最简单的方法,就是开始在A/B测试前,先把那些可能会影响用户操作的绊脚石解决掉。一般几个小时的测试即能揭露几乎所有你网站上特别糟糕的设计。更为复杂和完善的用户研究当然益处更多,但不要忽视了最基本的审查清理工作。

对A/B测试而言,你当然希望所要测试的目标元素不会受到其它可用性问题的干扰,而是能被用户更好的体验到。所以开始测试前先做一次“路障清理”吧。

结语

结合不同方法最大化转化率。

A/B测试是一个绝妙的工具,却时常不幸被误用。如果用A/B测试替代用户研究,那么测试中的设计选项本质上只是主观猜测。你可以通过结合用户研究来更精准的找到问题起因、提出更符合现实的假设,从而为更好的测试结果提供更大的可能。

英文原文:Jennifer Cardello, Define Stronger A/B Test Variations Through UX Research.

本文编译:霍诗雨(点融黑帮),来自点融DDC设计团队的交互设计师,曾在纽约大学研习艺术史。热爱游戏,信仰中医,关注时事。

本文由@点融黑帮(ID:DianrongMafia)原创发布于36Kr,未经许可,禁止转载。

本文转自d1net(转载)

时间: 2024-09-16 06:46:39

优化A/B测试不仅仅是程序员的事,设计师也能玩的相关文章

PHP程序员的一生

人们对PHP其实很吝啬. 最近我拜读了一篇非常棒的文章--<How False Stereotypes Turn Into Technical "Truths">: 我们对编程语言的偏见不仅仅影响程序员辩论时的气势,还会对该编程语言的应聘和薪资产生重大影响. 这让我一下子想到了大家对PHP社区的看法. 今天我在JavaScript Jabber网站的节目上听到了Jenn Schiffer关于人们如何判断的精彩点评,感触良多,情不自禁地想与大家分享. 学习如何编程 虽然Jav

《Ruby程序员修炼之道》(第2版)目录—导读

版权 Ruby程序员修炼之道(第2版) • 著 [美] David A. Black 译 钟凤鸣 陈雪静 责任编辑 杨海玲 • 人民邮电出版社出版发行 北京市丰台区成寿寺路11号 邮编 100164 电子邮件 315@ptpress.com.cn 网址 http://www.ptpress.com.cn • 读者服务热线:(010)81055410 反盗版热线:(010)81055315 版权声明 Original English language edition, entitled The W

做程序员怎么样才能发财?

问题描述 做程序员怎么样才能发财?我想早点退休,环游世界,有花不玩的钱,做程序员有可能吗? 解决方案 黑掉网上银行解决方案二:楼上的,你在说什么?呵呵,如果你到了这个程度,就不会只想着玩了:只想着玩才不会打到这个程度解决方案三:程序员(英文Programmer)是从事程序开发.维护的专业人员.一般我们将程序员分为程序设计人员和程序编码员,但两者的界限并不非常清楚,特别是在中国.作一个真正合格的程序员,应该具有的素质.1:团队精神和协作能力团队精神和协作能力是作为一个程序员应具备的最基本的素质.软

程序员应具备的素质

程序|程序员|素质|程序员 程序员应具备的素质[转帖]程序员是一种技术工作,在IT的发展中有相当重要的地位,从底层硬件通讯协议的建立, 到数据传输层的处理,到操作系统的建设,到数据库平台的建设,一直到应用层上各种数 据营销平台的搭建,程序员在里面都扮演着举足轻重的角色并为IT事业的发展做出了巨大 的贡献. 中国有很多精于编码的人,但是中国软件行业,尤其是网络应用开发方面误区很大,很难 形成有规模的软件开发力量和产品能力,不但比美国差距甚远,和印度相比也是颇有不 如.这些问题不是在于中国程序员的智

程序员应具备的素质-拨乱反正篇

程序|程序员|素质 程序员是一种技术工作,在IT的发展中有相当重要的地位,从底层硬件通讯协议的建立,到数据传输层的处理,到操作系统的建设,到数据库平台的建设,一直到应用层上各种数据营销平台的搭建,程序员在里面都扮演着举足轻重的角色并为IT事业的发展做出了巨大的贡献. 中国有很多精于编码的人,但是中国软件行业,尤其是网络应用开发方面误区很大,很难形成有规模的软件开发力量和产品能力,不但比美国差距甚远,和印度相比也是颇有不如.这些问题不是在于中国程序员的智商和工作努力状况,也不是在于国家和民间对开发

程序员的核心价值

问题描述 今天和朋友一起上班的路上,他是设计总监,问我:你觉得程序员的核心价值是什么,或者说你觉得程序员如何体现自己的优势?如果你身边的PM.设计师.前端开发人员比较强势,你如何才能不沦为一个埋头敲代码的执行者?我想了半天都没找到合适的答案,希望大家可以一起参与下! 解决方案 解决方案二:那要看你到底如何理解"程序员"这个职业是设计程序,还是根据别人的设计去敲代码?这就好比一个电气工程师可以同时是一名电工,工程师可以看懂电路,还可以设计电路而一个普通的电工只会照图接线解决方案三:当然我

怎样尊重一个程序员

得知一位久违的同学来到了旧金山湾区,然而我见到他时,这人正处于一生中最痛苦的时期.他告诉我,自己任职的公司在他加入之前和之后,判若两人.录 取的时候公司对他说,我们对你在实习期间的表现和学术背景非常满意,你不用面试,甚至不用毕业拿学位,直接就可以加入我们公司成为正式员工.然而短短一年 后的今天,这位同学已经完全感觉不到公司对自己技能的尊重.Manager让他做一些乱七八糟没技术含量的事情,还抱怨说他做事太慢,并且在他的 evaluation上很是写了一笔.在人格尊严和工作安全感的双重打击之下,这

十年的程序员:最危害程序员职业生涯的三大观念

蓦然回首自己做软件开发这个行业已经十年了,这十年中我获得了很多,技术能力.培训.出国.大公司的经历,还有很多很好的朋友.但再仔细一想,这十年中我至少浪费了五年时间,这五年可以足够让自己成长为一个优秀的程序员,可惜我错过了,我用这五年时间和很多程序员一样在困惑和迷茫中找不到出路! 路其实一直都在那里,只是我们看不到而已! 以前我一直被公司和技术牵着走,并不是自己在选择技术,而是不自觉地被推到了这个位置上.想想有多少人对于自己将来要从事的职业和技术类型进行过深入思考和比较呢?当我跳出编码后,我开始思

低效程序员可能存在这七个坏习惯

程序员总是想做到尽可能的高效,但很多人往往会觉得力不从心.这是因为他们在多年的编码过程中养成了一些不好的习惯.下面这7个坏习惯绝对是软件工程师需要改掉的. 1.缺乏激情 这已经是一个老生常谈的话题了,但却是真理.写了多年的代码后,程序员们很可能会失去激情,只想着做一天和尚撞一天钟.更糟糕的是,这种情绪会像瘟 疫一样传染给周围的人. "即使写了一整天的代码,你也应该在午餐和下班后对它津津乐道,"Liz Eggleston,Course Report--提供学习编码在线资源的联合创始人这样