编者按：算法模型与评分成为欧美雇主筛选求职者的首选工具。即使错了，他们的判决也无可争议，因为数据是不会讲情感的；得分较低者将不可避免地会被淘汰出局。
躁郁症康复后的Kyle Behm好不容易找到一份兼职，最后却被一纸测试挡在了面试大门之外。知情者透露了实情，在一份类似于“五力模型”的测试中，Kyle被标记为红色(不及格)。苦于法律制度缺陷，这使得Kyle很难做出有效的申诉。在发达国家中，使用类似的复杂数学系统进行应聘测试已变得越来越普遍。综合个人状况、背景和测试结果等因素，中低阶层的人们发现找工作越来越难。
这就是数字经济。HR部门透过计算机程序，可以在一两秒内筛选成千上万的的简历并根据需求整理成排列有序的清单，这不仅省时省力，还被认为是客观和公正的。因为机器加工的是冰冷的数字，不掺杂任何的主观成分。除了简历筛查，算法式评估与测试还被用于进行工作绩效测评，保险精算以及个人征信考察等场景。算法成为我们工作与生活的一部分。
在英国，71%的雇主会热衷使用心理测试进行招聘评分。提供HR自动化服务的Kronos公司充分抓住这一热潮，在最近几年发展迅猛。但是有研究表明，性格测试不能预测工作绩效。被标记为红色的Kyle通过自身努力，最后成功就业并成为麦当劳的星级员工。如果麦当劳完全依赖性格测试评分，他们很有可能便错失了Kyle这名优秀的员工。
在美国，有约72%的简历从未见过人的眼睛。HR部门借助自动化系统减少了大量的人力筛查工作。求职者想要获得成功，必须知己知彼，使自己简历的关键字与算法尽量多匹配。所以消息灵通者和富人会比贫穷者在算法时代更有优势。
看似公平却设置了门槛的算法其实是在加深偏见。这让我想起了面相学--流行于19世纪的伪科学。患有某种疾病的病人离世后，相学士会检查他们头骨，把坏面相与疾病进行关联，从而以不断完善“好面相”的“辩证与论证”，不断提振人们对面相学的信仰。
面相学披着科学的外衣，实质里面的模型都是未经测试的，只是关联的而非因果的。大数据可能落入同样的陷阱。使Kyle出局的模型会继续把类似Kyle的人们剔除，它的科学性也不过是比一堆未经测试的假设多做了一些事情而已罢了。
作者简介：
Cathy O'Neil，是一名数据科学家和mathbabe.org的博主。