当人工智能遇上「刻板印象」

社交媒体的用词,能够影响别人对你的印象,从性别到教育程度。来自美国宾夕法尼亚大学、德国和澳大利亚的社会心理学家及计算机科学家通过推特(Twitter)的用词选择来对相关刻板印象进行了剖析。研究者使用了一种名为自然语言处理(NLP)的人工智能方法,来揭示刻板印象。

该研究于本月发表在Social Psychological and Personality Science上。

在一系列实验中,参与者被要求仅根据推特内容来对博主进行归类判断,包括性别、年龄、教育程度和政治倾向等。

研究者采用NLP技术来分析人们分类的过程。尽管刻板印象与人们的假设往往相符,但也有一些情况是违背的。

本研究第一作者Jordan Carpenter表示:“这些不准确的刻板印象往往是由于夸张引起的。举个栗子,人们会认为没上过大学的人比博士更喜欢咒骂,但如果说博士从不咒骂,那就不对了。”

◆ ◆ ◆

社交媒体的刻板印象

研究者关注刻板印象不准确性,揭示了刻板印象如何相互影响。

Carpenter表示:“本研究最有趣的发现之一是,人们在判断政治倾向时显得很困难,人们往往会依据性别刻板印象来进行判断:女性化更自由主义,男性化则更保守。”

研究结果还显示人们倾向于将科技相关词汇与男性博主相联系。Carpenter表示,该研究结果确实显示男性博主会发布更多与科技相关的博文,但是这一刻板印象会导致错误结论:几乎所有发布科技博文的女性都被错误地判断为男性。

在上述栗子中,刻板印象被夸张了,且在性别判断中尤其明显。人们应该注意到这一刻板印象是不合适、需要得到干预的。

◆ ◆ ◆

人工智能与刻板印象研究

本研究合作者、计算机科学家Daniel Preotiuc-Pietro表示:“该研究的一大重要意义是,它颠覆了以往刻板印象研究的套路。”

研究者让参与者根据一系列行为来判断相关群体认同,而非让不同群体的人们陈述与自己相关的行为。研究者提出,他们将刻板印象看作词汇“网络”:被我们与某群体相联系的词汇,即是我们对该群体的刻板印象。

这一思路使得该研究团队得以采用NLP方法来探究人们的刻板印象,无需要求人们外显表达。

Carpenter表示:“这一新颖的方法解决了人们抗拒陈述其刻板印象的问题,无论是人们不愿意表露出偏向性,还是人们并未意识到自己使用的刻板印象。”

Preotiuc-Pietro表示:“随着跨领域研究不断增加,用计算机科学与心理学的方法来解决该问题,对两个领域都作出了贡献。”

原文发布时间为:2016-11-26

时间: 2024-09-20 00:30:40

当人工智能遇上「刻板印象」的相关文章

深度 | 邢波教授谈人工智能科学路径:为人工智能装上「无穷动」引擎

有些人是因为对人工智能的原理不理解而导致,有些人是为了个人名望而宣扬人工智能威胁论,有些人则是为了商业的利益推动人工智能威胁论.--Yann LeCun 人工智能算法本身这个计算任务像登山,它是有明确的目标的,可以用数学描述和比较的目标,它本身有弹性.容错性.随机性.和客观的量化的可评估性 - 人工智能功能的提升和突破来源于理论模型,算法,和计算引擎的不断创新,缺一不可,使得它可以真正有效得益于大数据.它不是什么黑科技或无边的魔法--邢波   帕格尼尼的小提琴曲<无穷动>全曲有2212个音,却

当人工智能遇上大数据 第九届中国云计算大会——大数据与人工智能应用论坛吸睛亮点集结

至顶网个人商用频道 06月10日 北京消息(文/黄雅琦)科技正在进入一个新的时代,这个时代的一个典型特征就是数据成为一种宝贵的资产.在海量的数据支撑之下科技越来越智能,不仅能"听懂"我们的语言,还能"看懂"我们的表情,帮我们做出更为科学的决策.在这些科技进步的背后离不开数据处理技术的飞速发展,从商业智能.大数据到人工智能,人类对数据的处理能力不断提升,数据背后的商业价值在不断发掘,也给人类更大的帮助. 基于这样背景,第九届中国云计算大会将在6月14日-16日在北京国

人工智能遇上银行反欺诈,到底能帮什么忙

说到人工智能,大多会联想到聊天机器人.人脸识别.无人驾驶,但人工智能的应用绝不仅只是停留在这些具象的前沿应用场景上,就金融领域而言,人工智能还可以通过深度学习技术帮助金融机构进行反欺诈以及降低信用风险. 欺诈一直以来都是银行业的主要风险之一.银行零售业务反欺诈的本质是对实施欺诈人员进行伪造身份.联系方式.设备信息.资产信息等虚假信息的识别.传统银行拥有上亿万级的信息数据库,但由于缺乏有效的科技手段,传统规则的经验式反欺诈模型已无法应对日益演进的欺诈模式和欺诈技术. 传统银行反欺诈模型的局限 银行

当人工智能遇上物联网会碰撞出怎样的火花

本文来自英国卫报网站,由网易科技翻译: 当斯蒂芬?霍金(Stephen Hawking).比尔?盖茨(Bill Gates)和伊隆?马斯克(Elon Musk)都持一致观点的东西,它确实值得关注. 这三人最近均发出警告,要人们警惕人工智能(AI)可能带来的潜在危险.世界上最重要的物理学家之一霍金指出,人工智能的全面发展"可能导致人类的灭绝".PayPal.特斯拉(Tesla)和SpaceX等多家有影响高科技企业的创始人马斯克,则将人工智能描述为我们人类"最现实的威胁"

Intel发布神经计算棒,插上「U盘」就能用的独立AI加速器

雷锋网(公众号:雷锋网)消息,本周四,英特尔在计算机视觉和模式识别(Computer Vision and Pattern Recognition)大会上推出了新的神经元计算棒产品Movidius Neural Compute Stick(NCS). Movidius 是一家爱尔兰都柏林的深度学习技术公司,去年曾经发布U盘深度学习计算棒Movidius Fathom,随后被Intel收购. NCS是一个可以为机器部署深度学习并提供本地化代码运行支持的产品,可以支持 PC.无人机.机器人等硬件平台

编写「可读」代码的实践

编写可读的代码,对于以代码谋生的程序员而言,是一件极为重要的事.从某种角度来说,代码最重要的功能是能够被阅读,其次才是能够被正确执行.一段无法正确执行的代码,也许会使项目延期几天,但它造成的危害只是暂时和轻微的,毕竟这种代码无法通过测试并影响最终的产品:但是,一段能够正确执行,但缺乏条理.难以阅读的代码,它造成的危害却是深远和广泛的:这种代码会提高产品后续迭代和维护的成本,影响产品的稳定,破坏团队的团结(雾),除非我们花费数倍于编写这段代码的时间和精力,来消除它对项目造成的负面影响. 在最近的工

专访云知声CEO黄伟:如何打造人工智能「云端芯」生态闭环

一.云知声的技术研究 2012年底,我们把深度学习应用到了语音识别.我们今天的技术架构都在使用增强学习. 机器之心:这几年深度学习带来了语音识别的巨大进步,云知声是何时开始这方面研究的? 黄伟:2012 年 12 月底,我们把深度学习应用到了语音识别里,而且把它开放出来提供给第三方.这源于 2011 年,我去佛罗伦萨参加国际语音会议 Interspeech,当时和微软研究员俞栋就深度学习的交流给了我很大信心,后来,云知声在 2012 年 6 月份成立,9 月份我们发布语音识别平台,之后紧跟着 1

人工智能其实并不客观,算法会加剧刻板印象

根据普林斯顿信息技术和政策中心(Center for Information Technology and Policy,CITP)的一项研究,虽然人工智能系统鼓励我们洞察我们所依赖的互联网大数据时代,然而这却容易对女性以及宗教种族群体产生一些偏见. 现在是机器学习和 AI 算法的黄金时代,智能算法的应用无处不在.根据计算机科学副教授 Arvind Narayanan 的研究,这种现象却会不经意强化和扩大了社会上流传的或者用户潜意识中的既定偏见.其文章已经提前发表在 2016 年 8 月的 ar

ACL的「深度学习热」:论文纷纷「入坑」,企业蜂拥「入局」|ACL 2017

演讲结束,掌声响起. 赵衡急急忙忙收拾东西离开座位,希望在人潮散场前赶紧离开 ACL 2017 的主会场,好找个地方看看接下来的议程--但也已经晚了.尽管大门试图严密地隔开场内场外,但赵衡推开门时,会场外熙熙攘攘.甚至显得有些吵闹的对话声涌进大厅,引来不少观众的回头侧目. 赵衡背着包,磕磕碰碰地跟着人海移动到下一个会场时,他心里只暗暗后悔没有再早一点离场. 「我猜主办方也没想到有这么多人,今年的场子定得太小了,」赵衡半是无奈半是欣慰地感慨道.作为国内 Top 5 高校的博士生,他感慨自己遇上了