技术再好,能阻止暴力视频的疯传吗?



防止暴力视频传播的关键是什么?


在复活节的礼拜日,一名男子在俄亥俄州克里夫兰的一条街道上随机选择枪杀了74岁的Robert Godwin Sr,并把视频放在社交媒体上。在录像中,Godwin被要求说出杀手的前女友的名字,并对着镜头说她就是他死的原因。

可悲的是,使用社交视频表达恶意的例子不止于此。视频应用的易用性已经降低了权限标准,我们看过伊斯兰国家砍头、强奸、自杀的视频,甚至还看到过凶手远程恐吓一个与他结束关系的女人。

可以预见的是,这一事件引发了民众对 Facebook的批评浪潮。在阻止这类视频方面该公司应该承担什么责任?人们很容易会归咎到播放视频的平台的技术手段,但是这不仅是对技术能力的过分天真,而且也忽略了谁该担责的不安事实。

可以肯定的是,Facebook 已经不再光芒四射了。这部视频引起关注的初始原始是其谋杀的“内容”。据报道至少两个小时后视频才被删除。该公司从视频上获得丰厚利润,而不采取任何审查画面的相关措施(它不受传统广播相同的限制),这一行为非常不妥。

新兴的研究可谓雪上加霜,其表明这样的画面可能会导致更多的谋杀。亚利桑那州国家大学的Sherry Towers说:“谋杀会传染,这一点也不会让我感到惊讶。”他发现了可怕的行为传播的广泛程度和模仿暴力的可能性之间存在着某种关系。“那些精神不正常的人可能会认为这(那)是他们想做的事情。”

AI 审查

Facebook 的大多数解决方案都是技术性的。例如,人们点击发布信息会有3秒延迟以避免意外。或选择更好的算法可以在共享之前标记和移除内容。

毫无疑问,这是有帮助的。Rand 公司研究 ISIS 宣传视频如何在网上传播的行为科学家 Todd Helmus说,暴力影像传到网上后,如果迅速撤除将有助防止其流行趋势。例如,Helmus说,在2014年和2015年平台开始删除ISIS宣传暴力源用户,期间Twitter上支持ISIS的人数急剧下降。

监管Facebook上18.6亿用户的广泛暴力内容是困难的,这导致了AI 的介入以及民众对问题视频进入网络前审查的呼吁。Helmus说:“你可以开发机器学习能力来检测视频和图像的单词或短语,例如ISIS旗帜,然后将它们清除。”

撇开现在的事实,要求AI监督Facebook的暴力视频等价于要一个魔法咒语,我们真的希望所有的暴力视频都事先被一个算法剔除吗?他说:“一些暴力的视频不应该被移除。”去年,Diamond Reynolds上传了一个她的男友Philando Castile在他的车里找身份证时被警察击中身亡的视频。该视频引发了抗议并可能有助于对警务人员的定罪。在目击警察暴力或例如提供化学战争影响的证词的案例中,视频是引起重视和获得权力负责人支持的关键。Philando Castile的视频播出之后Mark Zuckerberg宣称“我们本周看到的影像生动而令人心碎,他们点燃了我们的社区数百万成员心中的恐惧。”

旁观者效应

谁能判断暴力视频的去留呢?目前AI肯定没有能力做出精细的区分; Facebook 的审查仍然无法区分哺乳的母亲、在家分娩和色情,或标志性的战争摄影和儿童剥削的照片。与解读照片意图相比这项任务比较容易——甚至对于人类监管者来说,也会感到纠结。

未来,无论算法多么强大,审查的问题可能更多地依赖于人性而不是技术。Towers说:“媒体关于大屠杀或类似谋杀案的报道之所以如此受欢迎,是因为公众渴望了解它。尤其是当他们在 Facebook上疯传,这意味着人们正在积极分享它。我们为什么要这样做呢?”

甚至在Facebook删除视频后,视频在其他平台上也在流传。在其中一个帖子中,视频有160万浏览量。Towers说:“我们是被这种现象所吸引了。”

Facebook说,延迟删除这些镜头是因为当第一个用户报告内容有问题事就已经过了很久,这可能会再次暗示我们——旁观者效应是众所周知的,它会降低我们干预紧急情况的动力。我们观看这种图像的欲望掩盖了我们做正确的事情并报告它的本能。

这可能会给 Facebook 应该如何应对问题提供一个线索。最终,Facebook 需要对网站上的内容负责,并通过雇佣更多的员工承担监管的角色,而不是把问题推给名义上的AI或监管彼此内容的无报酬的志愿者身上。说Facebook 只是问题的一部分并没有让该公司摆脱困境。我们也要承担一些传播内容的责任,而且没有应用程序可以解决这一问题。

原文发布时间为:2017-5-5

时间: 2024-10-26 14:04:38

技术再好,能阻止暴力视频的疯传吗?的相关文章

疑似地沟油视频网络疯传

惠东平山中学目前使用的油罐.南都记者 祝勇 摄一短发男子从一三轮车上倾倒黄色液体.网上视频截图 南都讯 记者祝勇 近日,一段以"黑心-惠东平山某某中学食堂把地沟油当食用油"为题的视频在土豆网.优酷网疯传.该网帖引起多方重视,南都记者采访到视频中送油工人及供应商证实,该视频拍摄时间为3月24日下午,地点为惠东县平山中学. 对此,惠东县食品安全委员会等多部门 26日前往平山中学调查后表示,平山中学现在没有用地沟油.惠东县卫生监督所所长柳汉祥明确表示,他们通过平山中学近期食用油质量检测报告.

大量木马病毒伪装成“东莞艳舞视频”网上疯传

本报讯 这 两天,央视<新闻直播间> 曝光了东莞的色情产业链,一时间东莞火了,与之有关的视频.图片信息也蜂拥而至.仅过去的24小时内,带有"东莞"关键词的木马色情网站拦截量猛增11.6%,相比平时多出近10万次.大量命名为"东莞艳舞视频"."东莞桑拿酒店视频"的木马和广告插件等恶意软件出现.安全专家建议用户谨慎下载此类资源,以免电脑中毒造成财产损失.不法分子将这些木马病毒.恶意软件伪装成东莞色情服务视频.图片等资源,借助网络将其向外广

网络疯传6天盖15层宾馆视频

视频点击率超200万,外国 网友惊叹 新快报讯 近日,一段题为<中国人6天就能盖出一座宾馆>的视频在某国外视频网站疯传.这段视频共3分钟,展示了远大公司用6天时间盖起一座15层宾馆的过程,施工队紧急施工,大楼拔地而起.短短十几天,视频积累了200多万的点击量,上千条各国网友的评论.据报道,这座建筑坐落在长沙远大城内,6月就已竣工,整体搭建使用了46个小时,装修用时90个小时.细心的长沙市民发现,这栋被老外广为惊叹的建筑,其实与上海世博会远大馆采用了同样的建筑技术. 外国网友赞叹难以置信 记者网

一段暴力视频在网络流传,只看标题时赫死人

近一个月,一段"暴力"视频在网络流传,只看标题时赫死人:"饿了么创始人煽动员工打人,放言公司包你没事."无法理解. 互联网领域,也有很多会"打架"的公司,最经典的是360,其总裁齐向东表示,过去十年,曾跟三类公司打架,制造恶意软件的,搞钓鱼欺诈的,威胁对方商业模式的. 另一家公司UC,其CEO俞永福表示,创业要学会打"群架",这样团队才会越来越和谐. 如今这两家公司分别是国内安全.移动浏览器的老大,混得不错,是正面教材. 今日

基于HTML5技术,爱奇艺率先推出视频行业首个Web App化视频观看站点

用户无需安装任何应用程序,登录m.iqiyi.com,即可在手机网页端享受高清流畅的客户端式观影体验."就像90年代互联网的发展一样,移动端也需要从App为王逐渐向网页和App彼此平衡,特别是在当前版权内容仍处于相对分散阶段的中国视频行业,提升视频网页在移动设备上的用户体验,将成为视频移动领域下一个技术焦点."爱奇艺副总裁杨向华表示. 与用户下载安装到本地的爱奇艺影视客户端相比,爱奇艺移动端网页(m.iqiyi.com)在界面设计和内容展现上都采用了更适合手机浏览器观看的UI设计,同时

技术让智能安防腾飞 视频监控进入“深度”时代

东方证券计算机团队认为,语音和图像应用是人工智能应用中最为成熟的领域,在深度学习算法下,随着数据量的丰富,识别率不断提升,有望在更多的应用领域快速普及,并成为互联网巨头的必争之地.安防龙头海康威视股价持续逆势大幅上涨,除了本身的"白马"特性外,其背后的"人工智能+安防"主题也是股价的催化剂.目前机构大多对"人工智能+安防"的应用前景较为乐观,认为安防是人工智能的应用范畴中既有迫切性又有实用性的领域. 技术让智能安防腾飞 视频监控进入"深

瑞士立法禁止所有暴力视频游戏

北京时间3月22日下午消息,据国外媒体上周五报道,瑞士国民议会正式通过了一项立法,最终将在该国完全禁止所有暴力视频游戏. 该法律的详细规定要等到瑞士政府公布确切要求后才能知晓.但目前可以确定的是,瑞士政府已经获准推出任何他们认为合适的措施来打击暴力视频游戏. 其中最有可能的一个结果是彻底禁止不当视频游戏的生产.传播和销售.该禁令最有可能针对的对象是被泛欧洲游戏信息组织(PEGI)列为16岁以上或18岁以上级别的游戏. 瑞士游戏零售商此前曾经进行游说,希望以严格的行业自律形式取代这种立法.(鼎宏)

美最高法院驳回加州禁售暴力视频游戏法

新浪科技讯 北京时间6月28日凌晨消息,美最高法院于6月27日以侵犯言论自由为由,驳回了加州一项禁止向未成年人销售或租赁暴力视频游戏的法律.这是美最高法院首次就视频游戏案件进行裁决. 加州于2005年引入了这项针对视频游戏的法律,但从未施行.该法对暴力游戏的定义是"对人类图像有杀戮.伤害或性侵害行为"的游戏.向未成年人销售或租赁暴力视频游戏的零售商最高可被罚1000美元.此法遭到了包括美国娱乐软件联合会(the Entertainment Software Association,ES

酒仙网电商技术再升级 备战双十一五折狂欢节

"双十一"的逐步临近,使得这个终究会成为http://www.aliyun.com/zixun/aggregation/7869.html">电商大战的日子火药味愈发浓厚.早在一个月前,各大电子商务品牌就已经"磨刀霍霍".据了解,国内最大的酒类电商酒仙网从9月开始便开始全公司协同备战,其酒仙网天猫旗舰店更是打出"双十一全店包邮五折"的特惠活动,蓄势待发. 记者了解到,今年的"双十一"大促,酒仙网作为天猫的战略合