据 VentureBeat 报道，12 月 1 日，Facebook 应用机器学习部门主管 Joaquin Candela 表示，Facebook 正在开发一项新的系统工具，可以在直播视频中对令人反感的违规内容进行自动标记，同时会继续利用人工智能技术来加强对视频直播内容的监控。目前，这一自动标记系统工具已经开始在 Facebook 视频直播产品 Facebook Live 上进行测试。
9 月初，Facebook 曾以不能显示裸体为由“封杀”了一张著名越南战争照片“战火中的女孩”，引发了很大争议，遭到舆论普遍谴责。虽然，随后 Facebook 恢复了此前所删图片，但对于内容适度性的困扰仍然存在。
在此之前，Facebook 对违规内容的干预主要是依赖用户的举报，然后由 Facebook 员工依据公司“社区标准”进行干预和检查。对于一些特别棘手的内容，可能涉及到政策调整的则需要由公司高层管理人员来参与做出决定。
《路透社》在今年 6 月份曾报道，Facebook 已经开始使用自动化技术来标记极端主义视频内容。 Candela 也表示，公司现在已经越来越多地利用人工智能技术来监控和识别违规内容，其中包括裸露、暴力及其他任何不符合政策的内容。
与此同时，Candela 指出，利用人工智能技术来标记违规视频内容目前仍处于探索阶段，主要面临着两个方面的挑战，“其一，你的计算机视觉算法必须足够快，这一点我认为我们可以努力来实现。另一方面，需要以正确的方式来对违规事项进行优先决策排序，应该首先是由相关话题的专业人士来做决定，是否要对该敏感或者违规内容进行干预。”
所以，Facebook 表示公司将使用自动化技术来处理每周所收到的数千万份报告，识别重复内容报告，并将标记的内容递送给相关主题的专业人士进行评审。
整治违规内容视频直播与近期打击网络假新闻的热潮似乎保持了同步，在美国大选之前，一条声称弗朗西斯教皇支持特朗普的虚假报道被转载近百万次。扎克伯格在上个月也曾表示，Facebook 将使用人工智能技术来整治假新闻。
Facebook 人工智能部门主管 Yann LeCun 拒绝就利用人工智能技术检测假新闻一事置评，但表示，News Feed 信息流功能的改善引发了过滤和审查制度之间，以及言论表达自由与体面、真实言论之间的权衡选择矛盾。
本文转自d1net（转载）