【51CTO.com原创稿件】2017年1月8日，天公作美吹散了漫天雾霾，网易大厦在周末的下午迎来了一百多位互联网运营小伙伴，共聚“亿级互联网产品背后的故事”线下沙龙，一起讨论互联网内容安全运营的话题。
谈及举办这场活动的初衷，网易易盾总经理周森表示，随着国内互联网的蓬勃发展，网民数量的激增，互联网的运营工作越来越难：例如对用户上传内容尺度难以把握、海量垃圾信息骚扰难清理、垃圾样本变化多端难过滤、人力审核成本不堪重负……
那么这些问题该如何解决?不同阶段的运营会遇到哪些典型问题?互联网安全的真实现状又是怎样一番场景?未来该往什么方向发展?为了解答这一连串的疑问，周森领导的网易易盾团队邀请了美拍、畅游游戏，以及网易自身的资深运营专家予以解答，通过他们的讲述，我们不仅可以听到运营者们背后的故事，对于互联网内容安全的未来发展更是有了更清晰的判断。
网易跟贴：让用户遇见另一个自己
孙媛媛是沙龙第一位发言嘉宾，身为网易跟帖运营主管的她，从自己工作的角度，向大家介绍了网易跟帖背后的运营故事。
孙媛媛先介绍到，网易跟贴是网易门户新闻下的网友评论，内容以犀利有才著称，是网易新闻的特色，也是中国网民智慧和社会生态的集中反映。目前网易跟贴累计注册用户数达到3亿+，日均参与顶、踩的用户数近9000万，日均发贴条数120万+，日均发贴用户数30万+，已经成为国内最活跃、最有深度的新闻评论社区。
“我们的工作就是要保证优质的跟贴内容能够凸显出现，同时保持观点的多样性，吸引大家评论。”孙媛媛透露，跟帖越踊跃，运营工作者的工作就繁重，网易的运营人员平均每天要审核6000-8000条跟贴，内容包括政治敏感、广告、低俗、色情、刷屏五花八门。
正如孙媛媛所强调的，建立的人与人之间的关系是以内容为前提，在优化用户的阅读体验、探索互动运营的过程中，内容的健康非常重要，也是互联网社交类产品的立足根本。
美拍：谈谈社区产品反作弊与内容监控
美拍安全产品经理田孟月的发言非常接地气儿，她不仅列举了大量实际社区运营案例，更是从运营者的角度出发，对社区产品运营给出非常多有效的建议。
她率先谈到了大家经常遇到的作弊行为，其中既有针对电商的刷单行为，也有针对广告文章刷阅读数刷赞行为，还有针对社交的刷粉丝行为。这些作弊行为以营利为目的，既伤害了用户体验，也影响了社区/产品氛围。
她以美拍为例，介绍社区产品常见的作弊形态，如SEO营销、广告骚扰、色情、上热门等。那么该如何发现作弊行为呢?她给出了五个建议：一是通过产品统计数据监控，二是通过业务数据例行评估、三是通过举报数据分析、四是进行产品前端巡查，最后是依靠群众的力量，从用户反馈中发现端倪。
当谈到如何进行高效的内容监控时，田孟月认为，内容审核不仅仅局限于文字，还包括图片、视频、音频，人工审核已经渐渐无法完成海量的审核任务，应该充分发挥技术优势，提高审核效率，减少人工审核成为。除此之外，敏感词的词库需要及时更新，违规的内容要上报，与上级主管单位保持联系，确保内容审核工作与时俱进。
畅游游戏：一夫当关 竖游戏安全之盾
邢哲源是畅游游戏安全工程师，他表示在游戏安全领域内，每天都会面临着不同的威胁，其中以盗号、作弊和垃圾信息最为常见。目前随着个人电脑和安全软件的普及、硬件密保和手机密保的推广，账号安全问题已经得到的极大的改善，反作弊与反垃圾信息就成为了工作的重点。
这些作弊行为和发送垃圾信息的行为，对内影响游戏内商城收益，扰乱游戏内经济系统，更关键的是，外挂账号发送大量无用的数据包，影响服务器性能并占用带宽资源;对外而言，对于游戏玩家来说，大量明显的“非人”账号堆积在一起容易影响玩家情绪和感官，可以说是百害无一利，人人欲诛之。
邢哲源表示，在最初，他们采取的措施是技术对抗，通过技术手段“发现”游戏客户端可能存在的外挂程序;随后发展成数据分析，他们根据用户的集群性和行为相似性，带入合理的模型进行分析，从而发现目标。“现在我们已经可以两者结合在一起，根据不同项目不同时期需求进行调整。”
在邢哲源看来，处罚规则是整个反作弊&反垃圾体系中最重要的环节，他认为，以维护游戏环境和谐为职责的他们，不仅需要打击罪恶，同时也需要“引人向善”，于作弊者，每一次的处罚都是一次试错过程，简单的处罚规则更容易破解。“中间的度一定要把握好。”
网易易盾：内容优化运营实战策略及企业级产品经验交流
网易易盾高级产品经理饶晓艳一上台，底下听众的议论就不绝于耳，在大家看来，毕竟前面几位发言嘉宾珠玉在前，看上去这么年轻的一个女士，能聊出什么新料呢?可饶晓艳发言结束后，台下报以热烈持久的掌声，这是对她发言的肯定，也是对网易易盾做了大量幕后工作的敬意与认同。
饶晓艳首先表示，这是一个内容为王的时代，从流量到场景，从产品到人，都在围绕着内容做文章。那究竟为什么在内容运营中要专门做反垃圾呢?饶晓艳以音乐评论举了一个例子，目前我国云音乐的用户数突破2个亿，在UGC方面，用户自主创建歌单超过8000万，大约有50%的用户会边听歌边看评论，音乐评论总量已经超过2亿条。“在这些评论中，掺杂着大量广告、低俗信息，极大地影响了评论者的使用感受和评论积极性。”
饶晓艳谈到，对运营者而言，大量违规的垃圾信息的存在，也违反了国家规定，给运营工作带来了极大的风险。
她将发垃圾的不法分子称之为“垃圾虫”，并将这类人群的特点归纳成六类，那就是占领热门、不分昼夜、持续对抗、分工协作、利益明确、法律边缘。
那么究竟该如何对症下药呢?饶晓艳表示，网易易盾的做法是首先明确产品主要的垃圾分类，是属于网友普通的情绪谩骂，还是专业团队打擦边球打广告，还是明知法律令行禁止发布反动内容?
做好分类之后，就要根据内容的形式进行过滤，看用户是通过文字内容、图片内容、视频内容还是音频内容进行传播?文字内容的过滤大家往往都比较了解，但是像图片过滤就需要用到机器学习、鲁棒图片特征检测、人脸识别这些技术了。而视频过滤则用到视频转码压缩、视频流分析、截图分析、视频特征识别等技术。
“以图片识别为例，网易易盾的服务目前可以支持人脸识别、色情图片检测、动漫识别、相似匹配、水印识别等多种识别方式。” 饶晓艳还表示，在语音过滤领域，网易积累多年经验，语音MD5库实时过滤有害语音，可以同时将语音转成文字进一步过滤。
正所谓“眼见为实”，饶晓艳在现场打开网易易盾的官网，在产品界面，向大家演示了图片、文字的过滤识别，如此简便易操作的方式赢得了大家的认可。
在线下会议结束时，还有听众针对她所介绍的网易易盾产品不断提问，追问细节，可见众人对网易易盾产品的兴趣浓厚。
也有的听众问，为什么网易如此关注互联网内容安全话题?其实这位听众有所不知，网易可能是国内最有发言权的互联网权威之一了，从关键词、黑白名单到过滤器这些反垃圾技术应用之日起，网易的反垃圾团队经过了19年的技术积累，并且早已将大数据分析、人机识别、人工智能这些新兴技术应用到反垃圾实践中。2017年，记者希望中国互联网内容安全可以吸引越来越多的人参与，网易易盾也能充分发挥技术优势，帮助更多的互联网客户实现全面的内容安全。
作者：周雪
来源：51CTO