本篇文章2847字，读完约7分钟
当你对着漂亮的女主播流口水时，你偶尔会在屏幕上看到不和谐的画面，比如:“看看艾薇；添加xxxxx。”
你可能会对这个不健康的信息感到非常生气，然后根据数字添加它。。。
这样的观众“福利”对直播平台的首席执行官来说是彻头彻尾的灾难。每一次这样的攻击都把他推到了“王欣快速广播”的角色。更重要的是，不时的“造人”直播不会导致“相关部门”直接扼杀直播平台。
不性感的“顺从”在某些时候已经成为直播平台的生命线。从这个角度来看，实时反垃圾邮件已经成为一种必要。雷锋。com采访了通盾科技的小合作伙伴，他们对直播行业的反欺诈和反垃圾邮件有一些独特的理解。
拦河坝中“变脸”的敏感词统称为“敏感词”，而使人感到不安的信息就是“敏感信息”。通盾科技反欺诈与基础产品总监朱伟根据出版人群和传播形式的特点对直播弹幕的敏感信息进行了分类:
关于政治和色情的演讲:通常是无组织的，由普通现场观众发起的。
虚假谣言:通常由水军组织，作为“节奏”引擎，带动广大观众，迅速形成热点。
垃圾广告:通常是一个发布广告内容的黑色制作组织。它将与直播平台的风力控制系统形成强烈的对抗。
朱伟说，现场直播场景越来越受欢迎。成千上万甚至更多的人经常聚集在这里。这就像一个人们在现实中聚集的广场，不恰当的言论会起到煽动人们的作用。
成千上万的人，成千上万的人聚集在互联网上狂欢，这是加速。9月27日举行的小米会议通过爱奇艺平台进行了直播。记者招待会聚集了大批观众。在直播过程中，“看电影+微信”的字幕不时掠过雷军的脸，给人一种“当地堡”的错觉。
[拦河坝示意图]
对于iQiyi这样的平台，显然会有基本的反垃圾邮件拦截功能。然而，“网捕鱼”的数量仍然很大。这是由于反垃圾邮件引擎的智能。因为从“逃离网络”的形式来看，大多数都是敏感词的“变体”，即在敏感词中间添加符号，用同音词和近义词替换敏感词。
屏蔽敏感信息并不难。这是一个自论坛时代以来困扰所有主要平台的难题。朱伟举了几个例子:
在很多情况下，每个平台都需要屏蔽“鹏”这个名字，但是弹幕制造者会尝试用“月鸟”来代替“鹏”这个词。这种方法用于许多汉字。
事实上，还有另外一种情况。例如，经常出现在论坛中的诸如“分组交流”之类的消息是正常的消息，但是由于中间的两个字，它们很容易被关键词系统错误地删除。。。
雷锋。我想说的是，中国的博大精深真的让人跪下，穿上合适的衣服。
在这种情况下，一个“强大的”垃圾邮件筛选系统涉及语义分析。语义分析是人工智能的一个重要分支，它简单地消除词语的歧义，给出明确的句子语义理解。
语义分析已经被应用于许多领域，但是由于人工智能发展的限制，“通用”语义分析的可用性并不理想。然而，朱伟告诉雷锋。搜索“雷锋”。com "公共号码)。
如果语义分析局限于某一特定领域，可以在该领域进行优化，从而大大提高识别的准确性。
用外行人的话来说，他的话是:在弹幕上发送垃圾邮件是例行公事。
朱伟说，在生活垃圾拦河坝场景中，一套语义模型是必要的。模型中包含的元素有“样本”、“规则”和“数据”。随着时代的发展，新的“俚语”会出现，广告的形式和句子也会“演变”。但通常情况下，这种变化是有趋势的。也就是说，只要最新的垃圾拦河坝不断添加到语义模型中，系统就会自动进化出这种拦河坝的识别能力。
正是在这个不断与垃圾拦河坝抗争的“如果可以，就抓住我”，它才能获得越来越强的反击能力。这与人类抗生素和病毒对抗的过程非常相似。
男人:所有违法行为的根源如果你仔细想一想:当我们对抗垃圾拦河坝时，我们在对抗什么？
你可能会得出结论，我们反对那些“不按规则办事”的人。
是的，问题的焦点是“人”。每一次非法攻击都可以追溯到一个特定的人。朱伟告诉雷锋。根据实际经验，在大多数情况下，发送黄色拦河坝或广告拦河坝的人的稳定性非常高。
也就是说，有一群人经常在不同的平台上闲逛，分发垃圾邮件。对他们来说，这是一个相对稳定的职业。
在这种情况下，我们可以在非法行为和其背后的人之间建立相对固定的联系。以便根据该人或其使用的设备的信用状况来判断违反规则的可能性。
当然，为现场观众实现强实名认证是不现实的。但是通过大数据，这个问题可以在很大程度上得到解决。
朱伟简单地演绎了这个逻辑:
对于一个真实的人来说，他的注册账号、手机号码、使用的设备、网段ip等信息将有很强的相关性。根据这种相关性，一个新的账户可以与信用银行中的信息进行比较，从而“找出”那些有“犯罪记录”的人。
想象一下，同一个人很难同时更改登录设备、注册账号、手机号码和网络环境。当然，对于这些“指纹”信息有一些旁路技术，但是旁路的成本并不低:
首先，许多旁路技术可以被感知，如虚拟设备或虚拟专用网代理。
其次，这些旁路措施有一定的技术门槛。乍看之下，这些门槛体现在技术上，但其本质将体现在金钱成本上。
当然，行为和设备指纹之间的关联只是决策规则的一部分。朱伟举了一个例子，说明了通盾向现场转播商提供的反垃圾邮件工具:
例如，有一个规则:如果有三个以上的登录IP与一个用户设备相关联，系统将向直播平台发出风险警报。平台可以根据我们的提示选择禁止或忽略，也可以修改规则的参数，例如将关联ip的限制从3更改为5。
像这样的规则有很多，它们可以根据对抗的方向不断修改、增加或删除。在很大程度上，它可以确保阻止那些“不正当”的用户。
当然，这项技术有一个核心要求，即所有平台之间的公共数据。
平台甲的违规记录会影响该用户在平台乙的信用，这将大大增加违规用户的成本。
这就是所谓的跨平台禁令。朱伟说道。(当然，他认为通盾科技在这方面是一家有竞争力的服务提供商。(
强大的上帝视角的逻辑也适用于锚。
随着直播平台的标准化，主持人进入直播平台时需要认证的信息越来越多。以贝塔为例。目前，如果主持人想加入直播平台，需要验证身份证和银行卡。
Betta直播平台的主持人认证页面]
“然而，中国目前的信息披露非常严重，很容易从他人那里窃取一整套个人信息。”朱伟说道。
在这种情况下，有必要建立一个更强的锚认证体系和锚信用体系。例如，
通过人像识别技术，判断锚点的图像是否与注册的身份证一致。
建立主持人的信用记录，记录ta是否涉嫌在其他平台上发布淫秽内容。
当然，这些作品会大大增加违规抛锚的成本，但朱伟认为这还不够。听起来非常强大的“整个网络的负面信息”是升级方案之一。
例如，如果某个主持人曾经在婚恋网站上扮演过“婚姻支持”和“酒支持”的角色，或者在我们合作过的数千个论坛上发布过与色情和广告相关的帖子，那么ta的信用评分将会受到很大的影响，这个评分将会被直播平台看到，从而很有可能做出拒绝该主持人注册的决定。
朱伟承认，直播行业的反垃圾是一个长期的对抗过程。无论是主持人还是观众，涉及的违规行为大多是“道德风险”，不属于安全范畴。
至于道德风险，只有一个办法，那就是不断增加得罪人的成本。当成本上升到等于他的收入时，可能是犯罪者转身离去的时刻。
