本篇文章1082字，读完约3分钟
亚洲太平洋手推车
电影《搜搜》描述了这样一幅画面:因为高圆圆扮演的女主人在公交车上没有给老人让座，有人把这段视频发到网上，引起了网友对她的人肉搜索。有一段时间，她的生活充斥着侮辱、嘲弄和诅咒，最后女主人选择跳楼结束自己的生命。
如今，这不再仅仅是电影中的一幅画面。随着互联网渗透到我们生活的方方面面，网络暴力和道德诱拐，越来越多的键盘英雄在互联网上用不负责任的语言肆意攻击他人。
据国外媒体报道，美国网民是第一个接触互联网的人，同时也是第一个遭受谣言和诽谤的人。美国独立民调机构皮尤研究中心(Pew Research Center)2014年进行的一项调查显示，每10名网民中就有4人经历过某种形式的网络骚扰，近五分之一的网民经历过严重的网络暴力，包括人身威胁和持续跟踪骚扰。
网络安全已经成为我们不得不关注的问题。面对互联网上海量的语音和信息，人工检测网络暴力信息既费时又费力。这时，人工智能派上了用场。
facebook和谷歌等公司已经开始尝试将人工智能和其他技术结合起来，过滤互联网上的不良评论。就连一向以言论自由著称的twitter，也开始允许用户设置一些关键词来屏蔽骚扰信息:
facebook机器学习小组利用机器学习技术监控上传到Facebook的所有图片内容，包括广告内容，从而过滤掉色情、暴力等内容。
谷歌的安全搜索功能使用机器学习识别色情图片，可以为未成年人提供健康正常的网页浏览和搜索。
Twitter收购了两家视觉媒体内容监控初创公司madbits和whetlab，并利用它们的人工神经网络技术监控色情内容。
最近，谷歌推出了一个由人工智能技术支持的新工具，名为“对话人工智能”。这个新软件可以帮助用户不受网络上有害评论的威胁。
会话人工智能通过机器学习技术自动捕捉互联网上的脏话，并对其攻击能力进行评分——100分是最有害的，0分是无害的。这个工具将首先在《纽约时报》的评论部分进行测试，维基百科也计划使用这个应用程序。然而，据有线电视杂志报道，该公司没有透露测试的具体细节。
因为这项技术最终将成为开源，在不久的将来，世界各地的网站和各种社交媒体平台都可以利用它来帮助用户摆脱暴力言论的危害。“有线电视”说，人工智能对话可以“自动识别侮辱和骚扰的言论，甚至帮助你删除它。”
虽然人工智能在测试中发现了一些缺陷，但谷歌透露，其准确率已经达到92%，其功能将随着时间的推移不断提高。
viabusinessinsider
推荐阅读:
网络暴力还是言论自由？Instagram赋予用户管辖权
顶级黑客的快乐分析:婴儿事件中人肉搜索的七种方法
