科技行者

行者学院 转型私董会 科技行者专题报道 网红大战科技行者

知识库

知识库 安全导航

至顶网软件频道在对抗网络霸凌的战争中,人工智能成为Instagram的首选武器

在对抗网络霸凌的战争中,人工智能成为Instagram的首选武器

  • 扫一扫
    分享文章到微信

  • 扫一扫
    关注官方公众号
    至顶头条

Instagram比Facebook和Twitter吸引了更多的网络不良攻击行为,不过该公司使用了机器学习算法来消除平台上言语的攻击行为。

作者:孙博 来源:至顶网软件频道 【编译】 2017年8月18日

关键字:人工智能 Instagram

至顶网软件频道消息:Instagram正面临着所有社交媒体网站中都会遇到的问题——网络霸凌的问题。但是,Instagram并没有像Facebook和Twitter那样,让用户承担责任,而是通过使用机器学习来消除平台上言语的攻击行为。

在对抗网络霸凌的战争中,人工智能成为Instagram的首选武器

反霸凌慈善机构Ditch the Label最近进行的一项调查发现,在12至25岁的英国青少年中,有42%的人认为Instagram是让他们感到最受欺负的平台,而这在Facebook和Twitter上分别仅为37%和9%,远远低于Instagram。此外,71%的被调查者认为所有社交媒体在阻止网络霸凌方面做得还很不够。

寻找解决方案

为了解决网络霸凌问题,Instagram最近宣布了一项新战略:集成机器学习算法来检测和阻止其平台上的潜在霸凌行为。该公司的首席执行官兼联合创始人Kevin Systrom在一篇博文中表示,这项研究的目的是为了在Instagram上建立一个友善、包容的社区。

Instagram正在使用DeepText机器学习算法来尝试解决网络霸凌问题。在2016年6月,Facebook的工程师们推出了DeepText,它作为基于深度学习的文本理解引擎,以近乎人类的准确度,每秒可以理解数千个帖子的文本内容,同时还能实现上下文联想功能。

通过深度学习,DeepText使用了人脑神经网络建模的算法,像人类大脑一样工作,通过演绎推理来确定某个单词在特定语境下的意思。

例如,如果有人使用“mole”这个词,DeepText则会识别用户指的是小型哺乳动物、皮肤瑕疵还是叛徒。Facebook使用该系统筛选数千个帖子,更好地理解用户,旨在创造一个更好、个性化的用户体验,来满足个人兴趣。

后来,2016年10月,Instagram又通过DeepText来消除垃圾邮件。该算法针对寻找企图出售产品的组织,分析暗示数据是否为垃圾邮件。

DeepText的成功让Instagram也在考虑该系统的其他用途。在2017年6月的博客文章中,Systrom宣布该公司将使用DeepText作为“阻止某些令人反感评论的过滤器”。该平台使用最初由Facebook创建的技术来创建一个过滤器,为用户建立一个安全的环境。

其他社交网站

网络霸凌并不是Instagram独有的问题——其他主流的社交媒体网络也在为其用户做出安全方面的改变。

康奈尔大学的研究生John Davidson也是很多关于社交媒体中网络霸凌论文的合著者,他在谈到Twitter时表示,“机器学习算法已被证明是检测不良言论和网络霸凌的有效方法。”Davidson表示,诸如“逻辑回归模型、N Bayes、随机森林、支持向量机”等各种不同的算法都被证实是有效的。但是,他表示所有这些方法的关键都是依赖监督学习,这是一种使用标签训练数据进行推理的机器学习策略。Davidson表示, 他的研究涉及收集数百万个具有潜在可能的网络霸凌(种族诽谤等等)推文,并为它们打上标签,然后将这些数据提供给算法。Davidson补充表示,这些例子用于训练算法,之后它应该能够自己区分出不良的言论。

Twitter在2016年11月发布博客文章,发布了通知静音功能以及仇恨行为策略,为用户提供更直接的方法来阻止滥用媒体的行为。虽然这些努力正在试图阻止网络霸凌,但是屏蔽攻击性的通知并不会使推文不存在。

Facebook试图通过建立Bullying Prevention Hub(霸凌预防中心)来减少网络霸凌事件。当青少年、家长和教育工作者自身或者他们认识的某个人遭到霸凌时,这个中心就是他们可以使用的资源。虽然为开启网络霸凌对话提供了宝贵的建议,但Facebook的欺凌预防中心并没有直接采取任何行动来正面消除攻击的内容。该公司只用该工具根据用户的兴趣向用户推荐内容。

DeepText的优缺点

尽管如此,这些努力还远不能够完全阻止网络霸凌。

谢菲尔德大学的博士生Zeerak Waseem专注于辱骂语言检测和Twitter上的仇恨言论,他表示,“这些尝试没有效果”。

为什么?虽然Twitter和Facebook在抑制网络霸凌方面都取得了长足进展,但Instagram是第一个使攻击性评论自动消失的社交网站。Systrom的博文和Wired都解释了人工智能目前在Instagram帐户上的运行情况。如果用户发布令人反感或骚扰的语言,DeepText会捕获并立即删除它。Wired报道说,为了防止霸凌者试图戏弄该系统,攻击性的言论仍然可以被犯罪者看到。用户还可以手动输入要阻止的单词或短语,通过阻止每个用户设定的独特的触发词,使DeepText更加有效。

然而,DeepText并不完美。

Instagram的机器学习算法自动集成在平台上,但一些不良言论仍然可以绕过该工具。 Waseem说,隐含的侮辱,如昵称或诽谤的代号会让DeepText难以发现。而且,该功能可以轻松关闭。只要用手指点击“隐藏攻击评论”就可以切换关闭状态,如果它的任务是消除网络霸凌,这似乎是违反直觉的。言论自由与创造一个摆脱仇恨言论的环境之间的界线是不容易找到的。Davidson补充表示,“机器学习不是一个能够阻止网络霸凌或网络不良言论的万能药。”机器学习可以帮助被欺负的用户体验更好,但没有技术会阻止个人说坏话。

在对抗网络霸凌的战争中,人工智能成为Instagram的首选武器

Ditch the Label的首席执行官Liam Hackett认为,Instagram平台上年轻用户众多,网络霸凌的问题也最为严重。侮辱形形色色,从对照片的负面评论到霸凌者创造假帐户来攻击目标人群都有。

Hackett赞扬了Instagram的努力,并且认为机器学习策略是多么明智,社交网络应该更多地投资于这项技术。他提到Instagram如何使用人工智能在反网络霸凌的运动中取得了很大的进步,人工智能真的在改变游戏。

并且,除了防止霸凌,DeepText还有其他功能可以帮助企业深入了解客户的兴趣。

问题的根源

机器学习在情感层面上迈出了正确的一步。然而,解决不良网民为什么会在这些平台上持续不断进行言论攻击是一个更大的问题。

Hackett表示,“互联网使人类变得不那么人性化”,舒舒服服地躲在屏幕后面侮辱其他用户比在面对面的时候说出这些侮辱性的言辞要容易得多。线下的人际关系具有隐含的行为准则——这是一种不言而喻的社会规范。在互联网上却并不总是遵循同样的准则。

作为今年最受欢迎的社交媒体网络之一,Instagram拥有7亿的活跃用户,并且用户数还在快速增长,在四个月的时间内即可获得1亿新用户。然而,用户数量的增加也同时带来了伤害性内容和冒犯性语言的增加。

Hackett指出,程序本身可能不是教导人们在网上相互尊重的完全解决方案。

  • 科技行者:每条内容都是头条的新闻客户端 扫码立即下载

邮件订阅

如果您非常迫切的想了解IT领域最新产品与技术信息,那么订阅至顶网技术邮件将是您的最佳途径之一。

重磅专题
最新文章
推荐文章