img

经济

据Wired报道,谷歌的母公司Alphabet,Jigsaw的子公司正在使用机器学习来抵御在线拖钓

总部位于纽约的智库正在建立开源人工智能工具,统称为对话AI,以过滤骚扰和辱骂语言

Conversation AI网站上写道:“很少有东西可以在网上毒害对话,而不是滥用语言,威胁和骚扰

” “我们正在研究计算机如何学习如何大规模理解滥用语言的细微差别和背景

如果成功,机器学习可以帮助出版商和版主改进他们平台上的评论,并加强互联网上的想法交流

“会话AI识别可能会滥用的语言,并给它一个”攻击分数“,范围从0到100 - 得分越高,语言越成问题

据报道,该软件在识别滥用语言方面比人类主持人更快,更准确

根据Google的说法,Conversation AI“超过92%的确定性和10%的误报率”,但Wired的Andy Greenberg发现了一些改进的空间

Jigsaw创始人兼总裁Jared Cohen告诉Wired,“我想利用我们掌握的最好的技术开始采取拖钓和其他邪恶的策略,让敌对的声音不成比例

” “尽我们所能来平衡竞争环境

”为了创造这个工具,Jigsaw与纽约时报和维基媒体基金会合作

该公司从“泰晤士报”制作的故事中获取了1700万条评论,以及人类主持人标记哪些评论不合适的数据

它还收到了来自维基百科页面的130,000个对话,然后将这些对话提供给人工小组进行评估

The Times和Wikimedia将是第一个测试滥用检测器的人

虽然后者仍在研究如何最好地利用该工具,但前者将实施对话AI作为在人类节制之前清除滥用内容的第一道防线

通过使信息开源,任何论坛或平台都可以使用该软件来标记,删除和缓和在线拖钓

Jigsaw产品经理CJ Adams告诉Wired,目标是“任何人都可以使用这些模型并与他们一起运行

”对话AI的重要性是透明的:它可以更容易地阻止在线骚扰

但是,一个鲜为人知的潜在特权是,如果有效,它可以改变在线行为

发表在“自然”杂志上的先前研究发现,当被召唤出滥用评论时,人们改变了他们的行为

具体来说,视频游戏公司Riot Games发现92%的玩家在收到实时自动警告后改变了他们的行为

News