首页 科技内容详情
研究发现,人工智能对不良言论的审核能力依然很糟糕

研究发现,人工智能对不良言论的审核能力依然很糟糕

分类:科技

网址:

反馈错误: 联络客服

点击直达

欧博allbet网址

欢迎进入欧博allbet网址(www.aLLbetgame.us),欧博官网是欧博集团的官方网站。欧博官网开放Allbet注册、Allbe代理、Allbet电脑客户端、Allbet手机版下载等业务。

,

只管人工智能手艺领域在最近取得了提高,但它依然在大多数基本应用上露出出许多问题。在一项新研究「jiu」中,科学家们对四个顶级人工智能系统的愤恨言论检测能力举行了测试,他们发现所有‘you’系统在识别恶意、以及无害言论上,都存在着差异水平的问题。

(泉源:民众号民众图库)

这一效果并〖bing〗不令人《ren》受惊,由于构建可明白自然语言细微差异的人工智能,是一‘yi’件异常难题的事情。然而,研究职员们诊断问题的方式却异常主要,为加倍准确地找出系统故障的缘故原由,研究人们针对愤恨言论的方方面面制订了 29 种差其余测试。这能让我们更容易领会战 zhan[胜系统缺陷的方式,同时,这些测试也正在辅助一项商业服务提升其人工智能性能。

由『you』牛津大学以及阿兰 图灵研究所科学家所领衔的论文作者们,对 16 家羁系网络愤恨言论的非营利组织的雇员举行了采访。研究团队行使这些采访《fang》内容,将愤恨言论划分为 18 个差异种类,而且仅偏重英语以及基于文本的愤恨言论,其中包罗贬损用语、诋毁性文“wen”字「zi」以及威胁性词汇。

他们还发现了 11 种经常让人工智能羁系者发生误判的不含愤恨情绪的情形,其中包罗在不冒犯他人的情形下使用脏话、被目的群体所接纳的诋毁性词语,以及引用原始愤恨言论对愤恨言论举行〖xing〗训斥的行为等。

据悉,该团队针对 29 种差异情形中的每一种编写了数十个『ge』类型,并使用「yong」了类似“我憎恶XX” 以及 “对「dui」我来说,你就是个XX” 的 “模板” 语句,从而为 7 个受珍爱的群体天生相同的类型聚集,这些群体均受美国执法珍爱以是不会遭到歧视。研究职员对被称作 HateCheck 的最终数据“ju”集举行了开源处置,该数据集中共含有近 4000 个类型。

2022世界杯《bei》预选赛越南赛程www.9cx.net)实时更新比分2022世界杯预选赛越南赛程数据,2022世界杯预 yu[选赛越南赛程全程高清免费不卡顿,100%原生直播〖bo〗,2022世界杯预选【xuan】赛越南赛程这里都有。给你一个完美的观赛体验。

之后,他们又测试了两项受“shou”迎接『jie』的商「shang」业服务:谷歌(ge)和 Jigsaw 团结研发的《de》 Perspective AI、以及 Two Hat 的 SiftNinja。这两个服务都(du)允许客户符号出帖子以及谈论中带有愤恨色彩的内容。Perspective 的用户包罗 Reddit 以及像《纽约时报》《华尔街日报》这样的新闻机构。据其所处置的有害信息显示,人工智能服务会对帖子以及谈论举行《xing》符号,以供人工审查使用。

SiftNinja 的检测尺度则过于【yu】宽松,因此未识别出险些所有的转变。而 Perspective 的尺度则过于严酷,它检测出了 18 个愤恨种类中的大部门,但同时也符号出了许多像被接纳的诋毁性词语、以及反面论证这类不含愤恨情绪的情形。

研究职员在测试谷歌的两个学术模子时也发现了相同的模式,这些模子代表了业界中顶级的语言人工智能手艺,它们同{tong}时也是其它商业性内容审核系统的基础。学术模子还显示,受珍爱〖ai〗群体之间的显示并不相同,有些群体的愤恨水平比其它群体更容易被错误归类。

测试效果也指出了现在在人工智能愤恨言论检测方面最具挑战性的一个问题:即审核太少,没法解决问题;而审核太多,就会删除掉边缘化群体用(yong)来强协调珍爱自 zi[己的话语。牛津大学互‘hu’联网研究【jiu】院的博士候选人保罗 罗特格(Paul R ttger)是本篇论文的配互助者,其(qi)示意,“突然之间,你就会成为那些在愤恨言论中首当其冲的群体的责罚者。”

Jigsaw 的首席软件工程师露西 瓦瑟‘se’曼(Lucy Vasserman)示意,Perspective 行使人工审查来举行最终决议,进而战胜了这『zhe』些局限性。然则,这种方式无法扩展至加倍重大的平台上。当前,Jigsaw 正“zheng”在开发一种基于 Perspective 的不确定性的,同时可以对帖子及谈论换取优先顺序的系统。该系统能自动移除带有愤恨色彩的内容,并将边缘信息符号出来。

瓦瑟曼说道,新研究最令人激动的地方在于,它为这种顶尖手艺提供了一种仔细的评估方式。她还示意,“论文中强调了的许多器械,例如对那些模子来说是一个(ge)挑战的、然则被人们所接纳的诋毁性词语。我们早就熟悉到了“liao”它们的存在,可却一直很难对其举行量化处置。” 现在,Jigsaw 正在使用 HateCheck 来更好地领会自身模子间的差异、以及需要继续改善的地方。

学术界也对此次研究的功效感应兴奋,华盛顿大学语言人工智能研究员马腾 萨普(Maarten Sap)示意,“这篇论文为我【wo】们评估行 xing[业中的系统提供了一个优良且清洁的资源,它会让企业和用户不停地去提升自己的系统。”

罗格斯大学社会(hui)学助理教授托马斯 戴维森(Thomas Davidson)对此【ci】示意认同。戴维森示意,语言模{mo}子的局限性以及杂乱无章的语言征象意味着,人们总会在识别愤恨言论的历程中对过松、或过紧的问题举行取舍。他还说道,“HateCheck 数据集让这些取舍变得可视化了。”

-End-

原文:

  • 新2开户(www.22223388.com) @回复Ta

    2021-09-12 00:04:05 

    (体育 Predwan/文)2021LPL夏日赛通例赛现在已经所有竣事了,接下来晋级季后赛的队伍要迎接加倍猛烈的竞争,而在看过这么多长的竞赛之后,与之前每届的夏日赛相比,信托人人也能够感受获得今年的夏日赛竞争是何等的猛烈,现在的LPL赛区实力强劲的战队越来越多,竞赛的精彩水平也是呈直线上升,各大队伍都很起劲地争取每一场竞赛的胜利,我们眼见了许多场以碾压姿态竣事的竞赛,也同时看到了不少痛失好局的绝地逆转翻盘局,偷家的排场偶然也在LPL舞台上上演,通例赛竞赛虽然已经所有竣事,季后赛的较量才刚刚最先,信托季后赛的较量一定会比通例赛加倍猛烈,值得期待。哎,每天来评论

    • usdt承兑商(www.usdt8.vip) @回复Ta

      2021-09-14 12:15:11 

      USDT交易平台www.usdt8.vip)是使用TRC-20协议的Usdt官方交易所,开放USDT帐号注册、usdt小额交易、usdt线下现金交易、usdt实名不实名交易、usdt场外担保交易的平台。免费提供场外usdt承兑、低价usdt渠道、Usdt提币免手续费、Usdt交易免手续费。U交所开放usdt otc API接口、支付回调等接口。

      打包带走。

      • 欧博开户(www.aLLbetgame.us) @回复Ta

        2021-09-25 07:39:06 

        皇冠足球appwww.huangguan.us)是一个开放皇冠即时比分、代理最新登录线路、会员最新登录线路、皇冠代理APP下载、皇冠会员APP下载、皇冠线路APP下载、皇冠电脑版下载、皇冠手机版下载的皇冠新现金网平台。皇冠官网平台上登录线路最新、新2皇冠网址更新最快,皇冠体育APP开放皇冠会员注册、皇冠代理开户等业务。

        好文和朋友分享

发布评论