DarwinAI团队发布关键的可解释性文件 致力于提高AI的全行业信任度

发布时间:2019-12-23 11:47:14 【来源:

2019-不列颠哥伦比亚省温哥华市(GLOBE NEWSWIRE)-NeurIPS位于加拿大滑铁卢的初创公司,为人工智能开发开发下一代技术的初创公司今天宣布,该公司已经进行了学术研究,回答了关键问题行业问题:“企业如何信任AI生成的解释?”

可解释性一直是解决AI“黑匣子”问题的关键,因为人类几乎不可能理解深度神经网络如何做出决策。迄今为止,在新生的深度学习领域中对可解释性方法的评估还很有限,并且大多数现有的评估都集中在主观视觉解释上。

该论文由DarwinAI团队撰写,拥护以机器为中心的策略来量化可解释性算法的性能,并将在业内最负盛名的AI会议之一NeurIPS 2019上发表。DarwinAI(最近也被称为Gartner“酷供应商”)正在开发其可解释性平台的新版本,该平台将提供其他功能以增强企业对AI的理解和信任。

DarwinAI首席执行官Sheldon Fernandez说:“深度神经网络如何做出决策的问题困扰着研究人员和企业,这是广泛采用这种特殊形式的AI的重要障碍。”“至关重要的是,企业必须了解神经网络如何做出决策,才能设计出具有一定信任度的强大模型。”

“神经网络的可解释性一直是深度学习工程师的核心概念,这是我们行业的必要和至关重要的目标,”与DarwinAI合作的自动驾驶公司Voyage的首席技术官Drew Gray说。“通过这项研究,DarwinAI团队引入了可解释性的具体性能指标,也突出了他们自己方法的好处。他们的工具集通过将可解释的见解转化为模型设计和数据集扩充的建议,将概念提升到一个新的水平。后者对我们来说特别令人兴奋。”

NeurIPS的DarwinAI研究动力

DarwinAI的论文“解释是否反映了决策?“以机器为中心的策略来量化可解释性算法的性能”,探索了一种以机器为中心的策略来量化可解释性方法在深度神经网络上的性能。

本质上,团队对深度学习网络进行了巧妙的心理测试,删除了解释变量,然后让网络重新评估结果以确定给定算法的有效性。团队使用这种方法对几种最新的可解释性方法进行了全面分析,包括他们自己的专有技术LIME,SHAP,期望梯度和GSInquire。

DarwinAI团队在NeurIPS 2018上发表了五篇论文,将在NeurIPS 2019上展示公司的可解释性指标研究以及四篇其他研究论文。

在一项研究中,该团队介绍了YOLO Nano,这是一种高度紧凑的深度卷积神经网络,旨在用于边缘和移动设备上的嵌入式对象检测。该模型是使用该公司的Generative Synthesis平台生成的,该平台使用AI本身来优化神经网络以减少其计算需求。此外,该技术是对硬件工具箱的补充,这些工具箱可提高特定芯片组的性能。例如,工程师通过在第二代Intel Xeon可扩展处理器上利用嵌入式Intel深度学习Boost技术,可以大大加快Generative Synthesis的推理性能。这种组合为深度学习从业人员提供了强大的产品。

英特尔机器学习性能副总裁兼总经理魏力表示:“英特尔和DarwinAI经常合作,以优化和加速各种英特尔硬件上的人工智能性能。”“但是除了性能,我们还非常支持他们对算法透明性和可解释性的研究,这将有助于使AI部署公平,可审核且符合道德。”

深圳罗湖打造“一个中枢五个中心” 建成中国黄金钻石交易中枢体系
广西黄金珠宝产业园优化全产业链发展 目前为止已入驻企业37家
国内知名珠宝企业齐亮相首届消博会 展现民族品牌新形象
吉尔吉斯斯坦或将取消珠宝产品生产设备进口的增值税 包括精矿砂、合金等
潍坊昌乐“中国宝石城”化身“潍坊市电商小镇 珠宝商变身为“直播网红”
广州发布全国首份围绕新发展格局支持钻石产业专项政策 培育壮大产业集聚带
未来5年 深圳罗湖构建全球竞争力和国际影响力的黄金钻石金融中心
中国珠宝成为首届中国国际消费品博览会唯一指定进口代理商

[ 最新资讯 ]

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

Shopee第一季度亏损4.22亿美元

  新加坡的海集团,旗下拥有电子零售商Shopee,今天报告说,其截至3月的三个月净亏损从去年的281亿$扩大至4 22亿$,日经亚洲写道。  这 ...

阿雷佐公司的第一季度利润增长了310%

  巴西鞋类和配饰集团在2021年第一季度的调整后净收入为2960万巴西雷亚尔(560万美元),比去年同期的720万雷亚尔(135万美元)增长了310 7% ...

专业调谐器称Apple TV的自动校准器无法提供

  苹果在四月推出了带有新Apple TV 4K的电视校准功能。颜色平衡选项使用带有Face ID的iPhone上的前置传感器来优化Apple流媒体盒(包括2 ...

华纳传媒与Discovery宣布合并 美国媒体行业其他公司不得不采取应对措施

  据报道,由于 AT&T 已经决定分拆华纳传媒并将其与 Discovery 合并,美国媒体行业的其他公司,尤其是规模较小的公司将面临新的压力 ...