Truera应用可解释性AI研究发展其模型评估平台

随着人工智能影响更多的行业和社会领域，初创公司正在构建测试工具，以帮助公司和政府评估其模型的状态并确定潜在的合规性问题。谷歌云首席人工智能科学家安德鲁·摩尔(Andrew Moore)最近预测，人工智能开发管道将有一天将集中在测试和验证上。但是Truera(之前称为AILens)表示，它正在基于联合创始人Anupam Datta和Shayak Sen的工作来构建另一种平台，他们的可解释性AI研究考虑了因果关系和合作博弈论以及公平和偏见。

达塔(Datta)离开了卡内基梅隆大学(Carnegie Mellon University)的教授职位，他告诉VentureBeat Truera背后的研究始于2014年，当时CMU研究人员发现了在线广告中的性别偏见形式，但缺乏了解如何衡量这种偏见的工具。Truera平台可以检测并帮助缓解AI模型中出现的问题，例如偏差失衡，可能影响预测的数据分布变化以及长期稳定性。Datta表示，由于COVID-19带来的异常，客户更多地使用了此功能。

担任Truera总裁兼首席科学家的达塔(Datta)表示，Truera方法的核心宗旨是，没有严重偏见的模型不仅更健壮，更有能力，而且对业务更有利。

“论点是，可解释性是防范社会危害和建立更高质量模型的关键。不像是非此即彼，”达塔解释道。“在某些方面，可以让您更深入地研究模型，模型如何工作，如何……以负责任的方式评估或采用它们的同一套方法，也将有助于将质量更高的模型投入生产，因此也将对世界和商业有益。这两个要求没有冲突。他们很结盟。”

如今，Truera专注于分类和回归模型以及深层神经网络，例如卷积神经网络(CNN)。该公司目前不提供推荐算法或某些其他形式的AI的服务。

Truera在2019年筹集了510万美元的资金用于构建和发展其服务。Greylock Partners领导了本轮融资，Wing VC和Conversion Capital参与了该轮融资。这些资金将用于构建Truera产品的第一个版本，扩大公司团队并启动平台。最初的客户正在使用该平台来验证银行和保险等高度监管行业的监管合规性。

Truera成立于2019年，总部位于加利福尼亚州红木城。该公司约有15名员工。

中国联通：已累计开通5G基站33.2万站 到今年年底预计超过38万个

饿了么现已入驻1000所高校食堂 校园内平均20分钟送达

谷歌在西雅图附近规划新园区 在亚马逊和微软总部所在地扩大触角

我国国家顶级域名“.CN”数量超过2300万个 IPv6规模化部署提速

邬贺铨：截至8月我国IPv6活跃用户达3.65亿 占互联网用户之比达40.32%

苹果、谷歌、英特尔等公司已经加入行业组织美国“6G联盟”

微软今天正式终止Win7嵌入式系统支持 花钱可买三年补丁

OPPO将发布首款概念级应用OPPO CybeReal 针对AR领域