AI芯片初创公司与开发人员之间的鸿沟

发布时间:2019-11-04 10:28:24 【来源:

对于AI芯片初创公司来说,将课程的重点放在过时的基准上的峰值性能上,以吸引可能会花大力气进行深度学习培训或推理的硬件人员,这是当之无愧的。

听到这些决定可能会遇到数周和数月的开发工作,而这些项目根本无法很好地,高效地运行,或者根本无法在具有自己的自定义开发人员环境的新设备上运行,这也就不足为奇。这尤其不足为奇,因为在TNP,我们针对每种芯片架构展开了讨论,当我们进入对话的软件堆栈部分时,细节变得稀疏。挥舞着手。但是对话远远超出了编译器和标准。

理解上的差距并不是缺乏工具,时间或资源的普遍困扰。在AI芯片的设计方式(以及由谁指定),开发人员如何尝试新架构以及市场/更多开发人员如果设法找到生产方法时如何采用它们方面,存在一些深层次的基础漏洞。

实际上,它比从硬件角度(有罪的)来的任何人都可以完全理解的要复杂得多,但是Codeplay的安德鲁·理查兹(Andrew Richards)解开了漫长的冤屈清单,一路强调了一些显而易见的发现,但是可能是为什么很少有AI加速器获得有意义的采用的原因。

让我们从关于这种意识形态,技术上的不匹配的一些最著名的观察开始。而且它扎根于大多数著名的AI加速器公司的根源。

几乎所有的AI芯片初创公司都有来自DSP和嵌入式设备领域的技术创始人(Graphcore的首席执行官是前PicoChip和XMOS; Wave Computing的团队主要是嵌入式系统,仅举几例)。从工作负载/市场的角度来看(尤其是用于推理),这似乎是出色的专业知识,但是对于AI芯片(它们是加速器(因此是卸载引擎)),这是一种全新的计算思维方式。在DSP中,几乎所有信号处理都在设备上进行。您专门围绕它进行设计/开发。主机CPU只是在不进行复杂管理的情况下关闭和打开设备。

理查兹说:“就背景而言,对于这些AI硬件供应商而言,雇用看起来似乎所有形式的卸载问题都很复杂的人会有用得多。”他指出,HPC社区是人才的主要源泉,因为他们花了多年的时间教导大型超级计算机如何在复杂,大规模并行的应用程序上讲GPU,而这些应用程序通常具有非常独特的软件环境约束。简而言之,他们从开发人员的角度了解卸载及其含义。将正确的工作负载转移到正确的设备上并非易事,并且可能需要一年甚至更长的时间才能在新的体系结构上建立该工作负载。游戏世界中的开发人员也是如此,他们是第一个为GPU上的早期游戏解决卸载问题的人(这是Richards弄湿他的地方)。

这把我们带到了第二点。在开发人员进行试验和测试可能最终投入生产的AI架构时,这已经是一年的工作了。芯片初创公司需要强大的业务模型来实现这些目标。而且,这不仅仅是实现生产可用性的漫长道路。这也与实验的可用性有关。因为甚至要使开发人员创新一个新的体系结构,所以这意味着必须提供devkit和演示硬件。这是另一个易于测试设备的嵌入式背景无法为AI加速器初创企业服务的领域。

理查兹(Richards)说,GPU这么快起步的原因之一是因为Nvidia参加会议并分发芯片,然后让他们围绕它开发自己的代码。随着时间的流逝,Nvidia所做的令人难以置信的工作是为几乎所有可以通过GPU加速的工作负载开发一个丰富的生态系统,从而使开发人员更容易移植。但是最初的概念是巨大的价值之一。是的,发放或让开发人员只购买一两个或四个芯片是理想的选择,但这些初创公司根本无法将其纳入业务模式。它不适用于昂贵的加速器。因此,这是一个很大的鸡鸡蛋问题。

深圳罗湖打造“一个中枢五个中心” 建成中国黄金钻石交易中枢体系
广西黄金珠宝产业园优化全产业链发展 目前为止已入驻企业37家
国内知名珠宝企业齐亮相首届消博会 展现民族品牌新形象
吉尔吉斯斯坦或将取消珠宝产品生产设备进口的增值税 包括精矿砂、合金等
潍坊昌乐“中国宝石城”化身“潍坊市电商小镇 珠宝商变身为“直播网红”
广州发布全国首份围绕新发展格局支持钻石产业专项政策 培育壮大产业集聚带
未来5年 深圳罗湖构建全球竞争力和国际影响力的黄金钻石金融中心
中国珠宝成为首届中国国际消费品博览会唯一指定进口代理商

[ 最新资讯 ]

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

Shopee第一季度亏损4.22亿美元

  新加坡的海集团,旗下拥有电子零售商Shopee,今天报告说,其截至3月的三个月净亏损从去年的281亿$扩大至4 22亿$,日经亚洲写道。  这 ...

阿雷佐公司的第一季度利润增长了310%

  巴西鞋类和配饰集团在2021年第一季度的调整后净收入为2960万巴西雷亚尔(560万美元),比去年同期的720万雷亚尔(135万美元)增长了310 7% ...

专业调谐器称Apple TV的自动校准器无法提供

  苹果在四月推出了带有新Apple TV 4K的电视校准功能。颜色平衡选项使用带有Face ID的iPhone上的前置传感器来优化Apple流媒体盒(包括2 ...

华纳传媒与Discovery宣布合并 美国媒体行业其他公司不得不采取应对措施

  据报道,由于 AT&T 已经决定分拆华纳传媒并将其与 Discovery 合并,美国媒体行业的其他公司,尤其是规模较小的公司将面临新的压力 ...