Habana实验室的新高迪芯片承诺比Nvidia gpu更快的人工智能训练
Habana Labs Ltd.正在人工智能市场向Nvidia Corp.发起挑战。
这家以色列初创公司得到了1.2亿美元的资金支持,它今天发布了一款名为高迪(Gaudi)的芯片(见图),专门用于训练人工智能模型。
这是开发生命周期的一部分,在这个过程中,工程师通过反复试验和错误来改进算法的性能。人工智能可能需要数千万次尝试才能掌握一项任务,这意味着任何加速这一过程的技术都有可能带来巨大的回报。
高迪承诺提供主要的性能收益。为了演示它的速度,Habana进行了一次内部测试,将芯片与Nvidia Corp.的旗舰产品V100数据中心显卡进行了对比。这家初创公司声称,高迪运行的ResNet-50(一种流行的人工智能模型,通常用于基准测试)比V100快3.8倍,并在此过程中创下了新的行业业绩记录。
这是哈瓦那在过去一年中创造的第二个RestNet-50记录。这家初创公司的第一块芯片是Goya,它为人工智能模型提供了动力。人工智能模型已经经过训练,并在生产中用于处理实时数据。
高迪和戈雅有一个共同的设计。它们都由8个处理核心组成,基于所谓的超长指令字架构,该架构并行执行计算,而不是像中央处理器那样一个一个执行。高迪的与众不同之处在于它有不同的记忆,而且整个规格更适合人工智能训练。
Habana将以两种形式将这种芯片推向市场:一种是PCIe卡,另一种是夹层加速器,设计用于装载其他更大的卡。这家初创公司还开发了一款名为HLS的数据中心设备,该设备装有8个夹层加速器。
除了提供快速的处理速度外,高迪还具有可伸缩性。夹层卡和PCIe卡分别有8个和10个内置的以太网端口,每个端口支持每秒100吉比特的连接。这消除了公司增加额外芯片来处理网络的需要,这将提高拥有大量高迪处理器的大型人工智能环境的效率。
哈瓦那计划今年晚些时候开始试制这种芯片。这家初创公司声称,它之前的Goya处理器已经被多家客户使用,包括云提供商和自动驾驶汽车公司。Habana也有知名投资者:最近一轮7,500万美元的融资由英特尔(Intel Corp.)牵头,Bessemer Venture Partners、Battery Ventures等公司也参与了融资。