公众号/机器之能
北京时间 12 月 16 日,英特尔收购 Habana Labs 的传闻被敲定,此次收购仍延续着英特尔「大手大脚」的作风——20 亿美元,重金投掷。Habana Labs 成立于 2016 年,成立时间虽短,但却「后生可畏」,它是目前在人工智能芯片领域实现量产的为数不多的创业公司,目前以推出针对 AI 和机器学习工作负载的硅产品:Gaudi AI Training Processor 和 Goya AI Inference Processor。
20 亿美元背后,是在市场如英伟达、AMD、高通等企业的「群狼环伺」下,英特尔在 AI 技术大本营的精心布局,这些完整的、广泛适用的软硬件技术生态,终将为英特尔稳固并开拓更多市场。
撰文 | 凡雪、蛋酱
12 月初,外媒报道芯片制造商英特尔正洽谈收购以色列 AI 芯片制造商 Habana Labs 事宜,传闻很快得到印证,北京时间 12 月 16 日,英特尔表示以约 20 亿美元收购 Habana Labs。
这将是英特尔在以色列仅次于 Mobileye 第二大收购。
英特尔预计,2024 年 AI 芯片市场规模将超过 250 亿美元,在一份声明中,英特尔宣称,这次交易将强化英特尔的人工智能解决方案,进一步推动公司在新生的、快速增长的 AI 芯片市场的份额。
英特尔表示,收购后 Habana Labs 仍将是一个独立的业务部门,继续由其目前的管理团队领导,向英特尔的数据平台集团汇报,Habana Labs 董事长阿维格多. 威伦茨 (Avidor Willenz) 已同意担任该业务部门以及英特尔的高级顾问,公司总部继续设在以色列。
据悉,Habana Labs 由 3D 传感器创业公司 PrimeSense 两位前高管于 2016 年创立,PrimeSence 于 2013 年被苹果以 3.6 亿美元收购。公司致力于提高人工智能芯片的处理性能并降低成本和功耗,其开发的人工智能芯片主要用于深度神经网络训练等特定需求。
Habana Labs 「做对」了什么?
未被收购前,Habana Labs 与英特尔已有一段渊源。
2018 年 11 月,Habana Labs 获得由英特尔投资部门领投的 7500 万美元 B 轮融资,截至收购前,Habana Labs 总计融资约 1.2 亿美元,
Habana Labs 成立于 2016 年,是一家为数据中心提供可编程深度学习加速器的厂商,总部位于以色列,在波兰格但斯克设有研发中心,根据官方信息,其在以色列、波兰、美国加州圣何塞、 北京共有约 150 名员工。
在业务上,Habana 提供两种针对 AI 和机器学习工作负载的硅产品:Gaudi AI Training Processor 和 Goya AI Inference Processor。
据悉,Gaudi 是 Habana 用于加速训练的微体系结构。运用 TSMC 16 纳米工艺设计,该芯片将八个 TCP 与 GEMM 引擎集成在一个集群中。由于 Gaudi 是根据 Goya 设计的,因此 Habana 确实设法植入了一些新功能。就支持的数据类型而言,随着行业将 bfloat16 作为训练的首选数据类型,Habana 在 Gaudi 中增加了对其的支持。Habana 说,在 TPC 和 GEMM 引擎中,它添加了 ISA 的一些新功能和硬件功能,以帮助加速某些较新的算法。
Habana 提供两种尺寸的 HL-2000 Gaudi 芯片:OCP 加速器模块和标准 PCIe 卡。两种尺寸都包含 32 GiB 的 HBM2 存储器,总带宽为 1 TB / s。
Guadi 将与英特尔的 Nervana Neural Net L-1000(代号 Spring Crest)一起使用,后者针对图像识别进行了优化,并且其架构与其他芯片不同,因为它缺乏标准的缓存层次结构和片上内存由软件直接管理。(英特尔先前声称 NNP-T 的 24 个计算群集,32GB 的 HBM2 堆栈和本地 SRAM 的 AI 培训性能是同类显卡的 10 倍。)
Goya 是 Habana 的微体系结构,用于加速推理。Goya 采用台积电(TSMC)16 纳米工艺制造,而这个产品实际上是 Gaudi 的简化版本。芯片的两个主要组件是 TPC(Tensor Processor Core:张量处理器内核)和 GEMM(通用矩阵乘法:general matrix multiply)引擎。TPC 是该公司基于 VLIW SIMD 的 CPU / DSP 设计。这些内核基于自定义的 VLIW ISA,该功能具有专门的 AI SIMD 矢量指令。
Habana 试水 TPC 的目的之一就是提高灵活性。这些内核是完全可编程的,它们可以实现任何必要的 AI 功能,并且支持包括 8 位,16 位和 32 位整数和浮点运算在内的整个混合精度数据类型。完整的 Goya 芯片具有一个集群中的八个 TPC。该芯片与 TPC 集群一起集成了强大的 GEMM(通用矩阵乘法)引擎,此外,TPC 没有本地缓存,它们具有本地暂存器块以及 GEMM 引擎和 TPC 共享的大型共享内存。
Goya 推理芯片 HL-1000 被封装在 PCIe Gen 4 加速卡中。提供了两个 SKU、所提供的冷却类型有被动和主动、卡存储容量之间的差异在 4 到 16 GiB 之间。Habana 说,卡的最大 TDP 为 200 W,但我们可以预期典型功耗通常仅为该值的一半。
Goya 将补充英特尔内部代号为 Springhill 的 Nervana NNP-I,该处理器基于 10 纳米 Ice Lake 处理器,将使其能够以最少的能耗应对高工作量。
人工智能推理处理器已实现商用,它在吞吐量和延迟方面都比Nvidia芯片提供多达3倍的AI推理性能。随着人工智能工作负载的不断增加,对计算、内存和连接的要求也越来越高。Goya将补充英特尔内部代号为Springhill的Nervana NNP-I,该处理器基于10纳米Ice Lake处理器,将使其能够以最少的能耗应对高工作量。
据了解,目前,Gaudi HL-2000 训练芯片正在提供样品,Goya HL-1000 推理芯片已经交付了将近一年,Habana 已经在着手开发其下一代推理和训练芯片,该芯片将转移到 7 纳米工艺进行。
Gaudi 训练产品和 Goya 推理产品可以提供一个丰富的、易于编程的开发环境,帮助英特尔部署差异化解决方案。
在软件方面,Habana 提供了一个开发和执行环境 SynapseAI,该环境具有库和 JIT 编译器,旨在帮助客户将解决方案部署为 AI 工作负载,值得一提的是,它支持所有标准的 AI 和机器学习框架(例如 Google 的 TensorFlow 和 Facebook 的 PyTorch),以及由 Microsoft,IBM,华为,高通,AMD,Arm 等倡导的 Open Neural Network Exchange 格式。
Habana Labs 虽然创立仅 3 年时间,但确实是目前在生产型人工智能芯片领域实现量产的创业公司。英特尔收购 Habana Labs,显然是看中了其在人工智能计算市场的巨大潜力,Habana 的过硬的软硬件实力也让这次收购变得顺理成章。
英特尔数据平台事业部执行副总裁兼总经理孙纳颐(Navin Shenoy)认为:「此次收购推进了我们的人工智能战略,具体来说,通过高性能训练处理器系列产品和基于标准的编程环境,Habana Labs 大大增强了我们数据中心人工智能产品实力,以应对不断变化的人工智能行业。
Habana能否为英特尔攻下芯片一城
此次收购 Habana,并不是英特尔第一次「大手大脚」花钱,过去的几年里,英特尔在芯片领域布局不断。
2015 年 6 月,英特尔以 167 亿美元收购可编程芯片厂商 Altera,这笔交易成为当时英特尔历史上金额最大的一笔收购,被视为英特尔加速摆脱 PC 业务依赖的重要标志。Altera 在 FPGA 技术领域处于领先地位,这种技术在海量运算中具备独特价值,基于 FPGA 的云计算性能可以比处理器高出 10 到 100 倍。在完成对 Altera 的收购后,英特尔在 FPGA 技术方面的研发投入也大幅增加,正式将 FPGA 芯片纳入自身产品线。
2016年8月,英特尔又以 4.08 亿美元的价格收购了深度学习技术初创公司Nervana。Nervana创立于2014年,主攻半导体,软件和AI深度学习技术。收购之后,英特尔利用Nervana在软件、云计算服务和硬件等方面的优势,提升自身在人工智能计算任务方面的处理能力。这也是英特尔在人工智能时代面对英伟达等竞争对手的重要动作。
仅仅一个月后,2016 年 9 月,英特尔宣布收购计算机视觉处理初创公司 Movidius。Movidius 成立于 2006 年,早期集中于 3D 电影业务,后期开始涉足 3D 渲染芯片的开发,曾被《麻省理工科技评论》评为 2016 年「50 大创新公司」之一。
Movidius 拥有低功耗、高表现力的杀手级产品「Myriad」系列视觉处理器,也是大疆无人机的芯片供应商。在被英特尔收购前,谷歌、联想、三星等科技巨头都曾向 Movidius 抛出过橄榄枝,最终英特尔将 Movidius 收入囊中。
2018 年 8 月,英特尔又一次收购深度学习技术领域的初创公司 Vertex.ai。Vertex.ai 是一家开发深度学习编译工具及配套技术的西雅图公司,收购完成后,Vertex.ai 的 7 人团队加入了英特尔 AI 产品集团的 Movidius 团队,推进边缘计算的灵活深度学习等相关研究工作。
频繁布局背后,是英特尔想要在快速增长且变量大的芯片市场中站稳脚跟的野心。根据预测,2019 年英特尔由人工智能业务带动的收入将超过 35 亿美元,同比增长 20% 以上;到 2024 年,这一市场规模将超过 250 亿美元。
英特尔目前的战略是以数据为中心,AI 作为其中非常关键的一部分,英特尔已拥有从 CPU、GPU、FPGA 到 ASIC 的 AI 芯片,在各个领域收编并发展先进的人工智能技术,将其组合成完整的、广泛适用的软硬件技术生态,最终构成英特尔数据中心 AI 技术大本营,为英特尔稳固并开拓更多市场。
正如英特尔副总裁兼架构总经理 Gadi Singer 所言:「人工智能硬件是一个价值数十亿美元的商机。我们会投资几个产品线,因为该领域的需求非常广泛。其中一些产品(比如加速器等)将侧重于节能,这是这些产品独有的特点。因此,投资这个领域可以让我们的投资组合相辅相成。」
除了行业潜力和本身业务线原因,芯片市场的竞争程度也不可小觑。英伟达(Nvidia)、高通、迈威尔(Marvell)和 AMD 等公司带来的竞争日益加剧;Hailo 科技公司、Graphcore、Wave Computing、Esperanto 和 Quadric 等创业公司也加入了这场角逐,甚至连亚马逊也有可能威胁到英特尔的收益,因此,英特尔必须在该领域加足马力,逐一高下。
收购 Nervana 三年后,今年11月,英特尔推出了首款云端AI专用芯片 Nervana 神经网络处理器(NNP)系列产品,旨在加速深度学习框架的性能,但是 NNP-I 的量产仍然任重道远,在业界人士看来,这次收购 Habana 也变相佐证此前收购Nervana 结构不尽如人意。
2017 年,英特尔曾以 153 亿美金收购以色列自动驾驶技术公司 Mobileye,并凭此成为车载人工智能市场的主要玩家。此次收购 Habana Labs,英特尔也怀着同样的愿景,希望增强其在数据中心市场的竞争力,然而 Habana 能否带着英特尔 AI 技术大本营冲出重围,在 AI 芯片领域分得一杯羹,仍未可知,不过此次收购也不失为是一种减少潜在竞争对手的策略。