
在华为发布了配备处理单元(NPU)的Kirin 970芯片之后,行业内人士对其在人工智能领域的应用前景充满了期待与好奇。这不仅因为它是全球首款集成NPU的移动SoC,更因其强大的性能表现。据公开资料显示,Kirin 970每分钟能处理高达2005张图片,而没有NPU的情况下,同样的时间仅能处理97张图片。可见,NPU在人工智能领域的能力非凡。
华为无线终端芯片产品市场总监周晨也在最近的Linaro开发者上表达了相同的观点。他强调,NPU因其独特的设计,能够高效运行网络模型,大幅提升推理效率,这是传统的CPU和GPU所无法比拟的。但华为的AI战略并不仅仅局限于NPU,而是提供了一套全面的解决方案。
针对Kirin 970的GPU、CPU与NPU的性能对比,华为推出了HiAI移动计算平台,这是一个开放的AI生态系统。通过HiAI,Kirin 970的AI能力可以被第三方应用所利用,这主要是根据开发者的需求决定的。周晨认为,现在的开发者在开发时关注开发成本、收益和知识产权保护三个方面,而HiAI正是为解决这些问题而诞生的。
作为一个面向人工智能应用的异构计算机构,HiAI为开发者提供了多项便利特性:
1. 提供常用的人工智能功能API,让上层应用能够更容易地在移动设备上运行相关模型;
2. 支持多种主流架构和模型,具有更好的兼容性;
3. 对模型和算子提供独立的硬件加速,提高计算效率;
4. 灵活的网络模型加速配置,根据工作量及时延需求自动选择GPU或AI加速器进行处理,实现性能优化。
HiAI的最新SDK支持的项目包括稀疏模型加速,NPU可以跳过系数为零的乘加运算,这不仅提高了计算效率,还降低了带宽要求。HiAI还支持8位和1位量化,有效降低计算带宽和存储消耗,提高能效。
在此基础上,华为将持续升级HiAI平台,以满足新兴应用的需求。例如,增加对Caffe 2和ONNX等的支持,保证整个平台的技术先进性。
为了拓展Kirin 970的AI应用范围和方向,华为推出了HiKey 970 AI开发板。周晨表示,这是华为Hikey开发板系列的最新成员,新的Hikey 970不仅支持华为HiAI SDK,与纯CPU运算相比,Hikey 970实现了25倍的性能提升和50倍的效率提升。它还支持流行的AI栈、主流的操作系统和更多的硬件接口。
周晨进一步解释,通过提供开发板,一方面可以让人们充分体验Kirin 970在人工智能方面的实力,并基于其上进行创新,为华为和开发者提供更多应用方向;更多的开发者参与开发也为芯片的进一步升级提供了思路和方向,从而更好地满足开发者和消费者的需求。
华为还计划通过人才培养、开发支持、创新支持和市场推广等计划来扩大Hikey 970的覆盖范围。
对于AI的未来应用,周晨表示华为的HiAI API已经支持了许多应用,并期待与开发者共同挖掘更多的创意方向。他鼓励大家参与到AI的应用开发中,共同推动AI技术的发展。那么你对AI的应用有什么期望呢?
