close
当前位置: 物联网在线 > IT技术 > 技术 >

助力边缘:使用Arm ML处理器驱动最佳性能

随着机器学习和基于边缘计算的解决方案的大量涌入市场,设计工程师正忙于寻找可靠的组件,这些组件不仅可以满足当今技术的需求,而且还超出了最终用户与技术本身进行交互的期望。
幸运的是,有像Arm这样的行业领导者,他们提出了满足这些现代要求的尖端组件和解决方案。特别是,将Arm的ML处理器视为边缘ML推理的未来。这是因为它允许智能设备基于本地数据做出独立决策。
结果,开发人员将具备更好的条件,不仅可以满足未来技术的要求,而且可以将效率,灵活性和功能相结合,从而优化当今的用户体验。
Arm最近发布了一份白皮书,详细研究了处理器的设计以及与CPU,GPU和DSP相比如何实现如此令人难以置信的效率水平。
从论文的开头部分:
设备上机器学习(ML)是一种流行的现象。能够根据本地生成的数据做出独立决策的智能设备被誉为消费类设备计算的未来。提高可靠性和安全性;增强了隐私和安全性……同时又节省了功率和成本。
尽管边缘设备中的ML在短时间内取得了长足的进步,但近年来出现了新的网络,新的算法和不同的体系结构,但是推理引擎的基本计算要求一直保持不变。由于ML是一个重复和完善的过程,旨在理解大量信息然后得出结论,因此功能改进仍然在很大程度上受到高吞吐量和高效率的推动。
重新利用CPU,GPU或DSP来实现推理引擎是将ML功能添加到边缘设备的一种简便方法。例如,许多嵌入式设备只需要一个小的低功耗微控制器单元(MCU),当今市场上的绝大多数智能手机就可以在CPU上运行准确,高性能的ML。但是在响应性或功率效率至关重要的情况下,CPU可能难以满足苛刻的性能要求,而专用的神经处理单元(NPU)(例如Arm ML处理器)可能是最合适的解决方案。
免费下载本文:推动力量:使用Arm ML处理器驱动最佳性能

(责任编辑:ioter)

用户喜欢...