BSM80C-275AFX

更新时间: 2023-06-04

ML包括两个主要部分：培训和推理，可以在完全相异的处理平台上执行它们。培训通常是以离线方式在桌面上进行或在云端完成，并且包括将大数据集入神经网络。在此阶段，实时性能或功能都不是问题。培训阶段的结果是在部署时已经有了一个经过培训的AI系统，该系统能够执行特定任务，例如，调查组装**的瓶颈问题、计算和跟踪一个房间内的人员或确定账单是否是伪造的。

但是，为了让AI实现其在许多行业的应用前景，在推理（执行培训后的ML算法）期间必须实时或近实时完成传感器数据的融合。为此，设计师需要在边缘实施ML和深度学习模型，将推理功能部署到嵌入式系统中。

举例来说，在工作场所设立协作机器人，与人进行密切协作。它需要使用来自近场传感器及视觉传感器的数据，来确保它在成功防止人类受到伤害的同时，支持人类完成对于他们来说有难度的活动。所有这些数据都需要实时处理，但是云的速度达不到协作机器人需要的实时、低延时响应。要攻克这个瓶颈，人们把当今先进的AI系统发展到了边缘领域，即，机器人意味着存在于边缘设备中。

这种分布式AI模型依赖于高度集成的处理器，这种处理器具有：

·丰富的外围设备组，用于对接不同传感器

·高性能处理功能，以运行机器视觉算法

·加速深入学习推理的方法。

此外，所有这些功能还必须高效工作，并且功耗相对低，体积相对小，以便由边缘承载它们。

随着ML的普及，我们经过功耗和尺寸优化的“推理引擎”的可获得性也越来越高。这些引擎是专为执行ML推理而专门设计的硬件产品。

集成式片上系统（SoC）在嵌入式空间内通常是好的选择，因为除包裹能运行深度学习推理的各种处理元件外，SoC还集成了使嵌入式应用变得完整的许多必要部件。