嵌入式领域正在经历一场强大的变革。互联设备正在发展成为能够根据其收集的数据自行做出决策的系统。通过在更接近捕获数据的位置处理数据,而不是在物联网网关或云中处理数据,它有望加快决策速度,减少延迟,解决数据隐私问题,降低成本并提高能效。
工业自动化、机器人、智能城市和家庭自动化只是推动提高边缘计算性能和能力需求的几个应用领域。这些类型的系统中的传感器过去非常简单且互不相连,但人工智能和机器学习(ML)现在能够提高本地智能水平,允许原生设备上的决策,这是过去简单控制算法所无法实现的。
人工智能时代通用处理器的发展
几年前,开发人员将逻辑和控制算法作为其软件开发的核心,然而数字信号处理(DSP)算法随后出现,实现了许多增强的语音、视觉和音频应用。
应用程序开发的这种转变已经进入了一个新时代,并且正在影响计算架构的设计。我们现在已经到了一个阶段,推理是算法开发的主要焦点。这为计算性能、能效、延迟和实时处理以及可扩展性等带来了新的或增强的要求。
我们不仅看到了对新处理器加速器的需求,还看到了对通用处理能力的改进,以便为开发人员提供必要的平衡,并支持实时视频中的功能检测或人物检测等应用。
几年前开发噪声消除应用的开发人员可能会依赖基于频率的滤波器。但是今天,开发人员可以通过将过滤与ML/AI模型和推理相结合来提高应用程序性能和功能。这推动了对处理器和工具的需求,使这些任务更加高效,并尽可能无缝地提供给用户。
激发边缘和终端设备的智能
这种演变是由ML推动的,但它也面临着技术挑战。多年来,为物联网和嵌入式设备创建“一刀切”方法的开始和停止以及尝试,促使行业改变其物联网开发方法,以释放巨大的扩展机会。
开发人员现在正在利用安全、性能增强的技术来实现小型、低功耗的嵌入式系统,用于以前无法想象的语音、视觉和振动应用,这些应用正在改变世界。各种版本的语言和转换器模型将很快在具有新计算能力的物联网边缘设备中找到自己的位置。这将开启开发者曾经梦想不到的新的可能性。
实现智能边缘功能
随着硬件的发展,开发人员面临着越来越复杂的软件,这就需要新的开发流程来创建优化的ML模型和高效的设备驱动程序。至关重要的是,提供给生态系统的软件开发平台和工具要与硬件一起发展。
有各种各样的Arm和第三方工具可用于支持最终用户创建人工智能算法。一旦数据科学家离线创建了模型,就可以使用工具来优化模型,以便在基于Ethos-U的npu上使用,或者在基于Cortex-M的处理器上使用氦指令。
Qeexo是第一家为边缘设备自动化端到端机器学习的公司,其AutoML平台提供了一个直观的UI,允许用户收集、清理和可视化传感器数据,并使用不同的算法自动构建机器学习模型。Keil微控制器开发套件(Keil MDK)等传统嵌入式工具是MLOps工具的补充,有助于建立验证复杂软件工作负载的DevOps流程。因此,嵌入式、物联网和人工智能应用融合在一个开发流程中,这是许多软件开发人员都知道的。
边缘的潜力正在被释放。对微控制器更高性能的需求不断增长,特别是语音激活门锁、人员检测和识别、带预测性维护的互联电机控制以及无数其他高端AI和ML应用等任务。
借助正确的技术,嵌入式开发人员可以重新设计边缘和终端设备,在成本、性能、能效和隐私之间取得适当的平衡,这些都是这些受限系统的关键因素。