带有用于机器学习的专用集成电路的pcb
关键的外卖
在过去的几年里,公司发布了支持某些机器学习任务的asic。
这些可以通过标准数字接口在PCB上实现。
设计人员需要做出一些明智的设计选择来支持这些asic。
机器学习和人工智能(AI)是经常被误解的流行语,甚至是技术专业人士。当谈到人工智能和机器学习开发时,软件世界获得了大部分关注,但还有另一个重要方面部署机器学习经常被忽视的领域模型。在某些时候,终端设备甚至不能继续依赖云来完成最基本的机器学习推理任务,这些任务需要在终端设备上实例化,或者需要在网络边缘执行。
边缘服务器是从终端设备上卸载机器任务的一种选择,但这些单元基本上是精简的、高度特定的数据中心,为客户端设备执行一组任务。为了进一步减少网络流量和开销,另一种选择是使用特定于应用程序的终端设备进行部署集成电路(ASIC)。业界很早就开始认识到这一需求,并开始通过一些具有机器学习功能的专用应用集成电路来响应需求。
希望通过ASIC将机器学习添加到系统中的设计人员应适当规划其电路板布局和堆栈,以支持这些功能。在本文中,我们将介绍asic中一些可用的机器学习功能,以及设计人员可以采取的一些实际步骤来构建支持这些功能的电路板。
具有机器学习能力的专用集成电路
所有ASIC都实现高度专业化的数字逻辑,可以通过外部配置引脚和/或与系统控制器(MCU、FPGA、另一个ASIC等)接口的外部数字总线进行可编程。专用集成电路即实现机器学习和AI专门用于某些类型的推理任务和/或神经网络结构,这意味着它们实现的逻辑是特定于标准数字逻辑中的AI计算的。
目前可用的asic集中于直接在设备上执行神经网络推理计算。它们实现了自己的处理器核心和逻辑块,这些计算可以快速有效地执行,而在典型的具有组合和顺序逻辑的MCU上,相同的任务可能是功耗和时间效率低下的。这些芯片有时也被称为人工智能加速器,因为它们实现机器学习算法的速度比主机处理器快得多,功耗也更低。
系统架构
下图是具有机器学习能力的ASIC的数字设计的典型系统级框图。
带有AI/ ml功能的ASIC的框图。
在这个框图中,我们有一个带有嵌入式应用程序的主控制器,或者它可能直接在设备上运行嵌入式操作系统。这个主控制器将收集到的数据发送到ASIC进行推理任务。请注意,由于极端的计算需求和所需的数据量,当前类别的asic不适合设备上的训练;这最好是在边缘或云中执行,然后设备的应用程序可以更新为新的模型。
有些元素在图中没有显示出来。首先,显然会有一些电源管理系统在硬件和软件上实现。机器学习ASIC上的特定接口没有显示,但这些接口可能是用于配置的低速接口(SPI, I2C等)和用于发送和接收数据流的高速接口(通常是PCIe)。
为什么使用机器学习专用集成电路?
有几个原因,为什么ASIC与一个机器学习核心将被用于数字系统。其中包括以下列表中的一些要点:
降低应用程序的复杂性,因为在神经网络中执行推理任务所需的应用程序存在于ASIC中,而不是在固件或软件中。
减少处理器需求,它允许主控制器将资源分配给系统中的其他任务,而不是将其计算用于推理任务。这使得设计人员可以选择较小的处理器。
确保正常运行时间;今天使用机器学习的系统不会在设备上执行任何推理任务。相反,他们将数据发送到云端,然后接收到的结果在本地进行处理。如果希望设备在没有网络连接的情况下也能正常运行,那么必须在设备上执行推理任务。
重构性;在ASIC上实例化的神经网络是设备配置的一部分,可以根据需要进行更改。对网络的更新可以通过云上的web服务、训练模型的边缘数据中心或其他设备提供。
利用机器学习设计pcb以支持asic
这些设备使用单一的高速数字接口(通常是PCIe),并且应该这样设计。确保你遵循标准的高速设定PCB布局和路由指南确保信号完整性。电源完整性也很重要,因为系统大小和IO计数比例;这些系统在高速信令过程中会消耗更多的功率,因此除非PDN和堆叠设计得当,否则过多的噪声会从电路板辐射出来。确保使用最好的设计软件来构建这些先进的系统,并将其大规模生产。
如果您正在设计一个定制PCB,以支持具有机器学习的特定应用集成电路,您将需要正确的一组PCB布局和设计软件.Allegro PCB Designer抑扬顿挫的全套设计工具能帮上忙。
领先的电子产品供应商依靠Cadence产品来优化各种市场应用的电源、空间和能源需求。如果您想了解更多我们的创新解决方案,和我们的专家团队谈谈吧或请订阅我们的YouTube频道.