【NVIDIA GTC2022】在自动光学检测（AOI）领域中推广Jetson Xavier 方案到底解决哪些痛点？

GPUS Lady

发布于 2022-04-01 10:40:54

2.3K0

发布于 2022-04-01 10:40:54

文章被收录于专栏：GPUS开发者

本文节选整理自NVIDIA GTC讲座[S41607]：

自动光学检测（AOI）中采用的深度学习技术一直是制造业的热门话题。然而，大多数项目都停留在概念验证阶段或仅部署在少数 AOI 机器上。我们的分析发现，障碍通常与 AI 模型的准确性或性能无关，而是出于其他原因。在制造检测中部署深度学习时，我们将解决这些障碍，以及 Jetson 平台如何帮助我们克服这些障碍。

根据我们的经验，制造商在采用人工智能技术方面面临障碍，这三点是我们从客户那里听到的最常见的原因。一是技能差距，客户没有新技术技能，二是对机会认识不够，客户不认为有机会，也不认为新技术可以免费学习到。第三，投资资金短缺，对客户的投资资金过高。

但是，为了帮助客户澄清这三个障碍不应该成为阻止他们采用人工智能技术的原因，我们需要帮助客户了解他们整个过程。以及他们在这个过程中可能会遇到什么样的问题，最重要的是让他们知道我们可以帮助他们解决这些问题，而且回报和机会都相当可观。

那么让我们来看看人工智能的实施阶段，如果我们不知道人工智能采用的流程，我们将永远不知道问题出在哪里。由于这个新技术，客户要求POC（proof of concept）来证明这个概念是很正常的，所以我相信在推广智能物联网方案的过程中，你们很多被邀请去做POC是很常见的。但我们知道关键点是如何从POC阶段发展到生产阶段。我们注意到，该领域的许多项目只是停留在 POC 阶段，很难进入产品生产阶段。

难以进入完美的生产阶段，这是为什么。大规模部署 AI 应用程序需要考虑什么，以下是您应该考虑的四个重要关键。我们接下来会每个点具体说一说

第一个，工作效率，当部署人工智能系统时，训练和部署的自动化流程变得非常重要。由于很多工程师的时间是将图像数据从 AI 机器复制到训练计算机，或者将训练模型复制到 AI 机器。

第二，预测性维护，没有完美的模型，因为随着时间的推移环境会发生变化，所以模型可能不如刚开始时那么好，我们需要有一个解决方案来监控部署模型并设置规则来保持制造稳定。

第三个，有效解决问题，我们不仅在模型出现问题时发出警报，还需要收件人提供如何解决问题的方案。解决问题、自动数据标记、微调模型、测试、重新部署，都是在大规模部署人工智能系统时非常重要。

第四，解决方案的规模化能力，想象一下，当有数百个 AI 系统在线运行时，如何高效地管理所有这些图像数据和模型，成为这个规模下非常重要的话题。如果我们一开始没有做好这个计划，那么你将成为一场灾难，后期会带来巨大的投入成本。

第五个话题，我要和大家分享的是带有AI推理引擎的AOI的硬件系统。如左图所示，在POE阶段通常使用一个带RTX GPU卡的工业电脑把控制系统和推理系统放一起，因为非常简单，但是对于生产线中，AI推理与控制系统分开是非常重要的，因为你除了GPU卡外，还会要添加POE卡、I/O卡等其他控制卡，如中间图所示，你不希望他们在一个工业电脑里，这回增加管理风险，而已不便于工程师开发和维护模型和图像数据。但是，你看到右边的图，我们可以使用Jetson Xavier系统作为推理引擎，与机器控制系统分离。

说一下Jetson Xavier的优势：

首先是可扩展性和稳定性，RTX GPU 只有一年的产品生命周期并且不是为工业应用而设计的，这可能会导致一些缺点，制造业很注重产品的生命周期，客户希望复制成功的解决方案以扩大生产，满足市场需求的能力和质量。这种情况将持续数年，他们会一直要求完全相同的系统，如果你发现RTX GPU一年后就退市了，这会很烦人，Jetson Xavier 相比RTX GPU卡有更长的时间生命周期。零哇，它采用Linux系统，是比Windows系统更稳定的系统。

其次是灵活性，有时单个 RTX GPU 的性能无法达到客户的要求，但多 GPU 服务器解决方案的成本仍然很高，通过将多个带有以太网的 Jetson AGX Xavier 连接到 AI 机器，系统可以灵活性地扩展推理性能，与多 GPU 服务器相比，其成本是可以接受的。

第三点就是ESG，Jetson产品比起带GPU的工业电脑，功耗很低，这对于某些欧洲的项目很重要。