NVIDIA Metropolis 如何帮助企业部署AI解决方案
NVIDIA Metropolis 如何帮助企业部署AI解决方案
本文讲座整理自：
对于那些现有的metropolis 合作伙伴，感谢您与我们合作并信任我们。多年来，我们与metropolis 合作伙伴在许多行业和许多客户一起工作，学到了很多重要的经验教训，如何共同加速推动新视觉应用程序，如何进入市场，如何克服沿途的许多障碍，许多摩擦点，也许更重要的是你可能还没有感受到障碍是什么，但我们已经在帮助你克服这些障碍。
我们今天与您分享的是我们如何进入metropolis ，了解英伟达为扩展metropolis的意义做出的巨额投资，以及它如何帮助您建立和扩展您的业务，将其真正变成一个推动市场发展的发动机。随着时间的推移，它会变得更好，您会获得更多价值。
这是metropolis 可以帮助您发展业务的五种方式，无论您是 isp，还是 APP 开发人员、服务解决方案提供商，开发您自己的应用，您应该做的五件事，以帮助您的团队，为您的企业做好准备并取得成功。
第一步: 提高性能&降低成本——利用NVIDIA世界级开发工具&SDK优化您的软件堆栈，加速产品上市时间。
首先，我们多年来一直在不断地与您合作，通过我们的开发工具和 SDK 将深度学习和 AI 的魔力集成到您的视觉应用程序中，帮助您降低成本和复杂性。我们通过这项努力来解决您在开发和部署人工智能解决方案和产品时面临的最大、最耗时、最昂贵的挑战，确保了您发展人工智能团队的灵活性和投资。现在，几乎不需要 AI 专业知识，也可以将 AI 集成到客户的应用程序中。
例如，我们与城市合作，他们正在开发人工智能并将其集成到他们自己的交通管理解决方案中。我们已经创建了一个端到端的工作流程，使您能够改进您的开发流量，你的APP性能提升十倍。
首先，我们让您可以访问已使用数百万张图像进行预训练的生产就绪模型，以实现开箱即用的最先进的准确性，这是定制或简单使用的绝佳起点。
其次，使用您的数据或通过合作伙伴合成生成的数据，或通过神经复制器训练适应和优化 TAO，使您的模型达到准确性和性能限制。
第三，使用Deepstream将这些模型集成到生产应用程序中并保持性能。目前我们推出 DeepStream 6.0，这是一个伟大的产品，它抽象出内存管理等复杂性，具备像Graph Composer这样一个美丽而简单的功能，通过强大的方式，与此应用程序集成和交互。我们还帮助您与 triton 集成，帮助您将边缘部署到云，并抽象出所有的复杂性。它是端到端的，而且非常强大。
合成数据生成正在迅速成为 AI 开发工作流程中的杀手级应用程序。昂贵、费力的人工标记的真实世界数据可能容易出错，并且可能不完整，而合成数据能够创建巨大且多样化的物理准确数据集，比如，可以根据您可能关注的任何车辆的需求量身定制，并且还可以生成地面实况数据。人类难以或不可能标记速度、深度、被遮挡物体、恶劣天气条件等事物的真实数据。当您将合成数据添加到数据集中时，我们在某些情况下看到令人难以置信的结果，精度翻了一番 ，模型的数量会增加，NVIDIA 元宇宙复制器是生成高质量数据数据集的绝佳工具，我们还有许多合作伙伴帮助您生成和注释数据，因此这正在迅速成为您真正令人惊叹的惊人能力。
数百名开发人员正在积极使用我们 DeepStream SDK、 TAO工具包、预训练模型等，从训练到优化运行时无所不包。通过开发人员的反馈证明， 工作流程是流线型的视频处理和分析管道，加速缩短了一半以上的开发时间, 工程团队的生产力提高了, 你可以更快更多地提供应用程序, 更多的功能正在推。以上只是我们生态系统成功的一个很小的快照。越来越多的生态系统正在使用我们的sdk，您也应该这样做，因为它们非常强大和有价值。
第二步：简化部署——在 Metropolits 验证实验室中使用标准硬件验证您的应用程序，以简化销售流程和部署
现在开始，让我们假设您现在正在使用我们的 sdk，并且您正在交付令人愉快的强大应用程序，我们可以通过多种方式提供帮助，但我们将提供帮助的第一种方式是帮助您简化部署，从一开始就在信誉良好的合作伙伴的认证硬件上验证您的应用程序，以提供更优化的低成本软件和硬件实现。以及部署可重复的配方，嗯，对于像你这样的人，对于你的合作伙伴，如经销商，对于客户，我们正是为这个阶段建立了 Metropolits验证实验室。
你们可以与 Nvidia 站在一起，一个团队可以帮助您在 NVIDIA 认证系统、边缘或云上验证您的应用程序，其中包含超过 12 种硬件冲突组合、最新的安培 GPU、远程进入服务器和利用分析工具对您的 APP 性能进行基准测试，跨越各种摄像头，帮助您分析您的应用程序，帮助您找到改进优化的领域，包括gpu 利用率、内存利用率、cpu、查看每个 gpu 推出了多少流，服务器推出了什么吞吐量，确保基本上尽一切努力降低系统成本。最终的结果是文档化的系统需求文档，你可以与集成商客户分享。我们还有一个Metropolis APP 门户, 这是一个 APP 商店, 集成商和客户可以在其中导航, 经过认证的验证应用程序, 模拟跨摄像头的部署, 从五个摄像头计数到数以千计的摄像头，跨多个应用程序。
我们已经有 50 多个合作伙伴，Metropolis验证实验室在降低整体解决方案成本、提高性能和简化整体上市工作方面所产生的惊人效果。由于标准化的部署方法使得部署和维护工作变得更加容易。我们的一些合作伙伴发现将他们的开发工作集中在一种平台、一种配置上，以及容器化正在帮助人们标准化硬件，从而可以简化部署，快速进入市场，产上巨大价值。
第三步：让企业做好准备——让 Fleet Command 为企业级安全性、更快的 POC 和更简单的应用程序管理做好准备
现在，你们中的许多人几乎只开发和销售软件应用程序，而由其他团队通常管理基础设施、IT管理、资源调配、软件升级。他们不仅管理其一个站点，可能还有多个站点、甚至一些关键点的安全性，以及poc的运行方式。有时，你可能并不觉得这是你的工作，但是你今天在打包应用程序时所做的决定是至关重要的，对企业级部署是极其关键和重要的，我们发现它会影响交易的达成，甚至你的某个决策会被考虑进去，而且肯定会影响下游成本，甚至会在很多年里影响部署和管理的最终解决方案的总成本。
我们投入巨资构建了一套用于管理应用程序开发的工具集，通过从一开始就扩展所有基于初创企业级的工具来帮助poc流程，我们称之为NVIDIA fleet command 和 integrators，客户越来越多地使用它来部署和管理其关键应用程序，它减轻了许多管理步骤的负担。它使部署和管理这些应用程序的速度和简单度提高了一个数量级，简化了更新，并将安全级别扩展到了节点群。你的机会其实很简单。你应该让你的应用程序从一开始就做好fleet command 准备，这样会节省大量解决方案总体拥有成本，包括管理安全。
很明显简化安装，你知道如果你从一开始就建立fleet command 准备，你可以更容易地对你的应用程序进行生命周期管理。它是云管理的集中管理的应用程序，包括端到端的安全性、一个点击部署、Open API 的分层安全性等坦率地说你知道这是一个长期的游戏，如果你不从一开始就建立安全性，就不会占尽产品先机。
第四步：增加应用程序的可访问性————使用NVIDIA LaucnPad轻松访问支持GPU的基础设施，以进行测试、POC和项目可行性
现在你开发和销售的产品是新的，通常是创新的，客户试用你的应用程序的poc是你销售过程中的关键和关键部分，通常对你和你的客户来说都是痛苦的，因为很费时，但这不应该被视为痛苦。这实际上是一个让你的客户高兴的机会，想象一下你有一个应用程序展示室，想象你的客户欣赏你的应用程序，并且使用，看到它的价值。
（编者注：POC就是类似某些早鸟计划用的原型验证系统）
我们为什么建造Launchpad。launchpad是一个有效的解决方案展示，它也是以一种额外的方式来验证你的应用程序，并非常容易地向客户展示所有功能。
Launchpad可以非常轻松地向客户展示所有功能，而无需您在他们的场地上实际部署硬件，无需使用他们的网络，也无需通过网络获得访问权限，您可以利用它加速客户测试poc的试验和项目可行性，在有限的时间内，我们的合作伙伴可以在全球九个地区免费快速访问云上的人工智能基础设施和所有这些基础设施，配备了最新的安培GPU，可通过fleet command获得完整的视频软件堆栈，并将AI launchpad与fleet command相结合。我们绝对鼓励你们去看一看,研究它，并开始在你的市场推广工作中使用它。
NV launchpad利用Nvidia NGC ,我们提供它所有的应用程序都是通过fleet command提供的。有一个漂亮的仪表板可以开始使用，这里只是让你感觉一下它的外观。launchpad使你能够模拟实时部署从云实例进行实时边缘部署，NVIDIA已经整合了一些工具来模拟实时摄像机流，而不需要在客户的场地上，也不需要接入他们的摄像机网络。
第五步: 赢得更多机会——关键项目上利用NVIDIA的商务拓展和市场团队，与NVIDIA一起进行市场开发，取得胜利。
NVIDIA销售的是新方法、新解决方案。有时客户甚至不知道他们有问题，所以讲故事分享可能是至关重要的，我们称之为Metropolis动力，这是一种联合营销努力，旨在扩大你的工作。
NVIDIA有公司博客，去年达到了400万独立访客，浏览量超过700万，我们为某些垂直市场创建了视觉丰富的电子书，以帮助与您的市场营销网络、经销商分享。我们将您的故事整合到演示文稿和幻灯片中，与世界上一些最大的公司和项目分享。我们已经与合作伙伴合作发布了20多份新闻稿，我们让你们知道，我们是来帮助你们的，我们真的很高兴能够利用和放大你们的故事。
在业务发展方面，我们在世界各地有一个业务发展合作伙伴的全球团队。首先，我们有一个Metropolis合作伙伴计划，我希望你能参与 我们的商业拓展团队在区域范围内进行Opportunity和metropolis合作伙伴之间的配对，这是一个专门解决这些特定问题的部门，我们还与您进行了大量的销售支持，我们共同创建了一个销售培训课程，教您的团队销售解决方案，更容易走向市场。
更多讲座整理：
在NVIDIA Jetson平台上部署深度学习模型需要知道的6个技巧
使用 NVIDIA Fleet Command 在边缘部署和管理应用程序
腾讯云开发者
