常用 NGC 集合构建和部署口罩检测应用程序

使用 NGC 重构和重新部署背心检测应用程序界面

AI 指导工作程序中的很适合于。重构一个 AI 应用程序界面不是一项简单的护航，因为它只能各种很强领域专业知识的各种利益相关者来大规模共同开发和重新部署应用程序界面。数据库生物学家和共同JavaScript只能方便地会见软件重构块，例如静态和试管，它们不仅安全、低性能，而且很强重构其 AI 静态所需要的基础的系统。

在重构剩应用程序界面以后，DevOps 和 IT 行政人员只能一些用以，这些用以可以帮助他们在各种的设备之间无缝地重新部署和行政这些应用程序界面，包括本地的设备、云的设备或大块的设备。

NVIDIA 重构了 NGC 编目，通过发放易于会见的 GPU 优化软件，例如试管、先行军事训练的静态、应用框架和重构 AI 应用程序界面所需要的 Helm 图表，来细化和更快 AI 指导工作程序中的。

在这篇文章中的，我们将展示如何使用 NGC 编目和它的核心底层特性，例如论域、NGC 私有财产注册表和 AI 重构块来重构和重新部署一个背心检测应用程序界面，作为一个示例，该示例展示了 development-to-deployment 管道。

细化应用程序旅程

随着 NGC 的推出，NVIDIA 细化了整个应用程序感受，并将所需要的相关试管、静态、编码和 Helm 图表集中的在一个人口众多，而无需要在编目中的定位和各派系各种单独的重构块。

您可以寻觅针对特定护航的指导工作接地的 NGC 论域，如自动语音标记或图像界定，以及行业 SDK，例如 NVIDIA Clara 或迁移研读 (TLT)。如果您希望重构一个应用于对象检测的应用程序界面，那么在编目中的搜索该论域，您将在一个人口众多寻觅所有相关股票。

使用 NVIDIA TF32 Tensor Cores 更快 AI 军事训练

NVIDIA Ampere GPU 的系统引入了第三代 Tensor Cores，以及更进一步TensorFloat32 (TF32) 方式上更快 FP32 线性和线性乘法。TF32 方式上是AmpereGPU 的系统上 32 位变量的 AI 军事训练的默认选项。它为单精度DL指导工作接地带来了 Tensor Core 更快，而不只能对静态脚本进行任何改回。

使用本机16 位文档 (FP16/BF16) 的混和精度军事训练仍然是快的选择，只只能静态脚本中的的几行编码。表1推测了与 FP32 CUDA 核相比，A100Tensor Cores 的数学吞吐能力。值得指出的是，对于单精度军事训练，A100 发放的数学吞吐能力比上新一代军事训练GPU V100 低 10 倍。

内部构造

TF32 是 GPU 的系统 Ampere 新一代 Tensor Core 中的升级的一种更进一步计算方式上。点积计算，它构成了线性乘法和线性的重构块，将 FP32 的读取轮化到 TF32，在不损失精度的完全计算商品，然后将这些商品获取到 FP32 输出中的。

TF32 只是作为 Tensor Core 操作方式上公开，而不是一个一般来说。闪存中的的所有存储和其他操作剩全保留在 FP32 中的，只有线性和线性乘法在乘法先前将它们的读取转换为 TF32。无论如何，16位一般来说发放存储、各种数算符等等。