Leetop A203, Руководство пользователя

Страница: 27 / 29

TensorRT
TensorRT 是一个高性能的深度学习推理运行时间，用于图像分类、分割和物体检测神经网络。
TensorRT 建立在英伟达的并行编程模型 CUDA 上，能够为所有深度学习框架优化推理。它包括一个
深度学习推理优化器和运行时间，为深度学习推理应用提供低延迟和高吞吐量。 JetPack 4.6 包括
TensorRT 8.0.1
cuDNN
CUDA 深度神经网络 库为深度学习框架提供高性能原语。 它为标准例程提供高度调整的实现，例如
前向和后向卷积、池化、归一化和激活层。 JetPack 4.6 包括 cuDNN 8.2.1
CUDA
CUDA Toolkit
为构建
GPU
加速应用程序的
C
和
C++
开发人员提供了一个全面的开发环境。 该工
具包包括用于 NVIDIA GPU 的编译器、数学库以及用于调试和优化应用程序性能的工具。 JetPack
4.6 包括 CUDA 10.2
Multimedia
API
Jetson Multimedia API 包提供了用于灵活应用程序开发的低级 API 。 Camera 应用程序 API ：
libargus 提供了一个低级帧同步 用于相机应用程序的 API ，具有每帧相机参数控制、多个（包括同
步）相机支持和 EGL 流输出。 需要 ISP 的 RAW 输出 CSI 相机可以与 libargus 或 GStreamer 插件
一起使用。 无论哪种情况，都使用 V4L2 媒体控制器传感器驱动程序 API 。传感器驱动程序 API ：
V4L2 API 支持视频解码、编码、格式转换和缩放功能。 用于编码的 V4L2 开放了许多功能，例如比
特率控制、质量预设、低延迟编码、时间权衡、运动矢量映射等。 JetPack 4.6 包括以下多媒体亮
点： 支持可扩展视频编码 (SVC) H .264 编码支持 YUV444 8 、 10 位编解码
Computer
Vision
VPI (Vision Programing Interface) 是一个提供在 PVA1 (Programmable Vision Accelerator) 、
GPU 和 CPUOpenCV 上实现的计算机视觉 / 图像处理算法的软件库。用于计算机视觉、图像处理和
机器学习的开源库。 VisionWorks 2 是用于计算机视觉 (CV) 和图像处理的软件开发包。 JetPack 4.6
包括 VPI 1.1 新算法 Optical FlowLaplacian PyramidImage HistogramHistogram
EqualizationBackground SubtractionPython bindingJetPack 4.6 的开发者预览版包括 OpenCV
4.1.1Jetpack 4.6 包括 Visionworks 是可用的 P1VA 只有 Jetson AGX Xavier 系列和 Jetson Xavier NX
2VisionWorks 将不再包含在 JetPack 4.6.x 之后。开发人员应改为使用 VPI 库进行计算机视觉和图像
处理。请参阅公告 此处 。
Developer
Tools
CUDA Toolkit
为使用
CUDA
库构建高性能
GPU
加速应用程序的
C
和
C++
开发人员提供了一个全
面的开发环境。 该工具包包括 Nsight Eclipse 版、包括 Nsight Compute 在内的调试和分析工具以
及用于交叉编译应用程序的工具链。
NVIDIA Nsight Systems
是一个 低开销系统范围的分析工具，
提供开发人员分析和优化软件性能所需的洞察力。 NVIDIA Nsight Graphics 是一个独立的应用程
序，用于调试和分析图形应用程序
.JetPack 4.6 包括 NVIDIA Nsight Systems 2021.2**JetPack
4.6 包括 NVIDIA Nsight Graphics 2021.2** 请参阅 [ 发行说明 ]( https://docs.nvidia.com/jetson/arc
hives/jetpack-archived/jetpack- 46/index.html
）了解更多详情。
Supported
SDKs and
Tools
Deepstream SDK 是一个完整的分析工具包，用于基于 AI 的多传感器处理和视频和音频理解。 下一
版本的 NVIDIA DeepStream SDK 6.0 将支持 JetPack 4.6 NVIDIA Triton™ 推理服务器 简化了 AI
模型的大规模部署。 Triton 推理服务器是开源的，支持在 Jetson 上部署来自 NVIDIA TensorRT 、
TensorFlow 和 ONNX Runtime 的训练 AI 模型。 在 Jetson 上， Triton Inference Server 作为共享
库提供，用于与 C API 直接集成。 NVIDIA Triton Inference Server Release 21.07 支持 JetPack
4.6PowerEstimator 是一个 web 应用程序，可简化自定义电源模式配置文件的创建并估算 Jetson
模块功耗。 PowerEstimator v1.1 支持 JetPack 4.6 。
Cloud
Native
Jetson 将 Cloud-Native 带到边缘，并支持容器和容器编排等技术。 NVIDIA JetPack 包括 NVIDIA
Container Runtime
与
Docker
集成，可在
Jetson
平台上启用
GPU
加速容器化应用程序。
NVIDIA
在 Nvidia NGC 。有些适用于带有示例和文档的软件开发，有些适用于生产软件部署，仅包含运行时
组件。在
Jetson
上的
Cloud-Native
页面 中查找更多信息和所有容器映像的列表。
JetPack 4.6 亮
点包括： New CUDA 运行时和 TensorRT 运行时容器映像，其中包含容器本身内的 CUDA 和
TensorRT
运行时组件，而不是从主机挂载这些组件。这些容器旨在将
AI
应用程序容器化以进行部
署。请注意，基于 L4T 的容器继续支持现有的容器化应用程序，这些应用程序期望它从主机挂载
CUDA
和
TensorRT
组件。
No. 27 / 29