Orin架构是一种行业领先的技术,在下一代边缘人工智能系统中具有卓越的性能。该系统包含12个ARMCortexA78内核和2MB的三级缓存。它还配置了16个流处理多处理器,采用NVIDIAAmpere架构的GPU,每个流处理多处理器具有128个CUDA内核。Orin还配备了一些专门的加速器,用于处理视频缩放、图像处理和光流加速,比如OFA加速器、2个JPEG解码器和2个深度学习加速器单元,同时也支持张量RT的DLA用于深度学习操作。此外,Orin还拥有可编程视频加速器(PVA)和视频编解码引擎。Orin采用了高带宽LPDDR5内存,并具备一系列多样的IO连接选择,其中包括22个PCIExpress通道、4个千兆以太网连接器和16个CSI通道。凭借所有这些强大的功能,JetsonOrin完全有能力应对边缘AI场景。
现在我们来讨论一下如何充分利用NVIDIANsight开发工具的方法。在我们深入了解开发工具的细节之前,我想快速概述一下新功能。
目前,NVIDIA在其官方网站http://nvidia.com上已经推出了一个全新的开发者工具登录页面。您现在可以浏览该网站以详细了解所有工具及其功能,以便找到适合您工作的工具。您还可以使用简单易懂的导航界面,以帮助您缩小问题范围,找到与您正在处理的问题相关的特定工具。
我们现在还支持在ARM上本地运行工具GUI。除了现有的远程分析和命令行界面外,NsightSysterm、Nsightcompute和NsightVisualStudioCode版本现在可以在NVIDIAJetsonAGXOrinSOC上本地运行。
现在让我们深入了解典型的开发工作流程以及与这些步骤相关的NVIDIANsight工具的整体情况。
应用程序的开发经历几个阶段:
从创建开始,在IDE或开发环境中创建应用程序,
然后进行调试,确保其正确性并证明其功能。
最后是性能调整或分析,其中调整应用程序或算法以最大限度地利用平台和优化性能。
NVIDIANsight工具套件可用于协助完成每一步,同时还为专注于计算或图形工作负载的工作流提供解决方案。为Jetson开发应用程序从未如此简单。