NVIDIAAI大力推进语音、推荐系统和超大规模推理的发展

 行业动态     |      2022-08-17 14:32:31    |      沥拓

  

  加州圣克拉拉——GTC——2022年3月22日太平洋时间——NVIDIA今日发布NVIDIAAI平台的许多重要更新。该平台是一套致力于促进语音、推荐系统、超大规模推理等工作负荷的软件套件。目前,它已被广泛使用Amazon,Microsoft,Snap以及日本电信电话公司等全球行业领导者。

  NVIDIA也宣布了NVIDIA®AI加速计划,帮助确保NVIDIA合作伙伴开发的软件和解决方案AI应用程序的性能和可靠性。该计划针对各种经过验证的项目AI加速应用增加了可见性,让企业客户放心NVIDIAAI部署在平台上。Adobe,红帽(RedHat)和VMware等待100多个合作伙伴参加计划启动仪式。

  NVIDIA创始人兼首席执行官黄仁勋表示:“NVIDIAAI可以定义为全球AI社区软件工具箱,从AI数据和机器学习的操作团队,研究人员和数据科学家。NVIDIA在GTC2022年有大量的新发布。无论是创建一个更具互动性的聊天机器人和虚拟助手,还是构建一个更智能的推荐系统来帮助消费者做出更好的购买决策,还是以最大的规模安排AI服务,NVIDIAAI始终能够为您的需求提供强大的帮助。”

  NVIDIAAI开发人员可以免费使用,包括语音AI的NVIDIARiva用于智能推荐系统的NVIDIAMerlin™,这两个软件已经正式全面推出。整个软件包也进行了更新,包括NVIDIATriton,NeMo,Maxine和TAO工具包等。

  此外,NVIDIAAIEnterprise2.0已经优化和认证,并支持所有主要数据中心和云平台,包括裸金属服务器、虚拟化基础设施和纯度CPU系统。套件现在支持RedHatOpenShift和VMwarevSpherewithTanzu。

  用于领先AI软件工具的应用

  NVIDIAAI它由多个具有关键功能的项目组成SDK由工具组成,可用于跨多个节点AI快速部署、管理和扩大工作负荷,为复杂的培训和机器学习工作负荷提供有力的支持。它包含以下软件和工具:

  NVIDIATriton™:NVIDIATriton它是一个多功能开源的超大规模模型推理解决方案。最新版本包括三个关键更新:模型导航器,用于加速模型的优化部署Kubernetes中国高效扩张的管理服务,以及可以推理树模型的森林推理库,在每个应用中都可以快速、优化和扩展AI。

  NVIDIARiva2.0:这个领先的声音AISDK包含领先识别率的预训练模型,允许开发人员为其行业定制实时语音AI应用程序的准确率是普通服务的两倍。Riva2.0包含7种语言的语音识别,语音合成(包括男声和女声)基于深度学习模拟人的发音,可以通过NVIDIATAO自定义调优工具包。NVIDIA还发布了覆盖企业支持的付费产品NVIDIARivaEnterprise。

  NVIDIANeMoMegatron0.9:NeMoMegatron它用于训练大型语言模型(LLM)框架。研究人员和企业可以用它来训练模型,这样模型就可以收敛并扩展到数万亿个参数,从而用于对话AI,推荐应用程序,如系统和基因组学。新版本中的优化和方法可以缩短端到端开发和训练时间,并增加对云训练的支持。NVIDIA加速计算LLM早期用户包括京东,AISweden,Naver和佛罗里达大学。

  NVIDIAMerlin1.0:这是加速端到端推荐AI框架,用于大规模构建高性能推荐系统。它包含两个新库:MerlinModels和MerlinSystems。这些数据库使数据科学家和机器学习工程师能够确定哪些功能和模型最适合他们的应用场景,并将推荐的系统流水线部署为微服务。

  NVIDIAMaxine:提高了音频和视频的质量SDK使用AI重塑实时通信,引入回声消除和音频超分辨率。这两个新功能可以提高音频质量,带来更清晰的通信体验。

  NVIDIAAI深受客户欢迎

  各个行业的领导者正在使用NVIDIAAI提高成本效益,创造更有吸引力的客户体验,优化AI应用功能。

  Snap对话式AI负责人AlanBekker表示:“在Snapchat上,我们的社区每天都在使用它Lenses超过60亿次。Snap正在使用NVIDIARiva来优化基于AI语音功能,并提供这些功能LensStudio创造者帮助他们创造新一代高质量AR体验。”

  微软技术研究人员AzureAI首席技术官黄学东说:“MicrosoftAzure认知服务Translator中文翻译功能可以保留源文件的格式和结构,提高企业与客户的互动效率。NVIDIATriton,我们可以部署最新的Z-Code在保证低延迟的前提下,模型大大提高了文档翻译的质量,为用户提供一流的翻译服务。”

  NVIDIAAIEnterprise支持跨数据中心和云容器AI

  作为一个端到端,云原生AI以及数据分析工具和框架套件,NVIDIAAIEnterprise2.0软件套件可以加速各个行业的发展AI开发和部署。RedHatOpenShift是领先的企业级Kubernetes平台,获得RedHatOpenShift认证客户可以通过VMwarevSphere在裸金属或虚拟化系统上,使用容器化机器学习工具,更容易构建、扩展和共享模型。

  红帽合作伙伴生态系统部高级副总裁StefanieChiras表示:“NVIDIAAIEnterprise已获得RedHatOpenShift认证,并且OpenShift已在NVIDIALaunchPad因此,用户可以同时获得顶部AI具有一致性的开发工具和混合云基础。IT团队和数据科学家可以在RedHatOpenShift建设和管理NVIDIAAI,在实际生产中帮助企业加快智能应用的交付速度。”

  NVIDIAAIEnterprise2.0还引入了更多的支持训练和推理NVIDIAAI软件容器NVIDIATAO工具包的支持使企业开发人员能够面对NVIDIA预训练AI微调和优化模型,从而简化了自定义生产准备模型的创建,而无需具备AI专业知识或者大量的培训数据。该软件包还包最新发布的软件包NVIDIATriton推理服务器。

  日本电信电话有限公司是日本电信电话集团旗下全球领先的信息和通信技术解决方案提供商。该公司已采用该公司NVIDIAAIEnterprise帮助研发团队加快自然语言处理的建设(NLP)以及智能视频分析应用。