谢谢您的订阅!
当新的内容发布后您将开始接收邮件。您也可以点击邮件内的链接随时取消订阅。关闭Close

使用 Canonical 和 NVIDIA AI Enterprise 加快 AI 应用程序开发

by Canonical on 7 November 2023

NVIDIA AI Enterprise 支持 Ubuntu KVM

Canonical 将继续扩大与 NVIDIA 的合作范围,为将于今天全面上市的NVIDIA AI Enterprise 4.0 提供 Ubuntu KVM Hypervisor 支持。在 Ubuntu 上使用 GPU 虚拟化的企业组织有望无缝迁移到新版 NVIDIA AI Enterprise 许可证。 

NVIDIA AI Enterprise 4.0

NVIDIA AI Enterprise 4.0 现在具有跨工作站、数据中心和云部署支持功能,且更新中包括:

  • NVIDIA NeMo,用于构建、定制和部署生成式人工智能模型; 
  • 两个新的人工智能工作流,用于加速生成式人工智能用例; 
  • 通过 NVIDIA Triton 管理服务增强可管理性,实现大规模自动化部署;
  • 企业级支持。 

NVIDIA AI Enterprise 为人工智能应用程序开发和部署提供了一个端到端且安全的云原生软件平台,帮助企业组织解决新挑战,同时提高运营效率。新的 NVIDIA Triton 管理服务可以简化并有效管理模型部署,并且 NeMo 支持构建、定制和部署复杂的大型语言模型,为企业提供一种简单、经济、快速的方式来使用生成式人工智能。

Ubuntu KVM 和 NVIDIA Enterprise 4.0

普遍将 NVIDIA 框架和工作流与 Ubuntu 结合使用的数据科学家和开发人员现拥有一个单一的平台,可以在最新一代 NVIDIA GPU 的基础之上快速开发人工智能应用程序。随着 Ubuntu KVM 支持 GPU 虚拟化,企业组织可以利用现有的本地或云基础架构快速部署相同的模型来支持 AI 工作负载的运行。 

图:Ubuntu KVM 和 NVIDIA AI Enterprise 4.0

GPU 虚拟化是一个重要的工具,可以在多个虚拟机(VM)间共享单个 GPU。这样可以优化 GPU 资源利用率,并且直接为受宏观影响的 IT 预算节省大量成本。Ubuntu KVM 历来一直支持 NVIDIA 虚拟 GPU(vGPU)解决方案。Canonical 和 NVIDIA 现已验证 NVIDIA 的虚拟化解决方案,使 NVIDIA AI Enterprise 容器和虚拟机均支持 GPU,并将性能影响降到最低。一旦客户和用户指向新的 NVIDIA AI Enterprise 许可证服务器,则应在不中断的情况下继续使用。

企业将 NVIDIA AI Enterprise 与 Ubuntu KVM 结合使用,现可跨多云和混合云部署来扩展部署。

安全性和支持 —— 确保完整的深度学习堆栈

Ubuntu 是大多数人工智能开发人员的首选开源操作系统,Canonical 很自豪能够通过提供优化的、安全的操作系统,为 NVIDIA 的创新者提供支持。NVIDIA 客户使用 NVIDIA AI Enterprise 4.0,可以自动享有 Canonical 在操作系统之外的安全承诺,从而确保 NVIDIA 容器中开源内容的安全。旨在部署最新人工智能创新技术的企业组织使用 NVIDIA AI Enterprise,现在可以获得 NVIDIA 提供的企业级支持。此外,客户还可以获得 Canonical 针对其开源基础架构软件提供的支持,包括 Kubernetes 和 Kubeflow 等热门上游项目。 

在谈及这些解决方案时,Canonical AI/ML 负责人 Maciej Mazur 表示:“经认证,Ubuntu KVM 与 NVIDIA AI Enterprise 相结合可以为客户提供端到端解决方案的所有必要要素:NVIDIA 提供的用于培训最新 LLM 的容器,以及 Canonical 提供的针对基础架构软件的企业级支持。” 

入门简单且免费。您可以放心,如有需要,Canonical 专家可以提供帮助。

NVIDIA AI Enterprise 与 Canonical 开源解决方案结合使用入门 

联系我们

订阅博客文章

订阅您感兴趣的主题

在提交此表格的同时,我确认已阅读和同意的隐私声明隐私政策。

查看更多内容

现代化 Linux 身份管理:让 Ubuntu 从本地认证迈向云端

现代企业在混合环境中运营,本地基础设施与云服务并存,安全威胁也在不断演变。IT 管理员肩负着一项艰难的平衡工作:在维护传统本地工作流程的同时,还需应对不可避免的云原生架构转型。身份已成为新的安全边界,取代了传统的基于网络的防御体系。  在 Canonical,我们开发了一套全面框架,用以提升 Ubuntu 服务器与桌面端部署的身份管理安全性,弥合传统 Active Directory 环境与现代云身份提供商之间的差距。 在这篇博客中,我们将探讨 Canonical 的框架如何通过弥合传统 Active Directory 环境与现代云身份提供商之间的差距,增强认证与访问管理控制的安全性。 基础:本地认证及其局限性 传统上,Linux 认证机制依赖于存储在本地 /etc/p […]

使用 MAAS 部署 VMware 虚拟机管理程序

多数现代数据中心本身均为异构架构。VMware 环境常与容器平台、数据库及其他裸机业务负载共存,多年运行于同一套硬件之上。服务器一次性采购,但会随业务需求变化调整承载业务。 然而,ESXi(VMware 虚拟机管理程序)的配置通常由独立流程负责。主机通过 VMware 工具、自定义脚本或专为将部署 ESXi 到机器中开发的自动化程序完成安装。这些工作流单独运行虽行之有效,却未必能与物理基础设施的其他部分实现统一的追踪与管理。 由此导致了脱节:即便归属同一硬件资源池,ESXi 主机的管理方式仍与数据中心其他设备脱离。随着环境规模扩大、架构日趋多元化,这种割裂式管理会形成业务瓶颈。 将 ESXi 纳入统一裸机平台进行统筹管理将是更具扩展性的方案。这使得 ESXi 的配置流程, […]

什么是 Ubuntu Pro?与标准版有不同吗?功能及内容详解

Ubuntu Pro 是 Canonical 推出的全方位订阅服务,提供开源安全防护、技术支持与合规保障。从长达 15 年的安全维护、全天候技术支持,到面向 IT 管理员的自动化加固工具,深入了解 Ubuntu Pro 订阅包含的全部服务。 Ubuntu Pro 具备哪些功能? Ubuntu Pro 是一套安全合规订阅服务,可为操作系统、应用程序及 IT 运维各层级及时提供补丁与安全维护。它助力企业及其工程师保障软件与系统安全,并通过加固工具、自动化流程及一系列其他功能,为企业满足安全标准合规铺平道路。 了解关于 Ubuntu Pro 的更多信息 › Ubuntu Pro 与标准版 Ubuntu 有何不同? 很多人存在误区,误以为 Ubuntu Pro 是独立版本或全新操 […]