谢谢您的订阅!
当新的内容发布后您将开始接收邮件。您也可以点击邮件内的链接随时取消订阅。关闭Close

借助 Ubuntu 和 NVIDIA AI Workbench 加速 AI 开发

by Canonical on 31 May 2024

图 1. NVIDIA AI Workbench

Canonical 通过 NVIDIA AI Workbench 拓展与 NVIDIA 的合作。NVIDIA AI Workbench 支持跨工作站、数据中心和云部署功能。

NVIDIA AI Workbench 是一个简单易用的工具包,开发人员可以使用它在其 PC 或工作站上创建、测试和自定义 AI 和机器学习模型,并将这些模型扩展到数据中心或公共云。它可以简化交互式开发工作流,同时将让新手止步不前,也让专家脱轨的技术任务自动化。协作式 AI 和 ML 开发现可在任何平台进行,且适用于任何技能水平的人群。 

作为用于数据科学、人工智能和机器学习的首选操作系统,Ubuntu 和 Canonical 在 AI Workbench 功能方面发挥着不可或缺的作用。 

  • 在 Windows 上,Ubuntu 通过 WSL2 支持 AI Workbench。 
  • 在云中,Ubuntu 22.04 LTS 使 AI Workbench 云部署成为远程机器支持的唯一目标操作系统。 
  • 对于从数据中心到云、再到边缘的 AI 应用程序部署,基于 Ubuntu 的容器是 AI Workbench 的关键部分。

Canonical 和 NVIDIA 之间的强强合作使得这种无缝的终端用户体验成为了可能。

定义您的 AI 开发旅程,从本地启动并扩展至全球

轻松创建、协作和重现生成式 AI 和数据科学项目。只需负责开发和执行,其余工作交由 NVIDIA AI Workbench 处理:

  • 简化的设置:易于安装和配置用于 GPU 加速硬件的容器化开发环境。
  • 笔记本电脑到云:只需点击几下即可在 RTX PC 或工作站上本地启动并扩展到数据中心或云。
  • 自动化工作流管理:简化项目资源、版本控制和依赖跟踪的管理。
图 2. AI Workbench 桌面应用中的环境窗口

Ubuntu 结合 NVIDIA AI Workbench 改善客户端机器上生成 AI 工作负载方面的最终用户体验

作为成熟的数据科学操作系统,Ubuntu 现在通常用于 AI/ML 开发和部署用途。其中包括生成式 AI(GenAI)工作负载的开发、处理和迭代。随着边缘 AI 应用和设备的增加,小型设备和 GPU 上的 GenAI 变得越来越重要。智能城市等应用需要更多的边缘设备,如摄像头和传感器,因此需要在边缘处理更多的数据。为了让最终用户更容易部署具有更高可定制性的工作负载,通常会首选 Ubuntu 容器,因为它们适用于裸机部署且简单易用。NVIDIA AI Workbench 提供完美集成且适用于 GenAI 用例的 Ubuntu 容器选择。

图 3. AI Workbench 开发流程

Ubuntu LTS 可安心使用

使用 Ubuntu,开发人员可以从 Canonical 20 年的长期支持版本历程中受益,获得 5 年安全更新和补丁支持。使用 Ubuntu Pro,企业组织可以将支持和安全维护承诺期限延长至 10 年,使团队卸下安全性和合规性方面的重担,从而专注于构建出色的模型。Canonical 将携手 Ubuntu 为 AI 创新者提供一个随处可用的优化且安全的环境。 

入门简单且免费。

Canonical 开源 AI 解决方案入门

订阅博客文章

订阅您感兴趣的主题

在提交此表格的同时,我确认已阅读和同意的隐私声明隐私政策。

查看更多内容

现代化 Linux 身份管理:让 Ubuntu 从本地认证迈向云端

现代企业在混合环境中运营,本地基础设施与云服务并存,安全威胁也在不断演变。IT 管理员肩负着一项艰难的平衡工作:在维护传统本地工作流程的同时,还需应对不可避免的云原生架构转型。身份已成为新的安全边界,取代了传统的基于网络的防御体系。  在 Canonical,我们开发了一套全面框架,用以提升 Ubuntu 服务器与桌面端部署的身份管理安全性,弥合传统 Active Directory 环境与现代云身份提供商之间的差距。 在这篇博客中,我们将探讨 Canonical 的框架如何通过弥合传统 Active Directory 环境与现代云身份提供商之间的差距,增强认证与访问管理控制的安全性。 基础:本地认证及其局限性 传统上,Linux 认证机制依赖于存储在本地 /etc/p […]

Canonical 宣布将在 Ubuntu 中分发 NVIDIA DOCA-OFED

继此前宣布分发 NVIDIA CUDA 工具包之后,Ubuntu 发行商 Canonical 将把NVIDIA DOCA-OFED网络驱动程序集成至 Ubuntu 并进行分发,进一步加快 NVIDIA 平台的落地应用。 NVIDIA DOCA-OFED 是一套被广泛采用的高性能网络协议栈,常用于大规模 AI 工厂和 HPC 集群。通过开放 RDMA(远程直接内存访问)和 NVIDIA GPUDirect等高级功能,NVIDIA DOCA-OFED 可对 CPU 负载卸载,降低并稳定尾部延迟,同时在负载下保持持续吞吐量。实现超低延迟、高吞吐量的数据传输,这对于训练大语言模型(LLM)和运行复杂分布式仿真至关重要。DOCA-OFED 以 DOCA-Host 网络驱动栈的形式提 […]

使用 MAAS 部署 VMware 虚拟机管理程序

多数现代数据中心本身均为异构架构。VMware 环境常与容器平台、数据库及其他裸机业务负载共存,多年运行于同一套硬件之上。服务器一次性采购,但会随业务需求变化调整承载业务。 然而,ESXi(VMware 虚拟机管理程序)的配置通常由独立流程负责。主机通过 VMware 工具、自定义脚本或专为将部署 ESXi 到机器中开发的自动化程序完成安装。这些工作流单独运行虽行之有效,却未必能与物理基础设施的其他部分实现统一的追踪与管理。 由此导致了脱节:即便归属同一硬件资源池,ESXi 主机的管理方式仍与数据中心其他设备脱离。随着环境规模扩大、架构日趋多元化,这种割裂式管理会形成业务瓶颈。 将 ESXi 纳入统一裸机平台进行统筹管理将是更具扩展性的方案。这使得 ESXi 的配置流程, […]