tutorial

如何创建DigitalOcean GPU Droplet 云服务器

DigitalOcean Droplets 是基于 Linux 的虚拟机(VM),运行在虚拟化硬件之上。每个您 […]

如何创建DigitalOcean GPU Droplet 云服务器

DigitalOcean Droplets 是基于 Linux 的虚拟机(VM),运行在虚拟化硬件之上。每个您创建的 Droplet 都是一个新的服务器,可以单独使用,也可以作为更大、基于云的基础设施的一部分。

GPU Droplets 配备了 NVIDIA H100 GPU,提供单个 GPU 或 8 个 GPU 的配置。它们还配备了两种类型的存储:用于持久数据的引导盘和用于非持久数据的临时盘。了解更多关于 GPU Droplet 的计划和特性

我们为 GPU Droplets 提供了一个预装了 NVIDIA 驱动程序和软件的 AI/ML 就绪镜像,以及由 Hugging Face 提供支持的一键部署模型。您也可以使用现有的 Droplet 镜像创建 GPU Droplets,但需要手动安装驱动程序和其他软件以使用 GPU。

注意
如果您是 DigitalOcean 的新客户,我们在您创建 GPU Droplets 时可能会在月度账单周期中途向您的账户收取费用,但这不会增加您的总成本。这是一种预防措施,旨在防止平台资源被滥用。

在控制面板中创建 GPU Droplet

登录控制面板后,点击右上角的创建按钮打开创建菜单,然后点击 GPU Droplets 转到 GPU Droplet 创建页面。

此页面包含与常规 Droplet 创建页面相似的部分,例如选择数据中心区域和 SSH 密钥,还有一些不同的选项:

  • 选择镜像。我们为 GPU Droplets 提供了一个基于 Ubuntu 22.04 的 AI/ML Ready 镜像,预装了 NVIDIA 驱动程序和软件。您也可以使用一键模型,这些模型允许您直接将流行的第三方模型部署到 GPU Droplets 上。
  • GPU Droplets 也兼容现有的 Droplet 镜像,但您需要手动安装 GPU 驱动程序
  • 选择 GPU 计划。我们提供单个 GPU 计划和 8 个 GPU 计划。GPU Droplets 还配备了一个临时盘,这是一个用于暂存目的的非持久性磁盘。

如果您希望启用巨型帧(jumbo frames),可以在创建 Droplet 时通过用户数据(user data)来实现。

完成选项选择后,点击创建 GPU Droplet。GPU Droplets 的初始化时间通常比非 GPU Droplets 更长,特别是对于 8 卡 GPU 的 Droplets(比如 H100x8),因此请留出足够的时间让这一过程完成。

使用 CLI 创建 GPU Droplet

使用 CLI 创建 GPU Droplet 时,您需要为 --region--size--image 参数提供值,这些参数分别指定了所需的数据中心、Droplet 计划和新 Droplet 的基础镜像。

单个 GPU Droplet 的大小标识符为 gpu-h100x1-80gb。8 个 GPU Droplet 的大小标识符为 gpu-h100x8-640gb。AI/ML 就绪镜像的标识符对于单个 GPU Droplets 是 gpu-h100x1-base,对于 8 个 GPU Droplets 是 gpu-h100x8-base

使用 API 创建 GPU Droplet

使用 API 创建 GPU Droplet 时,您需要为 regionsizeimage 参数提供值,这些参数分别指定了所需的数据中心、Droplet 计划和新 Droplet 的基础镜像。

单个 GPU Droplet 的大小标识符为 gpu-h100x1-80gb。8 个 GPU Droplet 的大小标识符为 gpu-h100x8-640gb。AI/ML 就绪镜像的标识符对于单个 GPU Droplets 是 gpu-h100x1-base,对于 8 个 GPU Droplets 是 gpu-h100x8-base