跳到主要内容

安装支持 GPU 的 Milvus 的要求

本页列出了安装支持 GPU 的 Milvus 所需的硬件和软件要求。

计算能力​

您的 GPU 设备的计算能力必须是以下之一：6.0、7.0、7.5、8.0、8.6、9.0。

要检查您的 GPU 设备是否满足要求，请在 NVIDIA 开发者网站上查看您的 GPU 计算能力。

NVIDIA 驱动程序​

您的 GPU 设备的 NVIDIA 驱动程序必须安装在支持的 Linux 发行版之一上，并且已按照本指南安装了 NVIDIA Container Toolkit。

对于 Ubuntu 22.04 用户，您可以使用以下命令安装驱动程序和容器工具包：

$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545

对于其他操作系统的用户，请参考官方安装指南。

您可以通过运行以下命令来检查驱动程序是否已正确安装：

$ modinfo nvidia | grep "^version"
version:        545.29.06

建议使用 545 及以上版本的驱动程序。

软件要求​

建议在 Linux 平台上运行 Kubernetes 集群。

  • kubectl 是 Kubernetes 的命令行工具。使用的 kubectl 版本应该与集群版本相差不超过一个小版本。使用最新版本的 kubectl 有助于避免不可预见的问题。
  • 在本地运行 Kubernetes 集群时需要 minikube。minikube 依赖于 Docker。请确保在使用 Helm 安装 Milvus 之前安装 Docker。更多信息请参见获取 Docker。
操作系统软件说明
Linux 平台
  • Kubernetes 1.16 或更高
  • kubectl
  • Helm 3.0.0 或更高
  • minikube（用于 Milvus 单机版）
  • Docker 19.03 或更高（用于 Milvus 单机版）
更多信息请参见 Helm 文档。

常见问题​

如何在本地启动 K8s 集群用于测试？​

您可以使用 minikube、kind 和 Kubeadm 等工具在本地快速设置 Kubernetes 集群。以下步骤以 minikube 为例。

  1. 下载 minikube

访问入门页面，检查是否满足"What you'll need"部分列出的条件，点击描述您目标平台的按钮，并复制命令以下载和安装二进制文件。

  1. 使用 minikube 启动 K8s 集群
$ minikube start
  1. 检查 K8s 集群状态

您可以使用以下命令检查已安装的 K8s 集群状态。

$ kubectl cluster-info

确保您可以通过 kubectl 访问 K8s 集群。如果您尚未在本地安装 kubectl，请参见在 minikube 中使用 kubectl。

如何启动带有 GPU 工作节点的 K8s 集群？​

如果您更喜欢使用启用 GPU 的工作节点，可以按照以下步骤创建带有 GPU 工作节点的 K8s 集群。我们建议在具有 GPU 工作节点的 Kubernetes 集群上安装 Milvus，并使用已配置的默认存储类。

  1. 准备 GPU 工作节点

要使用启用 GPU 的工作节点，请按照准备 GPU 工作节点中的步骤操作。

  1. 在 K8s 上启用 GPU 支持

按照这些步骤使用 Helm 部署 nvidia-device-plugin。

设置完成后，运行以下命令查看 GPU 资源。将 <gpu-worker-node> 替换为实际的节点名称。

  $ kubectl describe node <gpu-worker-node>

  Capacity:
  ...
  nvidia.com/gpu:     4
  ...
  Allocatable:
  ...
  nvidia.com/gpu:     4
  ...