跳到主要内容

使用 Milvus 部署 Dify

Dify 是一个开源平台,旨在通过将 Backend-as-a-Service 与 LLMOps 相结合来简化 AI 应用程序的构建。它支持主流的 LLM,提供直观的提示词编排界面、高质量的 RAG 引擎和灵活的 AI 智能体框架。通过低代码工作流、易于使用的界面和 API,Dify 使开发人员和非技术用户都能专注于创建创新的现实世界 AI 解决方案,而无需处理复杂性。

在本教程中,我们将向您展示如何使用 Milvus 部署 Dify,以实现高效的检索和 RAG 引擎。

克隆代码仓库

将 Dify 源代码克隆到您的本地机器:

git clone https://github.com/langgenius/dify.git

设置环境变量

导航到 Dify 源代码中的 Docker 目录

cd dify/docker

复制环境配置文件

cp .env.example .env

.env 文件中更改 VECTOR_STORE 的值:

VECTOR_STORE=milvus

确保 .env 文件中的 Milvus 配置有以下行:

MILVUS_URI=http://host.docker.internal:19530

请注意,通过指定 VECTOR_STORE=milvus,Dify 将在 docker 中启动一个 Milvus Standalone 服务器。尽管您可以通过 http://localhost:19530 从 Docker 外部访问服务器,但为了让其他 Dify 容器在 Docker 环境内与其通信,它们需要连接到特殊的 DNS 名称 host.docker.internal。因此我们将 http://host.docker.internal:19530 设置为 MILVUS_URI

对于生产部署,您可能希望自定义身份验证。有关如何在 Milvus 中设置令牌或用户名和密码的更多信息,您可以参考身份验证页面

启动 Docker 容器

根据您系统上的 Docker Compose 版本选择适当的命令来启动容器。您可以使用 $ docker compose version 命令检查版本,并参考 Docker 文档获取更多信息:

如果您有 Docker Compose V2,请使用以下命令:

docker compose up -d

如果您有 Docker Compose V1,请使用以下命令:

docker compose up -d

登录 Dify

打开您的浏览器并转到 Dify 安装页面,您可以在此处设置您的管理员账户: http://localhost/install, 然后登录主 Dify 页面进行进一步使用。

有关进一步的使用和指导,请参考 Dify 文档