使用 Milvus 部署 Dify
Dify 是一个开源平台,旨在通过将 Backend-as-a-Service 与 LLMOps 相结合来简化 AI 应用程序的构建。它支持主流的 LLM,提供直观的提示词编排界面、高质量的 RAG 引擎和灵活的 AI 智能体框架。通过低代码工作流、易于使用的界面和 API,Dify 使开发人员和非技术用户都能专注于创建创新的现实世界 AI 解决方案,而无需处理复杂性。
在本教程中,我们将向您展示如何使用 Milvus 部署 Dify,以实现高效的检索和 RAG 引擎。
克隆代码仓库
将 Dify 源代码克隆到您的本地机器:
git clone https://github.com/langgenius/dify.git
设置环境变量
导航到 Dify 源代码中的 Docker 目录
cd dify/docker
复制环境配置文件
cp .env.example .env
在 .env
文件中更改 VECTOR_STORE
的值:
VECTOR_STORE=milvus
确保 .env
文件中的 Milvus 配置有以下行:
MILVUS_URI=http://host.docker.internal:19530
请注意,通过指定 VECTOR_STORE=milvus
,Dify 将在 docker 中启动一个 Milvus Standalone 服务器。尽管您可以通过 http://localhost:19530
从 Docker 外部访问服务器,但为了让其他 Dify 容器在 Docker 环境内与其通信,它们需要连接到特殊的 DNS 名称 host.docker.internal
。因此我们将 http://host.docker.internal:19530
设置为 MILVUS_URI
。
对于生产部署,您可能希望自定义身份验证。有关如何在 Milvus 中设置令牌或用户名和密码的更多信息,您可以参考身份验证页面。
启动 Docker 容器
根据您系统上的 Docker Compose 版本选择适当的命令来启动容器。您可以使用 $ docker compose version
命令检查版本,并参考 Docker 文档获取更多信息:
如果您有 Docker Compose V2,请使用以下命令:
docker compose up -d
如果您有 Docker Compose V1,请使用以下命令:
docker compose up -d
登录 Dify
打开您的浏览器并转到 Dify 安装页面,您可以在此处设置您的管理员账户:
http://localhost/install
,
然后登录主 Dify 页面进行进一步使用。
有关进一步的使用和指导,请参考 Dify 文档。