使用 Milvus 部署 Dify
Dify是一个开源平台,旨在通过将 Backend-as-a-Service 与 LLMOps 相结合来简化人工智能应用程序的构建。它支持主流 LLMs,提供直观的提示协调界面、高质量的 RAG 引擎和灵活的 AI Agents 框架。凭借低代码工作流、易用的界面和 API,Dify 使开发人员和非技术用户都能专注于创建创新的、真实世界的人工智能解决方案,而无需处理复杂的问题。
在本教程中,我们将向您展示如何利用 Milvus 部署 Dify,实现高效检索和 RAG 引擎。
克隆资源库
将 Dify 源代码克隆到本地计算机:
git clone https://github.com/langgenius/dify.git
设置环境变量
导航到 Dify 源代码中的 Docker 目录
cd dify/docker
复制环境配置文件
cp .env.example .env
更改.env 文件中的VECTOR_STORE 值
VECTOR_STORE=milvus
确保.env 文件中的 Milvus 配置有以下一行:
MILVUS_URI=http://host.docker.internal:19530
注意,通过指定VECTOR_STORE=milvus ,Dify 会在 docker 中调出 Milvus Standalone 服务器。即使可以通过http://localhost:19530 从 Docker 外部访问服务器,其他 Dify 容器要想在 Docker 环境内与之对话,也需要连接到特殊的 DNS 名称host.docker.internal 。因此,我们将http://host.docker.internal:19530 设置为MILVUS_URI 。
对于生产部署,您可能需要自定义身份验证。有关如何在 Milvus 中设置令牌或用户名和密码的更多信息,请参阅身份验证页面。
启动 Docker 容器
根据系统中的 Docker Compose 版本,选择适当的命令来启动容器。你可以使用$ docker compose version 命令检查版本,更多信息请参阅 Docker 文档:
如果您使用的是 Docker Compose V2,请使用以下命令:
docker compose up -d
如果您使用的是 Docker Compose V1,请使用以下命令:
docker compose up -d
登录 Dify
打开浏览器,进入 Dify 安装页面,在这里设置管理员账户:http://localhost/install ,然后登录 Dify 主页面,进一步使用。
更多使用方法和指导,请参阅Dify 文档。