AnythingLLM：你一直在寻找的全能AI应用。
与你的文档对话，使用AI智能体，高度可配置，多用户支持，无需繁琐设置。
👉 AnythingLLM 桌面版（Mac、Windows & Linux）！ 立即下载
一个全栈应用，可以让你将任何文档、资源或内容转化为LLM可用于对话的上下文参考。你可以自由选择要使用的LLM或向量数据库，并支持多用户管理及权限分配。
观看演示！
产品概述
AnythingLLM 是一个全栈应用，你可以使用商用现成LLM或流行的开源LLM和向量数据库解决方案，构建一个没有妥协的私有ChatGPT。你既可以在本地运行，也可以远程托管，并能智能地与任何你提供的文档进行对话。
AnythingLLM 会将你的文档划分为称为 工作区 的对象。工作区的功能类似于线程，但增加了文档的容器化。不同工作区之间可以共享文档，但不会互相交流，因此你可以保持每个工作区的上下文干净独立。
AnythingLLM 的酷炫功能
- 🆕 完全兼容MCP
- 🆕 零代码AI智能体构建器
- 🖼️ 多模态支持（闭源与开源LLM均可！）
- 自定义AI智能体
- 👤 多用户实例支持及权限分配 _仅限Docker版本_
- 🦾 工作区内置Agent（网页浏览等）
- 💬 你网站专属的自定义可嵌入聊天组件 _仅限Docker版本_
- 📖 支持多种文档类型（PDF、TXT、DOCX等）
- 简洁的聊天界面，支持拖拽上传和明确引用。
- 100% 云端部署就绪。
- 支持所有主流闭源与开源LLM服务商。
- 内置成本与时间优化措施，处理超大文档更高效。
- 完整开发者API，便于自定义集成！
- 还有更多……安装体验吧！
支持的LLM、嵌入模型、语音模型和向量数据库
大语言模型（LLM）：
- 任何开源 llama.cpp 兼容模型
- OpenAI
- OpenAI（通用）
- Azure OpenAI
- AWS Bedrock
- Anthropic
- NVIDIA NIM（聊天模型）
- Google Gemini Pro
- Hugging Face（聊天模型）
- Ollama（聊天模型）
- LM Studio（全部模型）
- LocalAI（全部模型）
- Together AI（聊天模型）
- Fireworks AI（聊天模型）
- Perplexity（聊天模型）
- OpenRouter（聊天模型）
- DeepSeek（聊天模型）
- Mistral
- Groq
- Cohere
- KoboldCPP
- LiteLLM
- Text Generation Web UI
- Apipie
- xAI
- Novita AI（聊天模型）
- PPIO
- AnythingLLM 内置（默认）
- OpenAI
- 浏览器原生内置（默认）
- PiperTTSLocal - 浏览器端运行
- OpenAI TTS
- ElevenLabs
- 任何OpenAI兼容TTS服务。
- 浏览器原生内置（默认）
技术概览
本monorepo包含六个主要部分：
frontend：viteJS + React 前端，可便捷创建和管理 LLM 可用的全部内容。server：NodeJS express 服务端，处理所有交互并负责向量数据库和LLM的管理。collector：NodeJS express 服务，用于处理和解析UI上传的文档。docker：Docker 指令与构建流程，以及源码构建信息。embed：用于生成及创建网页嵌入组件的子模块。browser-extension：用于Chrome浏览器扩展的子模块。
🛳 自建部署
Mintplex Labs 及社区维护了多种部署方式、脚本和模板，你可以用来在本地运行 AnythingLLM。请参考下表，了解如何在你偏好的环境下部署或自动部署。 | Docker | AWS | GCP | Digital Ocean | Render.com | |----------------------------------------|----|-----|---------------|------------| | [![Deploy on Docker][docker-btn]][docker-deploy] | [![Deploy on AWS][aws-btn]][aws-deploy] | [![Deploy on GCP][gcp-btn]][gcp-deploy] | [![Deploy on DigitalOcean][do-btn]][do-deploy] | [![Deploy on Render.com][render-btn]][render-deploy] |
| Railway | RepoCloud | Elestio | | --- | --- | --- | | [![Deploy on Railway][railway-btn]][railway-deploy] | [![Deploy on RepoCloud][repocloud-btn]][repocloud-deploy] | [![Deploy on Elestio][elestio-btn]][elestio-deploy] |
或无需 Docker 搭建生产环境 AnythingLLM 实例 →
开发环境搭建方法
yarn setup填写各应用部分所需的.env文件（在仓库根目录执行）。- 填写完后再继续。确保已填写
server/.env.development，否则应用无法正常运行。 yarn dev:server本地启动服务端（在仓库根目录执行）。yarn dev:frontend本地启动前端（在仓库根目录执行）。yarn dev:collector启动文档采集器（在仓库根目录执行）。
外部应用 & 集成
_这些应用非 Mintplex Labs 官方维护，但兼容 AnythingLLM。此处列出不代表官方背书。_
- Midori AI 子系统管理器 - 采用 Docker 容器技术，简化高效地部署AI系统。
- Coolify - 一键部署 AnythingLLM。
- GPTLocalhost for Microsoft Word - 本地 Word 插件，让你在 Microsoft Word 中使用 AnythingLLM。
遥测与隐私
AnythingLLM 由 Mintplex Labs Inc 开发，包含收集匿名使用信息的遥测功能。
关于 AnythingLLM 遥测与隐私的更多信息
为什么？
我们使用这些信息来帮助了解 AnythingLLM 的使用方式，便于确定新功能和修复优先级，并协助提升 AnythingLLM 的性能与稳定性。
如何选择退出
在你的服务器或 Docker 的 .env 设置中将 DISABLE_TELEMETRY 设置为 "true" 以选择不参与遥测。你也可以在应用内通过侧边栏 > 隐私 并禁用遥测来实现。
我们会明确追踪哪些内容？
我们只会追踪有助于产品和路线图决策的使用细节，具体包括：
- 你的安装类型（Docker 或 桌面版）
- 何时添加或移除文档。不会获取文档的_任何信息_，只记录事件发生。这让我们了解功能使用情况。
- 所使用的向量数据库类型。这有助于我们在该服务商有更新时优先做出调整。
- 正在使用的 LLM 服务商类型 & 模型标签。这有助于我们在该服务商或模型，或其组合有更新时优先适配。例如：推理模型 vs 常规模型、多模态模型等。
- 聊天被发送的时间。这是最常见的“事件”，可让我们了解所有安装的日常活跃情况。同样，仅发送事件本身——我们无法获取聊天的性质或内容。
Telemetry.sendTelemetry 的位置来验证上述说明。此外，这些事件还会写入输出日志，因此你也可以看到具体发送的数据（如果启用）。不会收集 IP 或任何其他可识别信息。遥测服务商为 PostHog——一个开源的遥测收集服务。我们非常重视隐私，并希望你理解，我们想要了解工具的使用方式，而不是用烦人的弹窗调查，以便打造值得使用的产品。匿名数据_绝不会_与第三方共享。
👋 贡献指南
- 创建 issue
- 创建分支并以
- - 获得 core-team 的 LGTM
💖 赞助商
高级赞助商
所有赞助者
🌟 贡献者
🔗 更多产品
- [VectorAdmin][vector-admin]： 一体化 GUI 和工具套件，便于管理向量数据库。
- [OpenAI Assistant Swarm][assistant-swarm]： 将你所有的 OpenAI 助手整合为单一智能体统一指挥的“助手军团”。
[![][back-to-top]](#readme-top)
版权所有 © 2025 [Mintplex Labs][profile-link]。
本项目采用 MIT 许可证。
[back-to-top]: https://img.shields.io/badge/-BACK_TO_TOP-222628?style=flat-square [profile-link]: https://github.com/mintplex-labs [vector-admin]: https://github.com/mintplex-labs/vector-admin [assistant-swarm]: https://github.com/Mintplex-Labs/openai-assistant-swarm [docker-btn]: ./images/deployBtns/docker.png [docker-deploy]: ./docker/HOW_TO_USE_DOCKER.md [aws-btn]: ./images/deployBtns/aws.png [aws-deploy]: ./cloud-deployments/aws/cloudformation/DEPLOY.md [gcp-btn]: https://deploy.cloud.run/button.svg [gcp-deploy]: ./cloud-deployments/gcp/deployment/DEPLOY.md [do-btn]: https://www.deploytodo.com/do-btn-blue.svg [do-deploy]: ./cloud-deployments/digitalocean/terraform/DEPLOY.md [render-btn]: https://render.com/images/deploy-to-render-button.svg [render-deploy]: https://render.com/deploy?repo=https://github.com/Mintplex-Labs/anything-llm&branch=render [render-btn]: https://render.com/images/deploy-to-render-button.svg [render-deploy]: https://render.com/deploy?repo=https://github.com/Mintplex-Labs/anything-llm&branch=render [railway-btn]: https://railway.app/button.svg [railway-deploy]: https://railway.app/template/HNSCS1?referralCode=WFgJkn [repocloud-btn]: https://d16t0pc4846x52.cloudfront.net/deploylobe.svg [repocloud-deploy]: https://repocloud.io/details/?app_id=276 [elestio-btn]: https://elest.io/images/logos/deploy-to-elestio-btn.png [elestio-deploy]: https://elest.io/open-source/anythingllm --- Tranlated By Open Ai Tx | Last indexed: 2025-06-09 ---