AnythingLLM 自托管：一键部署
AnythingLLM 是一个用于文档聊天的私有 AI 工作区。Automatio 一键将其部署到带有 HTTPS 的专用服务器上，让您拥有自己的数据和助手。
AnythingLLM
AI & LLM ToolsAnythingLLM 是一个用于文档聊天的私有 AI 工作区。Automatio 一键将其部署到带有 HTTPS 的专用服务器上，让您拥有自己的数据和助手。
部署 AnythingLLM 你会得到什么
我们为它租用的服务器、费用，以及安装时会问你什么。
- 服务器
- CX23 · 2 vCPU · 4 GB RAM
- 起价
- $9/月
- 安装
- 无需配置
每次部署都包含
- 独立服务器，一台一应用
- 自动签发 HTTPS 证书
- 免费子域名，可选自定义域名
- 重启、扩容、快照与恢复
一键部署 AnythingLLM
在你自己的服务器上，数据归你。无需终端、无需 Docker 命令、无需配置证书。
- 1
选择规格
从满足该应用的最小服务器开始，之后可直接扩容，无需重装。
- 2
点击部署
我们租下服务器，用 Docker 安装应用，并把子域名指向它。
- 3
看着它启动
开通全自动进行，需要几分钟。HTTPS 证书签发后应用即可访问。
AnythingLLM能力
探索Automatio能为此用例做什么
隔离的工作区
AnythingLLM 将您的项目组织到不同的容器中，每个容器拥有各自的文档集和设置。这确保了客户数据、内部 wiki 和私有副项目得到严格隔离。您可以在工作区级别管理访问权限，非常适合处理多个项目的团队。
- 1每个项目独立的向量存储
- 2按工作区配置 LLM
- 3基于角色的访问控制 (RBAC)
- 4每个工作区自定义系统 prompt
- 5隔离的聊天历史管理
AnythingLLM能力
- 隔离的工作区
AnythingLLM 将您的项目组织到不同的容器中，每个容器拥有各自的文档集和设置。这确保了客户数据、内部 wiki 和私有副项目得到严格隔离。您可以在工作区级别管理访问权限，非常适合处理多个项目的团队。
- 每个项目独立的向量存储
- 按工作区配置 LLM
- 基于角色的访问控制 (RBAC)
- 每个工作区自定义系统 prompt
- 隔离的聊天历史管理
- 通用文档支持
该平台自动处理 RAG（检索增强生成）中复杂的部分，例如分块、embedding 和索引。它支持广泛的文件类型和外部数据源来构建您的知识库。内置引用管理，因此 AI 始终会指向其源文件。
- 支持 PDF、TXT、DOCX 和 PPTX
- GitHub 仓库同步
- 实时网站抓取与索引
- 自动智能文本分块 (chunking)
- 持久的文档引用
- 多提供商 LLM 支持
您绝不会被锁定在单一的 AI 模型或供应商中。AnythingLLM 通过 Ollama 或 LM Studio 连接到本地模型，以及 OpenAI 或 Anthropic 等云端提供商。您甚至可以在对话中途切换模型提供商，而无需重新索引您的文件。
- 原生支持 Ollama 和 LM Studio
- 支持 OpenAI 和 Claude 的云 API
- 可切换的 embedding 模型提供商
- 内置 LanceDB 向量存储
- 支持外部 Pinecone 或 Chroma 数据库
- 可视化 AI agents
除了简单的聊天之外，内置的 agent 构建器还允许您连接专门的 agents 来执行真实任务。这些 agents 可以浏览网页、搜索新闻源、执行 SQL 查询或与您的文件系统交互。您无需编写复杂的代码即可直观地构建这些自主工作流。
- 无代码可视化 agent 工作流构建器
- 完全兼容 MCP server
- 内置网页搜索和抓取技能
- 直接与 SQL 数据库交互
- 自定义开发者工具集成
content.selfHosted.whyTitle
content.selfHosted.tradeoffsTitle
comparisonTable.self-hosted.title
comparisonTable.self-hosted.description
| 方面 | comparisonTable.self-hosted.managedSaas | comparisonTable.self-hosted.diy | comparisonTable.self-hosted.automatio |
|---|---|---|---|
| 设置时间 | 几秒钟 | 30多分钟 | 几分钟 |
| 数据隐私 | 共享云 | 私有 | 私有（专用 VPS） |
| 维护 | 零 | 高（手动） | 零（自动更新） |
| HTTPS/SSL | 已包含 | 手动设置 | 自动 Let's Encrypt |
| 用户限制 | 按席位定价 | 无限制 | 无限制 |
设置时间
数据隐私
维护
HTTPS/SSL
用户限制
这适合谁
真正在自己服务器上运行 AnythingLLM 的人，以及这样做带来的改变。
利用夜间和周末进行开发的独立创始人
需要与代码库和功能文档进行对话，而不想支付多个 SaaS 席位费用。
自己运行可以创建无限的工作区并索引 GitHub 仓库，无需承担按席位收费的经常性成本。
- 索引整个 GitHub 仓库
- 从源代码草拟文档
- 通过 web agents 研究竞争对手
处理大量数据的研究分析师
处理大量的 PDF 报告，厌倦了像 ChatPDF 等工具的按次计费模式。
自托管消除了文档数量限制，只需支付固定的基础设施费用即可分析数千页文档。
- 批量上传 100 多篇研究论文
- 提取带引用的特定指标
- 跨多个文件比较研究发现
小型机构负责人
必须向客户证明其敏感数据保留在私有、隔离的环境中。
为客户数据提供专用的服务器实例可以建立信任并简化安全合规性。
- 为每个客户创建独立的工作区
- 邀请客户利益相关者查看日志
- 在仪表盘上嵌入私有聊天组件
家庭实验室 AI 极客
想要一个生产就绪的 RAG 栈来进行实验，而无需构建自定义 UI 和后端。
运行 Docker 版本为您提供完整的 API 和 UI，以并排测试不同的模型组合。
- 并排测试不同的 LLM 提供商
- 连接自定义 MCP servers
- 构建自动化研究工作流
什么是这个提示词？
了解此提示词的功能以及它如何帮助您获得更好的效果。
您数据的操作系统
AnythingLLM 是 Mintplex Labs 的产品。对于希望在没有基础设施烦恼的情况下使用 RAG（检索增强生成）的用户来说，它充当全栈解决方案。它不仅仅是大语言模型的用户界面，还是一个工作区管理器，负责从文件摄取到向量存储和 agent 执行的整个管线。该项目由专业团队构建，已经成熟为一个生产就绪的平台，可作为基于云的工具的私有替代方案。它提供了一种将扁平文件转化为可搜索的、对话式智能的方法，同时对底层基础设施保持完全控制。
宏观工作原理
该软件通过将项目隔离到工作区中来工作。每个工作区充当特定文档的容器、专用的向量数据库以及自身的系统指令。当您上传文件（例如 PDF、DOCX 甚至 GitHub 仓库的链接）时，该应用会承担繁重的工作，将文本切分为易于理解的片段并将其转换为向量。这使 AI 能够阅读您的文档并提供带有源文件直接引用的回答。此过程显著减少了幻觉风险，因为模型被迫参考您提供的特定文本片段。
使用 AnythingLLM 的第一个小时
使用该应用的第一小时通常涉及连接模型提供商和创建您的第一个工作区。然后，您可以拖入一些文档或将应用指向网站 URL。在几分钟内，您可以开始针对这些特定的来源提出问题。与其他纯粹专注于聊天的工具不同，AnythingLLM 包含一个可视化的 agent 构建器。这使您可以创建自主工作流，例如监控特定数据源并每天为您总结的 agent。该界面对于非技术用户来说足够直观，而后端则为希望将 RAG 集成到其自研自定义应用中的开发者提供了完整的 REST API。
它在生态系统中的定位
AnythingLLM 以其灵活性脱颖而出。它不在乎您使用的是运行在服务器上的本地模型，还是来自 Anthropic 等提供商的大型云模型。它将这些提供商视为可互换的后端，允许您在工作区级别针对成本或性能进行优化。它有效地用单一的内聚操作层替换了由向量数据库、脚本运行器和自定义 UI 组成的零散技术栈。它是拥有原始文件与真正了解其中内容的智能助手之间的桥梁。通过在您自己的 VPS 上运行它，您可以确保此智能中心保持私密，并且仅对您授权的团队成员开放。
人们对 AnythingLLM 的评价
看看社区对 AnythingLLM 的看法
“AnythingLLM 是一个私有的 AI 工作区，可创建私有的 AI 知识中心。100% 开源。它们全部免费，非常值得加入书签。”
“答案是肯定的，完全免费。在您自己的机器上。没有 API 账单。没有数据泄露，只需 10 分钟。”
“我发现 AnythingLLM 在生产环境可靠性和最佳引用方面比 Open-WebUI 好无数倍。”
“依然很喜欢它，但对我的口味来说资源消耗太大了。看到最近的集成后切换到了 Ollama，不过 AnythingLLM 处理文档摄取的效果更好。”
“每个 AI 开发者都应该收藏的 Top 30 GitHub 仓库……构建一个 AI 第二大脑。”
“如果您能在 10 分钟内自托管一个生产就绪的 LLM 会怎么样？然后构建一个 AI 第二大脑。”
关于 AnythingLLM 的视频
观看关于 AnythingLLM 的教程、评测和讨论
“Anything LLM 将这些折叠成一个工作区。您可以获得拖放式 rag、可视化无代码 agent 构建器，以及带有嵌入组件的完整开发者 API。”
“工作区是隔离的项目，这意味着客户工作与您的副项目保持分离，进而与您的内部 wiki 保持分离。”
“RAG 有时需要文档置顶以实现完美召回。大型集合，比如我说的 500 个或更多文档，将会消耗大量 RAM。”
AnythingLLM专业提示
专家提示助您充分利用AnythingLLM。
选择合适的 embedder
默认的 embedder 运行在服务器的 CPU 上。如果要为数千页文档建立索引，请连接 OpenAI 等云端 embedding 提供商，以加速初始处理。
使用工作区隔离
避免将所有文档塞进一个巨大的工作区。在针对特定项目较小、高度相关的文档集中进行检索时，准确率会更高。
监控 RAM
如果索引超过 500 个文档的大型集合，请检查资源使用情况。从基础层级升级到 CX33 服务器通常可以解决索引性能瓶颈。
用户评价
用户怎么说
加入数千名已改变工作流程的满意用户
Jonathan Kogan
Co-Founder/CEO, rpatools.io
Automatio is one of the most used for RPA Tools both internally and externally. It saves us countless hours of work and we realized this could do the same for other startups and so we choose Automatio for most of our automation needs.
Mohammed Ibrahim
CEO, qannas.pro
I have used many tools over the past 5 years, Automatio is the Jack of All trades.. !! it could be your scraping bot in the morning and then it becomes your VA by the noon and in the evening it does your automations.. its amazing!
Ben Bressington
CTO, AiChatSolutions
Automatio is fantastic and simple to use to extract data from any website. This allowed me to replace a developer and do tasks myself as they only take a few minutes to setup and forget about it. Automatio is a game changer!
Sarah Chen
Head of Growth, ScaleUp Labs
We've tried dozens of automation tools, but Automatio stands out for its flexibility and ease of use. Our team productivity increased by 40% within the first month of adoption.
David Park
Founder, DataDriven.io
The AI-powered features in Automatio are incredible. It understands context and adapts to changes in websites automatically. No more broken scrapers!
Emily Rodriguez
Marketing Director, GrowthMetrics
Automatio transformed our lead generation process. What used to take our team days now happens automatically in minutes. The ROI is incredible.
Jonathan Kogan
Co-Founder/CEO, rpatools.io
Automatio is one of the most used for RPA Tools both internally and externally. It saves us countless hours of work and we realized this could do the same for other startups and so we choose Automatio for most of our automation needs.
Mohammed Ibrahim
CEO, qannas.pro
I have used many tools over the past 5 years, Automatio is the Jack of All trades.. !! it could be your scraping bot in the morning and then it becomes your VA by the noon and in the evening it does your automations.. its amazing!
Ben Bressington
CTO, AiChatSolutions
Automatio is fantastic and simple to use to extract data from any website. This allowed me to replace a developer and do tasks myself as they only take a few minutes to setup and forget about it. Automatio is a game changer!
Sarah Chen
Head of Growth, ScaleUp Labs
We've tried dozens of automation tools, but Automatio stands out for its flexibility and ease of use. Our team productivity increased by 40% within the first month of adoption.
David Park
Founder, DataDriven.io
The AI-powered features in Automatio are incredible. It understands context and adapts to changes in websites automatically. No more broken scrapers!
Emily Rodriguez
Marketing Director, GrowthMetrics
Automatio transformed our lead generation process. What used to take our team days now happens automatically in minutes. The ROI is incredible.
相关 Self-Hosted Apps
关于AnythingLLM的常见问题
查找关于AnythingLLM的常见问题答案