
AnythingLLM 是一个开源的私有知识库工具,把 PDF、Word、网页等文档建成工作区,用 RAG 让模型基于这些内容回答问题,支持多家模型后端和本地部署,数据不出服务器。MIT 协议。
能干什么
- 工作区隔离:按项目或部门建工作区,文档和对话互相隔离
- 多格式文档:PDF、Word、TXT、网页链接都能导入并自动切片
- 多模型可选:云端 API 和本地 Ollama 都能接,按需切换
- 权限与多用户:支持多用户和角色,管控谁能访问哪个工作区
参数一览
| 部署方式 | Docker 或桌面版 |
| 开发语言 | JavaScript / Node.js |
| 开源协议 | MIT |
| 检索方式 | 向量检索 + 可选重排 |
| 模型支持 | OpenAI、Claude、Ollama 等 |
| 数据位置 | 本地或自有服务器 |
适合哪些人
- 企业要把内部文档做成问答库
- 做客服或内部支持的知识助手
- 在意文档不能上传第三方
公司资料散在网盘和共享盘里,想查一条规定要翻半天。用云端 AI 上传内部文档又担心泄密。
快速开始
- Docker 部署服务
- 选一个模型后端并填好配置
- 建工作区,上传文档等它切片入库
- 在对话里提问,按需调检索条数
问:能用本地模型吗?
答:能,接 Ollama 后整条链路都能离线。
问:文档多大会慢吗?
答:切片和向量化是一次性成本,之后检索很快。
问:中文效果如何?
答:中文文档要配中文嵌入模型,否则检索命中率会低。
问:能对外提供 API 吗?
答:提供开发者 API,可以接到自己的系统里。
最后更新:2026-10-26
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
