AnythingLLM

AnythingLLM 是一个开源的私有知识库工具,把 PDF、Word、网页等文档建成工作区,用 RAG 让模型基于这些内容回答问题,支持多家模型后端和本地部署,数据不出服务器。MIT 协议。

能干什么

  • 工作区隔离:按项目或部门建工作区,文档和对话互相隔离
  • 多格式文档:PDF、Word、TXT、网页链接都能导入并自动切片
  • 多模型可选:云端 API 和本地 Ollama 都能接,按需切换
  • 权限与多用户:支持多用户和角色,管控谁能访问哪个工作区

参数一览

部署方式 Docker 或桌面版
开发语言 JavaScript / Node.js
开源协议 MIT
检索方式 向量检索 + 可选重排
模型支持 OpenAI、Claude、Ollama 等
数据位置 本地或自有服务器

适合哪些人

  • 企业要把内部文档做成问答库
  • 做客服或内部支持的知识助手
  • 在意文档不能上传第三方

公司资料散在网盘和共享盘里,想查一条规定要翻半天。用云端 AI 上传内部文档又担心泄密。

快速开始

  1. Docker 部署服务
  2. 选一个模型后端并填好配置
  3. 建工作区,上传文档等它切片入库
  4. 在对话里提问,按需调检索条数

问:能用本地模型吗?

答:能,接 Ollama 后整条链路都能离线。

问:文档多大会慢吗?

答:切片和向量化是一次性成本,之后检索很快。

问:中文效果如何?

答:中文文档要配中文嵌入模型,否则检索命中率会低。

问:能对外提供 API 吗?

答:提供开发者 API,可以接到自己的系统里。

最后更新:2026-10-26

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。