AnythingLLM
新收录本地RAG知识库应用，构建私有AI知识助手，支持文档对话和知识库管理。AnythingLLM是构建私有知识库的理想选择。
核心功能
评分详情
3200 条评价
替代工具
能力拓展
多文档支持
点击了解该能力的详细应用场景
向量数据库
查看该能力在实际使用中的表现
工作区隔离
探索该能力如何提升工作效率
私有部署
了解该能力的最新更新和优化
提示： 大多数AI工具支持API接入，您可以根据需要在第三方应用或自动化工作流中集成使用。 该工具提供免费版本，建议先体验再决定是否付费升级。
更新说明
最新更新
如何使用AnythingLLM
安装AnythingLLM
桌面端下载安装包(Haggmark/Windows/Linux)，或使用Docker部署: docker run -p 3001:3001 mintplexlabs/anything-llm。首次启动配置工作区名称和默认LLM提供商
添加文档知识库
支持PDF、TXT、Markdown、DOCX、CSV、XLSX等格式。点击 Workspace -> Upload 上传文件，或直接拖拽。系统自动进行文档分块(Chunking)和向量化存储
配置Embedding模型和LLM
设置中使用Ollama本地模型(推荐nomic-embed-text做Embedding)或其他API(OpenAI/DeepSeek)。保存后即可在聊天框基于上传的文档进行问答
适用场景
企业知识库问答
上传公司内部文档、合同、规章、产品手册，建立可对话的知识库。员工用自然语言提问即可快速检索答案，无需人工整理FAQ
法律/医疗文档分析
律师上传案例卷宗、医生上传医学文献，用自然语言进行检索和分析。支持多轮追问深挖细节，所有数据保留在本地满足合规要求
个人研究资料管理
研究者上传论文、笔记、网页书签，用RAG方式快速检索和组织研究材料。支持引用原文标注，避免幻觉问题
客服机器人知识源
将产品文档、常见问题、技术规范导入AnythingLLM，对外提供基于准确文档的问答服务，避免通用LLM的幻觉回答
使用技巧
-
向量数据库选择：默认使用LanceDB(内置)，生产环境推荐切换到Pinecone(云端)或Qdrant(自托管)获得更好性能
-
文档分块策略：Settings中调整chunkSize(默认500 tokens)和chunkOverlap。技术文档用小chunk+大小重叠获得更精确检索
-
多工作区隔离：创建不同Workspace隔离不同项目/部门的文档和对话，如Company-Docs、Product-Manuals、Legal-Contracts
-
LLM提供商：Embedding用本地Ollama(nomic-embed-text)省API费用，生成用DeepSeek API(便宜)或本地Llama3