Jan:完全离线的本地 AI 聊天应用,把模型装在自己电脑上
Jan
ChatGPT 的桌面开源替代:模型跑在本机,断网可用,数据留在自己的硬盘里
项目速览
项目 内容 仓库 janhq/jan 星标 约 4.4 万(2026 年口径) 平台 macOS / Windows / Linux 形态 桌面 GUI,内置模型下载 后端 本地推理 + 可接远程 API
它想解决什么问题
很多人对云端聊天机器人的顾虑很朴素:聊工作内容、贴客户资料、写没发布的想法,都要经过别人的服务器。但”自己部署一套”又太麻烦。
Jan 想做的就是那个中间态:长得像 ChatGPT 的桌面应用,跑的却是你自己的模型。装完、下模型、开聊,不需要命令行。
核心机制拆解
1. 本地优先。 默认把模型下载到本机并在本机推理,断网照样用;对话历史存在本地目录。
2. 模型市场。 内置可下载的模型列表,按硬件给建议,不用自己去找 GGUF 文件。
3. 可接远程。 需要更强能力时,也能把请求转给 OpenAI 兼容的远程端点,本地与云端混用。
4. 助手与工程化。 支持自定义助手(系统提示词 + 参数)、本地 API 服务,方便把自己的应用接上去。
安装与上手
从官网下载对应平台安装包,首次启动在模型页挑一个(7B 级别对 16G 内存比较友好),下载完即可对话。想要更强的可玩性,可以在设置里打开本地 API 服务,用自己的脚本调用。
点评
亮点是体验完整度:下载、推理、聊天、历史、设置,该有的都有,且全程不联网也能工作。对”想试试本地模型但不想碰终端”的用户,它是最省事的选择之一。
局限:同等硬件下,本地模型能力与云端旗舰差距明显,复杂推理任务会露怯;模型下载动辄数 GB,首次体验不够轻快;桌面端功能迭代快,偶尔会有状态错乱的小 bug;高级玩法(RAG、工具调用)仍不如专门平台成熟。
适合人群:对隐私敏感的职场用户;想给非技术同事一个”公司内可用”的聊天入口的团队;以及本地模型爱好者。
评论