Jan

ChatGPT 的桌面开源替代:模型跑在本机,断网可用,数据留在自己的硬盘里


项目速览

项目 内容
仓库 janhq/jan
星标 约 4.4 万(2026 年口径)
平台 macOS / Windows / Linux
形态 桌面 GUI,内置模型下载
后端 本地推理 + 可接远程 API

它想解决什么问题

很多人对云端聊天机器人的顾虑很朴素:聊工作内容、贴客户资料、写没发布的想法,都要经过别人的服务器。但”自己部署一套”又太麻烦。

Jan 想做的就是那个中间态:长得像 ChatGPT 的桌面应用,跑的却是你自己的模型。装完、下模型、开聊,不需要命令行。

核心机制拆解

1. 本地优先。 默认把模型下载到本机并在本机推理,断网照样用;对话历史存在本地目录。

2. 模型市场。 内置可下载的模型列表,按硬件给建议,不用自己去找 GGUF 文件。

3. 可接远程。 需要更强能力时,也能把请求转给 OpenAI 兼容的远程端点,本地与云端混用。

4. 助手与工程化。 支持自定义助手(系统提示词 + 参数)、本地 API 服务,方便把自己的应用接上去。

安装与上手

从官网下载对应平台安装包,首次启动在模型页挑一个(7B 级别对 16G 内存比较友好),下载完即可对话。想要更强的可玩性,可以在设置里打开本地 API 服务,用自己的脚本调用。

点评

亮点是体验完整度:下载、推理、聊天、历史、设置,该有的都有,且全程不联网也能工作。对”想试试本地模型但不想碰终端”的用户,它是最省事的选择之一。

局限:同等硬件下,本地模型能力与云端旗舰差距明显,复杂推理任务会露怯;模型下载动辄数 GB,首次体验不够轻快;桌面端功能迭代快,偶尔会有状态错乱的小 bug;高级玩法(RAG、工具调用)仍不如专门平台成熟。

适合人群:对隐私敏感的职场用户;想给非技术同事一个”公司内可用”的聊天入口的团队;以及本地模型爱好者。