敢用 AI:企业 AI 本地化部署培训六个,企业自建的底座
第一章 · 当下AI市场分析

常驻 agent 与运行框架

这一类和编码 agent 不是一回事:它们不是帮你写代码的,是持续在那儿干活的,或者是让你自己搭 agent 的底座。

本页结论:企业自建智能体的底座在这一类 —— 榜首 Hermes 与 DSH 都为本地常驻而设计。全课值得花最多时间的一页。
第一章 · 当下AI市场分析

一页看全:六个产品

产品榜位机房一句话
Hermes Agent可进机房用量第一的常驻 agent,为本地运行优化
OpenClaw可进机房从聊天入口接管日常事务
DeepSeek Harness可进机房「一切皆插件」的自建底座
Open WebUI可进机房自托管的模型聊天界面平台
Portkey AI视情况网关层:收口、留痕、限流
Nous Research API视情况模型供给侧,随 Hermes 生态看
第一章 · 当下AI市场分析

逐个看:为常驻而生的三个

Hermes Agent① · 1.54T可进机房

是什么 开源、会自我改进的常驻 agent:从经验里生成技能并在使用中打磨,能检索自己过去的对话,跨会话累积理解。接入 Telegram、Discord、Slack、WhatsApp、Signal、邮件、命令行 —— 一个 agent、一份记忆、多个入口。

谁做的 Nous Research,开源自托管,2026-02 上线。

能不能进机房 可以,而且是为此设计的。 官方明确面向常驻本地运行做了优化(NVIDIA RTX / RTX PRO 工作站 / DGX Spark),也能跑在 5 美元的 VPS 上。有 macOS 和 Windows 桌面版。

什么场景适合 想要一个 7×24 在内网跑、带记忆、多入口的助理。用量第一 —— 但第二名 Claude Code 本期已追至 1.5 倍差距。

DeepSeek Harness(DSH)⑨ · 120B可进机房

是什么 DeepSeek 官方的 agent harness,架构是「一切皆插件」 —— 模型、工具、技能、会话、沙箱、存储、循环、调度、界面,全部可替换重组。

谁做的 DeepSeek,开源 MIT,2026-08 发布开发者预览。

能不能进机房 可以。 默认就在本地起 Web UI(127.0.0.1:3080)。

什么场景适合 想自己搭企业智能体底座、而不是买一个成品。插件化意味着模型、沙箱、存储都能换成内网的那一套。

注意两点:一是开发者预览,API 与插件契约还可能变;二是它没有出现在编码分类榜里 —— 因为它是通用 agent 框架,不是编码工具。

OpenClaw⑦ · 173B可进机房

是什么 开源 agent,连到即时通讯应用并代为执行动作

谁做的 创始人 Peter Steinberger。2026-02 加入 OpenAI,项目转由 OpenAI 内设的基金会承载,官方表态仍按开源方式运作。三个月内拿到近 20 万 GitHub star。

能不能进机房 开源可自托管。

什么场景适合 想让 agent 从聊天入口接管日常事务。

治理主体刚刚变过。开源承诺目前有效,但选型时要把「项目归属变更」当成一项风险记下来。

第一章 · 当下AI市场分析

逐个看:配套层的三个

Open WebUI⑩ · 104B可进机房

是什么 自托管的大模型聊天界面平台:把任意 OpenAI 兼容端点包成带用户管理与权限的网页聊天。它不是 agent,是给内网模型配的「前台」。

谁做的 开源项目(许可含品牌保留条款,商用集成前读一遍)。

能不能进机房 可以,它就是为自托管而生的。

什么场景适合 想最快给内网模型一个能给全员用的聊天入口。

上一期还在第 35(10.8B),本期冲到第 10 —— 自托管平台的需求涨得比谁都快,本地化是主赛道的又一证据。

Portkey AI⑰ · 37.4B视情况

是什么 AI 应用的控制面:网关、路由、观测。它本身不是 agent,是管 agent 和模型调用的那一层。

谁做的 Portkey。

能不能进机房 作为网关,它恰恰是把模型调用收口、留痕、限流的地方 —— 对合规场景有直接价值。

什么场景适合 已经有多个 agent、多个模型来源,需要统一管控和审计的企业。

Nous Research API㉒ · 29.7B视情况

是什么 Nous Research 自家的模型 API。

谁做的 Nous Research(与排名第一的 Hermes Agent 同一家)。

能不能进机房 属于模型供给侧,不是部署形态的选项。

什么场景适合 了解 Hermes 生态时一并看。

榜单数据截至 2026-09-09,来自 OpenRouter 应用榜与编码分类榜。排名每周变动,请当参考而非结论。