私有化 AI 部署

自托管 AI 智能体：先选边界，再选技术栈

比较模型、执行端、数据、连接器、控制平面、可观测性和企业运维在自托管部署中的不同边界选项。

简明答案

自托管 AI 智能体不是一个非此即彼的单一功能。需要分别决定模型、工作流执行端、数据存储、凭证、连接器、追踪记录和控制平面各自运行在哪里。正确的边界，取决于数据驻留、网络、延迟、合规保证和运维需求。

把部署拆解成多个组件

一个本地模型，并不代表整个智能体都是本地的。需要盘点模型推理、向量嵌入、检索存储、工作流执行、密钥、业务系统连接器、追踪记录存储、更新和管理这些组件各自的位置。画出每一条网络边界，并找出哪个组件能接触到敏感内容。

常见的模式包括：本地模型配合托管控制平面、客户自托管执行端配合托管编排，以及完全私有化部署。每一种模式，都会改变由谁来打补丁、处理备份、监控滥用行为、轮换凭证，以及响应事故。

Melaya 支持本地模型提供方和本地执行路径。完全私有化或针对特定客户的部署，属于 Citadel 架构层面的讨论范畴。在没有书面部署设计和责任矩阵的情况下，不要假设每一个控制平面组件都由客户自行托管。

本地 LLM 等同于自托管的智能体平台吗？

不等同。模型可能在本地运行，但编排、检索、凭证、连接器或追踪记录，仍然可能托管在别处。

什么时候值得选择自托管？

当明确的数据驻留、网络隔离、定制化、延迟、合规保证或成本方面的需求，能够超过额外增加的运维负担时，自托管才最有意义。

Melaya 可以使用 Ollama 或 LM Studio 吗？

可以。Melaya 支持本地模型工作流，具体能力取决于所选服务层级的功能和部署配置。

最近审核时间：2026 年 8 月 20 日 · 当前产品范围：支持 Android，不支持 iOS