Laya:为你的智能体提供免费的 System One 决策,内置于 Melaya,也可通过 MCP 使用
Laya 是内置于 Melaya 的开源 System One 决策模型。智能体、流水线、Fast Mode 和 MCP 都能免费使用这种零 token 输出的类型化决策。
Laya 是一个开源权重的 System One(快思考)模型,以 Apache-2.0 许可证发布,它针对一段文本回答类型化问题,并返回校准过的概率,不生成任何 token。它的作者把它发布为 pip 包 laya,并发布在 Hugging Face 上。Melaya 并没有打造 Laya。Melaya 在自己的 CPU 上运行它,并免费把它内置到 decide 工具、画布上的 decide 步骤、事件触发器,以及 Fast Mode 的浏览器和手机智能体中,包括从 Claude 或 ChatGPT 通过 MCP 调用的场景。
Laya 是什么,由谁发布
Laya 是一个 System One 模型:一种快速决策模型,它读取一个状态(例如一封邮件、一条帖子、一个页面或列表中的某一行),并针对这个状态回答类型化问题。它为每个选项返回一个经过校准的概率,且不生成任何 token。它决策。它不写。
Laya 以 Apache-2.0 许可证开放权重。NandhaKishorM 以 pip 包 laya 的形式发布代码,convaiinnovations 在 Hugging Face 上发布权重。Melaya 并没有创造这个模型。Melaya 在自己的服务器上运行这个开源的 Laya 模型,并将它内置到自己的智能体和流水线中,所以你不需要任何配置,也不需要付费。
在底层,Laya 是一个带有若干小型决策头的 ModernBERT 编码器。英文基础检查点有 421M 参数,同时也存在一个多语言检查点。每个问题都采用以下三种形式之一。
- choice: 从一组选项中选择一个,例如账单、技术或销售
- score: 将状态归入 2 到 10 个有序等级,例如低、中或高
- noul: 是或否的答案,概率本身就是信号
- 每个答案都带有 answer_confidence,即获胜选项的校准概率
System One 与 LLM:何时用哪个
大语言模型是 System Two。它会推理、写作并调用工具,而且你需要为它生成的每一个 token 付费。Laya 是 System One。它把同样的类型化判断应用到成千上万个条目上,每个问题只需一次编码器推理,之后无需任何解析。
用 LLM 来做规划、写作和开放式推理。当任务是对每一项都套用同一个判断时,用 Laya:给工单分类、筛查队列、检查列表中的某一行、给触发器设门槛。好的流水线会同时使用两者:Laya 做筛选,LLM 只把 token 花在最后剩下的少数条目上。
了解它的边界。Laya 在具体的表层问题上很可靠,比如判断一条回复是否是自动回复,或者一条消息是否在询问价格。它在细微的相关性判断上则比较弱,其作者也把基础检查点形容为便于进一步专精化的快速基座。一个两选项的 choice 胜过单纯的是否判断,而 score 是三种类型中最弱的一种。
Melaya 如何免费运行 Laya
Melaya 在 laya-local 中运行 Laya,这是一个内部服务,让模型始终在 Melaya 自己的 CPU 上保持预热状态。在生产服务器上测得,单次决策在 bf16 运行时下大约需要 105 ms,批量处理时每次决策大约 69 ms。这是 CPU 速度,不是 GPU 速度,而且每次决策都不收费。
智能体通过内置的 decide 工具访问它。它们是核心工具:不需要连接器,不需要 API 密钥,也不需要 Connect 步骤。按用户设置的速率限制,让共享 CPU 对所有人保持可用。
- decide: 一次性向一个状态提出一整组类型化问题
- decide_check: 一次性把关,返回一个明确的答案
- decide_batch: 用同一组问题给多个条目打分,并保留得分最高的结果
- decide_batch_file: 先从一个 JSON 文件中读取条目,例如一批抓取到的帖子
- 画布上的 decide 步骤:一个不调用 LLM 的流水线步骤,可以在答案满足条件时停止运行
- 事件触发器:decide 把关可以在任何操作执行之前先筛查每一个到来的事件
Fast Mode 和 MCP 中的 Laya
Fast Mode 用远少于以往的 LLM 往返次数来操作浏览器或 Android 手机。LLM 只读一次屏幕,然后用平实的语言给出一连串步骤。Melaya 找到每一个目标,走正常路径执行操作,检查结果,并在第一次出现意外时把屏幕交回。
确定性代码会先对每个目标做定位。Laya 是有门槛的后备方案:当一个步骤对目标的描述比较模糊时,Laya 会在一份简短的候选列表中做出选择,只有当答案越过置信度门槛时,Melaya 才会执行操作。Laya 还会检查列表行上的条件,比如判断某一行是不是某家公司的合伙人。
通过 MCP,Claude、ChatGPT、Cursor 和 Claude Code 可以用两种方式接触到 Laya:Fast Mode 工具,以及你运行的、使用了 decide 工具或 decide 步骤的流水线。并不存在一个独立的 laya MCP 工具。实际上,所谓 Laya MCP,指的是 Laya 在 Melaya MCP Server 的工具内部运作。
- MCP: melaya_browser_fast 和 melaya_phone_fast
- 流水线和 Assistant: browser_fast 和 phone_fast
- 你的规则依然适用:允许访问的网站、审批卡片和紧急停止开关
- 手机控制仅支持 Android
Melaya 自己在哪些地方使用 Laya
Melaya 自己的功能也运行在这同一个免费引擎上。Melaya Marketing 中的外链提交功能会用 Fast Mode 来填写目录表单,所以当精确匹配找不到结果时,Laya 会为那些描述模糊的字段做定位。
全站 SEO 审计中有一个 Laya 判断层,用于处理针对每个页面的问题。只有当某个问题通过了经过验证的精确度阈值后,Laya 的答案才会据此标记出问题。在那之前,审计只依赖确定性检查,绝不会凭未经验证的 Laya 答案标记问题。
Melaya 自己的外联流水线把 Laya 用作回复把关。一个两选项的 choice 会识别出询问金额条款的回复,并把它们转交给人工处理。
Laya 与 Jev (TypeSafe) 对比
Jev 是 TypeSafe 提供的托管 System One 模型。它运行在 GPU 上,以毫秒级速度给出答案,并按你自己的 API 密钥逐 token 计费。Laya 运行在 Melaya 的 CPU 上,每次决策大约需要 105 ms,而且不收费。
两者使用同样的结构:一个状态,类型化问题,同样的三种类型。从 jev_* 工具切换到 decide_* 工具时,工作流不需要重写任何问题。但它们是两个校准方式不同的模型,所以切换时要重新检查你的阈值。
- 如果看重处理量、成本,以及让决策留在 Melaya 自己的硬件上,就选 Laya
- 如果需要最低延迟、处理量不大,且不想共享 CPU,就选 Jev
开始使用 Laya
创建一个免费的 Melaya 账户。decide 工具是内置的:Assistant 始终自带这些工具,你也可以把它们加到任何智能体上,不需要连接任何东西。
- 把 decide_batch 加到一个智能体上,或者在画布上拖放一个 decide 步骤
- 先写一个带标签的状态,把要判断的文本放在最前面。英文基础模型大约能读取 1,100 个字符的状态
- 用带有简短关键词描述的两选项 choice,而不是单纯的是或否
- 以 answer_confidence 作为门槛,并用少量标注过的条目来调整阈值
- 从 Claude 或 ChatGPT 连接 Melaya MCP Server,然后运行你的流水线,或者让 Fast Mode 工具替你调用 Laya
常见问题
Laya 是 Melaya 做的吗?
不是。Laya 是来自上游作者的开源权重 Apache-2.0 模型,代码以 pip 包 laya 的形式发布,权重由 convaiinnovations 发布在 Hugging Face 上。Melaya 在自己的 CPU 上运行这个开源模型,并免费把它内置到智能体、流水线和 Fast Mode 中。
我可以从 Claude 或 ChatGPT 通过 MCP 使用 Laya 吗?
可以,通过 Melaya MCP Server。melaya_browser_fast 和 melaya_phone_fast 工具会把 Laya 当作有门槛的后备方案来使用,而你运行的、使用了 decide 工具或 decide 步骤的任何流水线都会运行 Laya。并不存在一个单独可调用的 laya 工具。
在 Melaya 里用 Laya 要收费吗?
不收费。decide 工具、画布上的 decide 步骤和 Fast Mode 都在 Melaya 的 CPU 上运行 Laya,不按次收费,也不需要 API 密钥。按用户设置的速率限制保证这个共享引擎对所有人都公平。
Laya 的速度有多快?
在 Melaya 的 CPU 上,单次决策大约需要 105 ms,批量决策时每次大约 69 ms。状态越长,耗时越久,所以要让被判断的文本保持简短。像 Jev 这样基于 GPU 的引擎可以在毫秒级给出答案。
Laya 和 Jev 有什么区别?
两者都是采用同样问题结构的 System One 模型。Jev 是 TypeSafe 提供的托管引擎,运行在 GPU 上并按 token 计费。Laya 是开源权重模型,在 Melaya 的 CPU 上免费运行。
Laya 可以写文本或者取代我的 LLM 吗?
不可以。Laya 只做决策:选一个选项、给一个等级打分,或者回答是或否,不会生成任何 token。规划、写作和细微判断仍然要交给 LLM。
