Laya System One 模型

Laya:为你的智能体提供免费的 System One 决策,内置于 Melaya,也可通过 MCP 使用

Laya 是内置于 Melaya 的开源 System One 决策模型。智能体、流水线、Fast Mode 和 MCP 都能免费使用这种零 token 输出的类型化决策。

简明答案

Laya 是一个开源权重的 System One(快思考)模型,以 Apache-2.0 许可证发布,它针对一段文本回答类型化问题,并返回校准过的概率,不生成任何 token。它的作者把它发布为 pip 包 laya,并发布在 Hugging Face 上。Melaya 并没有打造 Laya。Melaya 在自己的 CPU 上运行它,并免费把它内置到 decide 工具、画布上的 decide 步骤、事件触发器,以及 Fast Mode 的浏览器和手机智能体中,包括从 Claude 或 ChatGPT 通过 MCP 调用的场景。

01

Laya 是什么,由谁发布

Laya 是一个 System One 模型:一种快速决策模型,它读取一个状态(例如一封邮件、一条帖子、一个页面或列表中的某一行),并针对这个状态回答类型化问题。它为每个选项返回一个经过校准的概率,且不生成任何 token。它决策。它不写。

Laya 以 Apache-2.0 许可证开放权重。NandhaKishorM 以 pip 包 laya 的形式发布代码,convaiinnovations 在 Hugging Face 上发布权重。Melaya 并没有创造这个模型。Melaya 在自己的服务器上运行这个开源的 Laya 模型,并将它内置到自己的智能体和流水线中,所以你不需要任何配置,也不需要付费。

在底层,Laya 是一个带有若干小型决策头的 ModernBERT 编码器。英文基础检查点有 421M 参数,同时也存在一个多语言检查点。每个问题都采用以下三种形式之一。

  • choice: 从一组选项中选择一个,例如账单、技术或销售
  • score: 将状态归入 2 到 10 个有序等级,例如低、中或高
  • noul: 是或否的答案,概率本身就是信号
  • 每个答案都带有 answer_confidence,即获胜选项的校准概率
02

System One 与 LLM:何时用哪个

大语言模型是 System Two。它会推理、写作并调用工具,而且你需要为它生成的每一个 token 付费。Laya 是 System One。它把同样的类型化判断应用到成千上万个条目上,每个问题只需一次编码器推理,之后无需任何解析。

用 LLM 来做规划、写作和开放式推理。当任务是对每一项都套用同一个判断时,用 Laya:给工单分类、筛查队列、检查列表中的某一行、给触发器设门槛。好的流水线会同时使用两者:Laya 做筛选,LLM 只把 token 花在最后剩下的少数条目上。

了解它的边界。Laya 在具体的表层问题上很可靠,比如判断一条回复是否是自动回复,或者一条消息是否在询问价格。它在细微的相关性判断上则比较弱,其作者也把基础检查点形容为便于进一步专精化的快速基座。一个两选项的 choice 胜过单纯的是否判断,而 score 是三种类型中最弱的一种。

03

Melaya 如何免费运行 Laya

Melaya 在 laya-local 中运行 Laya,这是一个内部服务,让模型始终在 Melaya 自己的 CPU 上保持预热状态。在生产服务器上测得,单次决策在 bf16 运行时下大约需要 105 ms,批量处理时每次决策大约 69 ms。这是 CPU 速度,不是 GPU 速度,而且每次决策都不收费。

智能体通过内置的 decide 工具访问它。它们是核心工具:不需要连接器,不需要 API 密钥,也不需要 Connect 步骤。按用户设置的速率限制,让共享 CPU 对所有人保持可用。

  • decide: 一次性向一个状态提出一整组类型化问题
  • decide_check: 一次性把关,返回一个明确的答案
  • decide_batch: 用同一组问题给多个条目打分,并保留得分最高的结果
  • decide_batch_file: 先从一个 JSON 文件中读取条目,例如一批抓取到的帖子
  • 画布上的 decide 步骤:一个不调用 LLM 的流水线步骤,可以在答案满足条件时停止运行
  • 事件触发器:decide 把关可以在任何操作执行之前先筛查每一个到来的事件
04

Fast Mode 和 MCP 中的 Laya

Fast Mode 用远少于以往的 LLM 往返次数来操作浏览器或 Android 手机。LLM 只读一次屏幕,然后用平实的语言给出一连串步骤。Melaya 找到每一个目标,走正常路径执行操作,检查结果,并在第一次出现意外时把屏幕交回。

确定性代码会先对每个目标做定位。Laya 是有门槛的后备方案:当一个步骤对目标的描述比较模糊时,Laya 会在一份简短的候选列表中做出选择,只有当答案越过置信度门槛时,Melaya 才会执行操作。Laya 还会检查列表行上的条件,比如判断某一行是不是某家公司的合伙人。

通过 MCP,Claude、ChatGPT、Cursor 和 Claude Code 可以用两种方式接触到 Laya:Fast Mode 工具,以及你运行的、使用了 decide 工具或 decide 步骤的流水线。并不存在一个独立的 laya MCP 工具。实际上,所谓 Laya MCP,指的是 Laya 在 Melaya MCP Server 的工具内部运作。

  • MCP: melaya_browser_fast 和 melaya_phone_fast
  • 流水线和 Assistant: browser_fast 和 phone_fast
  • 你的规则依然适用:允许访问的网站、审批卡片和紧急停止开关
  • 手机控制仅支持 Android
05

Melaya 自己在哪些地方使用 Laya

Melaya 自己的功能也运行在这同一个免费引擎上。Melaya Marketing 中的外链提交功能会用 Fast Mode 来填写目录表单,所以当精确匹配找不到结果时,Laya 会为那些描述模糊的字段做定位。

全站 SEO 审计中有一个 Laya 判断层,用于处理针对每个页面的问题。只有当某个问题通过了经过验证的精确度阈值后,Laya 的答案才会据此标记出问题。在那之前,审计只依赖确定性检查,绝不会凭未经验证的 Laya 答案标记问题。

Melaya 自己的外联流水线把 Laya 用作回复把关。一个两选项的 choice 会识别出询问金额条款的回复,并把它们转交给人工处理。

06

Laya 与 Jev (TypeSafe) 对比

Jev 是 TypeSafe 提供的托管 System One 模型。它运行在 GPU 上,以毫秒级速度给出答案,并按你自己的 API 密钥逐 token 计费。Laya 运行在 Melaya 的 CPU 上,每次决策大约需要 105 ms,而且不收费。

两者使用同样的结构:一个状态,类型化问题,同样的三种类型。从 jev_* 工具切换到 decide_* 工具时,工作流不需要重写任何问题。但它们是两个校准方式不同的模型,所以切换时要重新检查你的阈值。

  • 如果看重处理量、成本,以及让决策留在 Melaya 自己的硬件上,就选 Laya
  • 如果需要最低延迟、处理量不大,且不想共享 CPU,就选 Jev
07

开始使用 Laya

创建一个免费的 Melaya 账户。decide 工具是内置的:Assistant 始终自带这些工具,你也可以把它们加到任何智能体上,不需要连接任何东西。

  • 把 decide_batch 加到一个智能体上,或者在画布上拖放一个 decide 步骤
  • 先写一个带标签的状态,把要判断的文本放在最前面。英文基础模型大约能读取 1,100 个字符的状态
  • 用带有简短关键词描述的两选项 choice,而不是单纯的是或否
  • 以 answer_confidence 作为门槛,并用少量标注过的条目来调整阈值
  • 从 Claude 或 ChatGPT 连接 Melaya MCP Server,然后运行你的流水线,或者让 Fast Mode 工具替你调用 Laya
08

常见问题

Laya 是 Melaya 做的吗?

不是。Laya 是来自上游作者的开源权重 Apache-2.0 模型,代码以 pip 包 laya 的形式发布,权重由 convaiinnovations 发布在 Hugging Face 上。Melaya 在自己的 CPU 上运行这个开源模型,并免费把它内置到智能体、流水线和 Fast Mode 中。

我可以从 Claude 或 ChatGPT 通过 MCP 使用 Laya 吗?

可以,通过 Melaya MCP Server。melaya_browser_fast 和 melaya_phone_fast 工具会把 Laya 当作有门槛的后备方案来使用,而你运行的、使用了 decide 工具或 decide 步骤的任何流水线都会运行 Laya。并不存在一个单独可调用的 laya 工具。

在 Melaya 里用 Laya 要收费吗?

不收费。decide 工具、画布上的 decide 步骤和 Fast Mode 都在 Melaya 的 CPU 上运行 Laya,不按次收费,也不需要 API 密钥。按用户设置的速率限制保证这个共享引擎对所有人都公平。

Laya 的速度有多快?

在 Melaya 的 CPU 上,单次决策大约需要 105 ms,批量决策时每次大约 69 ms。状态越长,耗时越久,所以要让被判断的文本保持简短。像 Jev 这样基于 GPU 的引擎可以在毫秒级给出答案。

Laya 和 Jev 有什么区别?

两者都是采用同样问题结构的 System One 模型。Jev 是 TypeSafe 提供的托管引擎,运行在 GPU 上并按 token 计费。Laya 是开源权重模型,在 Melaya 的 CPU 上免费运行。

Laya 可以写文本或者取代我的 LLM 吗?

不可以。Laya 只做决策:选一个选项、给一个等级打分,或者回答是或否,不会生成任何 token。规划、写作和细微判断仍然要交给 LLM。

加入社区
// Cookie
Melaya 使用一小组第一方 cookie,仅用于身份验证、维持会话和保护平台。默认不使用广告 cookie、跨站追踪器或第三方分析。完整 cookie 清单见我们的 隐私政策.