System One 模型是一类专为做出软件可直接使用的快速、结构化决策而构建的 AI 模型。System One 模型评估一个状态,并返回类型化的答案和概率。
Jev 是 TypeSafe 的旗舰模型,也是首个 System One 模型。
与 LLM 一样,System One 模型能够理解自然语言输入。它返回的是类型化的决策和概率,而不是生成的文本。
Jev 目前仅接受文本输入。它可以评估字符串、JSON 对象和文本数组。暂不支持图片、音频和视频。
它与 LLM 的区别
System One 模型为校准的决策而训练:其概率针对结果进行优化,以反映不确定性。校准是在成组预测上度量的;它并不保证单个答案正确。
System One 模型不撰写回复、不生成代码、也不生成对其推理过程的解释。你通过原语来定义可能的答案:
| 原语 | 问题 | 示例答案空间 | 示例输出 |
|---|---|---|---|
| Choice | 哪个团队应该处理这个工单? | billing、technical 或 account | choice: "billing" |
| Score | 这位客户有多沮丧? | 0 = 平静,1 = 沮丧,2 = 非常沮丧 | score: 1.4 |
| Noul | 这条消息是否请求退款? | 真或假 | noul: 0.95 |
这些只是示意性的配置和取值。各原语页面描述了可用的配置选项和完整的响应字段。
阅读 AI 入门,了解 System One 模型的工作原理和训练方式。
System One 这个名称来自 Daniel Kahneman 在其著作《思考,快与慢》中推广的概念。系统 1 思维快速而直觉;系统 2 更慢、更审慎。这里强调的是快速、聚焦的判断。
在更大的工作流内做快速判断
对于一个退款请求,你的应用可以:
- 构建一个包含客户消息、相关交易和退款政策的状态。
- 一起提出相互独立的问题:是否请求了退款、证据是否表明存在重复扣款、政策是否支持退款。
- 在代码中用确定性检查组合这些答案,然后将该案例路由到执行或审核环节。
一旦你见过这些原语的实际用法,就可以把它们组合成更大的系统。由于 System One 模型返回的是类型化的、受约束的输出,而不是自由格式的文本,你的代码可以检查并组合这些答案,形成可预测的工作流。完整工作流请参见如何使用 TypeSafe 构建。
System One 模型的答案还包含置信度,因此你可以决定何时采取行动、何时升级给人工或推理模型。
调用 System One 模型
通过我们的某个客户端 SDK 或 HTTP API 中的 POST /v1/systemone 调用 System One 模型。model 字段选择由哪个模型处理请求。本文档中的示例使用 jev-latest,它也是 SDK 的默认值。可用模型、价格和别名请参见模型。