入门引言

大语言模型(LLM)是为生成供人类阅读的文本而设计的。当你需要模型做出一个供代码消费的判断时,就会出现错配:你是在强行让一个文本生成系统输出结构化决策,然后再把结果解析回代码可以依赖的形式。

Jev 是 TypeSafe 的旗舰模型,也是首个 System One 模型。System One 模型专为做出软件可以直接使用的快速、结构化决策而构建。Jev 针对类型化的问题评估状态,并直接返回结构化结果。没有文本生成,也没有解析。你得到的是类型化的值和概率分布,代码可以据此进行分支、排序和路由。Choice 和 Score 还会返回置信度,代码可以用它来决定是否以及如何根据答案采取行动。

%%{init: {"fontFamily": "Inter, sans-serif", "flowchart": {"rankSpacing": 35, "wrappingWidth": 300, "subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%% flowchart LR input["state + questions"] subgraph model["TypeSafe AI model"] evaluate["evaluate each question<br/>against the state<br/>in parallel"] end input -- "one request" --> model model -- "one response" --> answers["typed answers<br/>+ probabilities<br/>+ confidence<br/>(Choice and Score)"] answers --> code["<b>your code</b><br/>branch, sort, and route"]

TypeSafe 原语

TypeSafe 提供三种 AI 原语。与软件原语类似,我们的 AI 原语模块化、可组合、结构化、可靠且快速。每种原语提出一种不同类型的问题,并返回一种不同类型的答案。

问题类型目标返回值
Choice从列表中选择一个选项choice、probabilities、confidence
Score按评分标准为状态打分score、probabilities、confidence
Noul这个陈述是否为真?noul (0–1)

所有三种问题类型都可以在单次 API 调用中混用。每个问题都在同一次请求中并行、相互独立地针对同一个状态进行评估。增加问题几乎不会改变响应时间。每个问题都是独立评估的,因此增加更多问题不会造成上下文劣化(context-rot)。

在代码中组合原子化的问题

System One 模型在每个问题只询问一件具体、范围明确的事情时表现最好。把每个问题看作一次直觉式判断:一位知识渊博的人在拥有合适上下文的情况下,几秒钟内就能做出的那种判断。

如果你想问的问题需要长时间推理,或者要权衡多个独立因素,就把它分解。把每个因素作为一个单独的问题来问,然后在代码中用逻辑组合结果。这能让每次单独的评估保持可靠,并让你完全掌控各维度的加权方式。

例如,与其问“给这个创业路演打分”,不如分别询问市场规模、技术可行性和差异化,再用你自己的公式组合这些分数。当优先级发生变化时,只需修改代码中的一个系数,而不是重写提示词。

后续步骤

  • 快速开始——立即上手所需的一切。
  • AI 入门——TypeSafe 为什么训练模型做校准的决策,而不是生成文本。
  • 原语(问题)——如何定义问题、如何在 Choice、Score 和 Noul 之间选择,以及如何一次提出多个问题。
  • 置信度——TypeSafe 如何报告确定性,以及如何在架构上使用它。
  • 模式——使用 TypeSafe 构建系统的常见模式。