大语言模型(LLM)是为生成供人类阅读的文本而设计的。当你需要模型做出一个供代码消费的判断时,就会出现错配:你是在强行让一个文本生成系统输出结构化决策,然后再把结果解析回代码可以依赖的形式。
Jev 是 TypeSafe 的旗舰模型,也是首个 System One 模型。System One 模型专为做出软件可以直接使用的快速、结构化决策而构建。Jev 针对类型化的问题评估状态,并直接返回结构化结果。没有文本生成,也没有解析。你得到的是类型化的值和概率分布,代码可以据此进行分支、排序和路由。Choice 和 Score 还会返回置信度,代码可以用它来决定是否以及如何根据答案采取行动。
TypeSafe 原语
TypeSafe 提供三种 AI 原语。与软件原语类似,我们的 AI 原语模块化、可组合、结构化、可靠且快速。每种原语提出一种不同类型的问题,并返回一种不同类型的答案。
| 问题类型 | 目标 | 返回值 |
|---|---|---|
| Choice | 从列表中选择一个选项 | choice、probabilities、confidence |
| Score | 按评分标准为状态打分 | score、probabilities、confidence |
| Noul | 这个陈述是否为真? | noul (0–1) |
所有三种问题类型都可以在单次 API 调用中混用。每个问题都在同一次请求中并行、相互独立地针对同一个状态进行评估。增加问题几乎不会改变响应时间。每个问题都是独立评估的,因此增加更多问题不会造成上下文劣化(context-rot)。
在代码中组合原子化的问题
System One 模型在每个问题只询问一件具体、范围明确的事情时表现最好。把每个问题看作一次直觉式判断:一位知识渊博的人在拥有合适上下文的情况下,几秒钟内就能做出的那种判断。
如果你想问的问题需要长时间推理,或者要权衡多个独立因素,就把它分解。把每个因素作为一个单独的问题来问,然后在代码中用逻辑组合结果。这能让每次单独的评估保持可靠,并让你完全掌控各维度的加权方式。
例如,与其问“给这个创业路演打分”,不如分别询问市场规模、技术可行性和差异化,再用你自己的公式组合这些分数。当优先级发生变化时,只需修改代码中的一个系数,而不是重写提示词。