参考模型

Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。本页的每个模型都由同一个端点 POST /v1/systemone 提供服务。请求中的 model 字段决定由哪个模型处理调用;完整的请求结构请参见 API 参考。

当前模型

Jev 1.13jev-1.13.0
价格(每 Btok / 每 Mtok)$42 / $0.042
速率限制每秒 250,000 tokens / 每分钟 1,200 次请求
上下文长度每次请求 64k tokens;state 加上最长的问题为 32k tokens
输入仅文本。字符串、JSON 对象或文本值数组。不支持图像、音频或视频输入。
  • 价格: 按输入 token 计费。输出 token 免费。1 Btok 是十亿个 token,1 Mtok 是一百万个 token。
  • 速率限制: 以每秒 token 数和每分钟请求数计。超过任一限制的请求会返回 429 Too Many Requests。我们的客户端 SDK 默认带退避重试,并在响应带有 retry-after 头时遵循它。如果你直接调用 HTTP API,请参阅处理速率限制。
  • 上下文长度: Jev 只摄取一次 state,并针对它并行求值每个问题。64k 预算覆盖 state 加上所有问题的总和;32k 预算适用于 state 加上单个最长的问题。关于如何把许多问题打包进一次请求,参见投机性扇出;关于 state 增大时准确率如何变化,参见 Jev 1.13 锯齿度。
  • 输入: Jev 求值自然语言文本。在将非文本输入(图像、音频、视频、二进制)作为 state 发送之前,请先预处理为文本或结构化字段。支持的形态参见 State。

速率限制正在动态调整。 我们正在承接非常大量的需求,在此过程中,随着即将达成的大型 GPU 交易落地、我们放开更多用户进入,上述限制可能不经通知即发生变化。待局面更稳定后,我们就能提供更稳定的限制。定制和企业方案可享有更高的限制。请联系 sales@typesafe.ai。

别名

别名是会解析到带版本号的模型 ID 的模型名称。像其他名称一样,在 model 字段中发送它即可。

别名指向含义
jev-latestjev-1.13.0最新的稳定官方发布版本。是我们客户端 SDK 中的默认值,也是本文档示例使用的名称。
jev-previewjev-1.13.0最新的发布版本,无论是否为官方版本。当有预览构建可用时会领先于 jev-latest。

jev-preview 目前与 jev-latest 指向同一个模型。当前没有可用的预览构建。

新版本发布时别名会随之移动,因此即使你这边的代码没变,它背后的答案也可能变化。响应的 model 字段会报告实际应答的带版本 ID,因此你可以记录每个结果由哪个模型产生。如果你已经针对某个特定版本调好了置信度阈值,请固定该版本的 ID 而不是别名,并按自己的节奏切换到新版本。

自定义 Jev

Jev 不会用客户数据进行微调或 LoRA 适配。它通过 RLCD 训练以返回校准的决策,并且所有账户使用相同的权重。你可以通过请求(而不是按账户的权重)使其答案适配你的领域:

  • 把你的专有内容、记录和参考资料放进 state 字段。参见 State。
  • 把领域规则和边界情况编码进每个问题的 instructions 和 criteria。参见如何使用 TypeSafe 构建和进阶:结构。
  • 把宽泛的判断拆解为原子化问题,并在代码中组合它们的输出。关于在 Jev 的概率上训练下游经典模型,参见组合评分和 AutoResearch 指南。

语言支持

Jev 接受自然语言文本。英语是主要训练语言,目前的准确率也最高。其他语言(包括 CJK 文字)可以处理,但效果不完全等同;在让 Jev 承担非英语工作负载之前,请先在你自己的内容上测试,并在路由时密切关注置信度。

数据处理

Jev 不会基于客户请求或响应进行训练。数据处理协议(DPA)、隐私政策以及企业客户零数据保留(ZDR)的详情,请参见法律。

列出模型

GET /v1/models 返回你的账户可以在 model 字段中发送的名称,并为每个名称附带描述和发布日期。它目前列出的是各个别名。诸如 jev-1.13.0 的带版本 ID 无论是否出现在列表中,都能被 model 字段接受。

bash
curl https://api.typesafe.ai/v1/models \
  -H "Authorization: Bearer $TYPESAFE_API_KEY"
python
from typesafe_sdk import TypeSafeClient

with TypeSafeClient() as client:
    for model in client.models.list().models:
        print(model.name, model.release_date, model.description)
typescript
import { TypeSafeClient } from "@typesafe-ai/sdk";

const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
  console.log(model.name, model.release_date, model.description);
}
modelsarray

每个模型或别名对应一个条目。

完整的方法签名请参见 Python 和 JavaScript SDK 参考。