每个模型或别名对应一个条目。
属性
namestringmodel 字段所接受的模型 ID 或别名。
descriptionstring模型的用途。
release_datestring模型或别名的发布时间。
Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。本页的每个模型都由同一个端点 POST /v1/systemone 提供服务。请求中的 model 字段决定由哪个模型处理调用;完整的请求结构请参见 API 参考。
| Jev 1.13 | jev-1.13.0 |
|---|---|
| 价格(每 Btok / 每 Mtok) | $42 / $0.042 |
| 速率限制 | 每秒 250,000 tokens / 每分钟 1,200 次请求 |
| 上下文长度 | 每次请求 64k tokens;state 加上最长的问题为 32k tokens |
| 输入 | 仅文本。字符串、JSON 对象或文本值数组。不支持图像、音频或视频输入。 |
429 Too Many Requests。我们的客户端 SDK 默认带退避重试,并在响应带有 retry-after 头时遵循它。如果你直接调用 HTTP API,请参阅处理速率限制。state,并针对它并行求值每个问题。64k 预算覆盖 state 加上所有问题的总和;32k 预算适用于 state 加上单个最长的问题。关于如何把许多问题打包进一次请求,参见投机性扇出;关于 state 增大时准确率如何变化,参见 Jev 1.13 锯齿度。state 发送之前,请先预处理为文本或结构化字段。支持的形态参见 State。速率限制正在动态调整。 我们正在承接非常大量的需求,在此过程中,随着即将达成的大型 GPU 交易落地、我们放开更多用户进入,上述限制可能不经通知即发生变化。待局面更稳定后,我们就能提供更稳定的限制。定制和企业方案可享有更高的限制。请联系 sales@typesafe.ai。
别名是会解析到带版本号的模型 ID 的模型名称。像其他名称一样,在 model 字段中发送它即可。
| 别名 | 指向 | 含义 |
|---|---|---|
jev-latest | jev-1.13.0 | 最新的稳定官方发布版本。是我们客户端 SDK 中的默认值,也是本文档示例使用的名称。 |
jev-preview | jev-1.13.0 | 最新的发布版本,无论是否为官方版本。当有预览构建可用时会领先于 jev-latest。 |
jev-preview 目前与 jev-latest 指向同一个模型。当前没有可用的预览构建。
新版本发布时别名会随之移动,因此即使你这边的代码没变,它背后的答案也可能变化。响应的 model 字段会报告实际应答的带版本 ID,因此你可以记录每个结果由哪个模型产生。如果你已经针对某个特定版本调好了置信度阈值,请固定该版本的 ID 而不是别名,并按自己的节奏切换到新版本。
Jev 不会用客户数据进行微调或 LoRA 适配。它通过 RLCD 训练以返回校准的决策,并且所有账户使用相同的权重。你可以通过请求(而不是按账户的权重)使其答案适配你的领域:
state 字段。参见 State。instructions 和 criteria。参见如何使用 TypeSafe 构建和进阶:结构。Jev 接受自然语言文本。英语是主要训练语言,目前的准确率也最高。其他语言(包括 CJK 文字)可以处理,但效果不完全等同;在让 Jev 承担非英语工作负载之前,请先在你自己的内容上测试,并在路由时密切关注置信度。
Jev 不会基于客户请求或响应进行训练。数据处理协议(DPA)、隐私政策以及企业客户零数据保留(ZDR)的详情,请参见法律。
GET /v1/models 返回你的账户可以在 model 字段中发送的名称,并为每个名称附带描述和发布日期。它目前列出的是各个别名。诸如 jev-1.13.0 的带版本 ID 无论是否出现在列表中,都能被 model 字段接受。
curl https://api.typesafe.ai/v1/models \
-H "Authorization: Bearer $TYPESAFE_API_KEY"
from typesafe_sdk import TypeSafeClient
with TypeSafeClient() as client:
for model in client.models.list().models:
print(model.name, model.release_date, model.description)
import { TypeSafeClient } from "@typesafe-ai/sdk";
const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
console.log(model.name, model.release_date, model.description);
}
modelsarray每个模型或别名对应一个条目。
完整的方法签名请参见 Python 和 JavaScript SDK 参考。