上周 TypeSafe AI 从隐身状态出来,带着 4000 万美元种子轮和一个叫 Jev 的模型。9 月 15 日放的早期测试版,9 月 18 日更到 jev-1.13,这两天 HN 和国内技术圈都在聊。
它不生成文字。一个字都不生成。
它到底输出什么
你给它一段状态(字符串、JSON 对象或者一组文本),再给一组事先定义好的问题,它并行地把所有问题算完,返回带概率的类型化答案。
三种问题原语:
- Noul:真假判断,返回 0 到 1 的概率
- Choice:从你给的选项里挑一个,最多 255 个,返回选择 + 每个选项的概率 + 置信度
- Score:按你定义的有序等级打分,返回分数 + 概率分布 + 置信度
官方 quickstart 长这样:
curl -X POST https://api.typesafe.ai/v1/systemone \
-H "Authorization: Bearer $TYPESAFE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"state": "我的 Stripe 账号接了三天都失败,一直在丢单,请尽快处理",
"model": "jev-latest",
"questions": {
"urgency": { "type": "noul", "instructions": "这条消息是否表达了紧急?" }
}
}'
返回:
{
"model": "jev-1.13.0",
"answers": {
"department": {
"type": "choice",
"choice": "technical",
"confidence": 0.78,
"probabilities": { "technical": 0.85, "sales": 0.0, "billing": 0.15 }
},
"frustration": {
"type": "score",
"score": 1.0,
"confidence": 1.0,
"legend": { "0": "平静陈述", "1": "不满但克制", "2": "非常愤怒" },
"probabilities": { "0": 0.0, "1": 1.0, "2": 0.0 }
},
"is_urgent": { "type": "noul", "noul": 1.0 }
},
"usage": { "input_tokens": 392, "output_tokens": 65 }
}
没有字符串要解析,没有 JSON 要修,没有 markdown 代码围栏要剥。作者自己的说法是"一个更聪明的 if 语句"。
同一份 state 挂多个问题,是并行评估的,加问题对延迟的影响很小。
数字
官方口径:端到端 70ms 到 500ms,比同等水平的 LLM 快 40 到 200 倍。演示里那组对比是 0.114 秒对 GPT-5.6 Terra 的 8.566 秒,193.6 倍;成本 0.000081 美元对 0.013880 美元,444.6 倍。
定价是输入 $0.042 / M tokens,输出免费,因为压根没有生成的输出 token。上下文窗口 32K,目前只吃文本,图像音视频都还没有。
第三方给的数据点要保守一些。Vercel 拿它做安全分类器,比 OpenAI Luna 5.6 快 5 到 18 倍,准确率还高一点。Bryo AI 用来做邮件分类,比 Gemini 便宜 10 到 20 倍,准确率略低于 Gemini,但换来了每条结果都带置信度。
训练方法官方叫 RLCD(Reinforcement Learning for Calibrated Decisions),纯合成数据,架构没公开,权重不开源,只能走 API。创始人 Diogo Almeida 是前 OpenAI 研究员,RLHF 和 InstructGPT 那一拨人。
拿来干嘛
社区已经跑起来的几类:
模型路由。进来一个请求先用 Jev 判断复杂度,简单查询丢便宜模型,复杂推理才上大的。LangChain 已经合了 TypeSafeClassifier 和 ModelRouterMiddleware。
Agent 护栏。工具调用执行前先过一遍风险判断,危险的直接拦掉。LangChain 那边是 AutoModeMiddleware,Vercel AI SDK 走 experimental_evaluate。
批量打标。几百万条数据要分类,输出免费这件事在这个量级上很要命。
实时循环。TypeSafe 自己的 demo 是喂结构化游戏状态让它玩 Doom,不是为了证明它会玩游戏,是为了证明这个延迟能塞进实时循环里。社区跟着做了 browser-use/jev-ultrafast(DOM 元素选择 + 动作决策)、droidrun/mobile-jev(安卓自动化)这类东西。
官方 SDK 只有 Python(typesafe-sdk)和 JS(@typesafe-ai/sdk),社区已经补了 Rust、Go、Elixir、Ruby、PHP、.NET 一堆。OpenRouter 上也能直接调 typesafe/jev-1.13。中文资料可以看 yzfly/awesome-jev-zh。
需要打问号的地方
"零幻觉"这个说法要拆开看。输出不可能违反 schema,不可能编出你没定义的选项,这是真的。但选错依然会发生,类型安全不等于判断正确。把这两件事混在一起说是营销话术。
HN 上还有一个质疑我觉得成立:拿一个只做分类的模型和一个要写出完整回答的模型比延迟,口径本身就不对等。Jev 快是因为它少做了很多事。
官方那套 benchmark 的工作流是 TypeSafe 自己的 capabilities 团队设计的,他们也承认了这点。193 倍、444 倍大概率是峰值而不是均值。
它明确不擅长的事情,官方文档里写了:精确计数、日期比较、间接指代、嵌套条件,还有抵抗输入里夹带的误导信息。
中文场景基本是空白。目前能找到的公开评测只有 judgekit 一份,130 条自建样本,作者自己都标注了"LLM 对照组还在补"。这个样本量撑不起任何结论。
还有定价。$0.042/M 是不是在烧钱补贴,现在没法判断。
我的看法
这个方向我觉得是对的。现在大量 agent 系统里的"判断"环节,本质上就是个带语义的 if,却要调一次完整的 LLM,每次几百毫秒几分钱,还要祈祷它按格式吐 JSON。这活儿确实不该这么干。
但早期测试版就是早期测试版,还在 waitlist 后面,上线那两天需求太大一度把服务能力打没了。真要往生产上放,我的建议是别看 per-token 价格,算 per-task 完成成本,把重试和人工复核的开销算进去再决定值不值。
更实际的做法是先拿自己的数据跑一遍。它在不同任务上表现不均匀这件事,社区里反馈得挺一致的。
参考: