Jev 新手入门:如何使用它,以及能用它构建什么
摘要
Claire Vo 在播客中介绍了 TypeSafe AI 的决策模型 Jev——它输出类型安全的结构化值而非文本,并按每百万输入 token 4 美分、输出不收费计价;她用五个真实项目验证了其在分类、打分类任务上的低成本可行性。
核心要点
- Jev 的输出形态与传统 LLM 不同:返回的是类型安全的结构化数值——一个选择、一个分数或一个概率,而不是生成的自然语言文本。
- 定价模式罕见:每百万输入 token 4 美分,输出不额外收费,这与几乎所有按输出 token 计费的 LLM 计费逻辑相反。
- 作者在五个项目上实测:PR 分类与成对聚类、对自己本地 Claude Code 与 Codex 会话做元分析、Gmail 分流、ChatPRD 产品洞察图谱、以及基于 4,500 条 YouTube 评论的实时观众看板。
- 具体成本与规模:分析 1,700 个 PR 仅花 9 美分;ChatPRD 项目处理 1,100 个信号、20 万次分类;4,500 条评论被转成可检索的受众看板,花费接近零。
- 作者明确改变了用法:不再单独使用 Jev,而是用它做打分与分类,再搭配 LLM 完成后续生成,形成「决策模型 + 生成模型」的组合。
原文佐证
- It returns type-safe structured values (a choice, a score, a probability) instead of generated text, at 4 cents per million input tokens with no output charge.
- How I analyzed 1,700 PRs for 9 cents and what I found out about where my engineering effort actually went
- Why I stopped using Jev alone, and what I pair it with now
AI 洞察
Jev 代表的「决策模型」是一类正在成形的独立品类:把分类、打分、路由这类高频但低创意的工作负载从昂贵的生成式模型上剥离出来,成本可能下降一到两个数量级。这会重塑创业者的可行性边界——过去因为算不起而放弃的全量数据处理(每一条工单、评论、PR、日志都被实时判定)将重新变得划算。若这一模式被验证,模型市场的分层会加速:贵模型负责生成与推理,廉价专用模型负责决策,按输出计费的旧定价逻辑将受到直接挑战。