快速对比
判断标准不是哪个模型“更强”，而是哪一种输出适合当前步骤。一个完整产品通常同时使用 Jev、LLM 和普通代码。
| 维度 | Jev | LLM |
|---|---|---|
| 主要输出 | 预定义选择、评分、概率 | 自由文本、代码和结构化输出 |
| 最适合 | 高频、受约束的语义判断 | 创作、解释、规划和开放式推理 |
| 采样方式 | 多个判断并行输出 | 通常逐 token 生成 |
| 当前输入 | 仅文本 | 文本及多模态，视模型而定 |
| 成本结构 | 输入 $0.042/百万 token，输出免费 | 输入输出通常分别收费 |
| 失败方式 | 判断错误或置信度阈值不合适 | 事实错误、格式错误、工具调用错误等 |
这些任务优先考虑 Jev
- 答案集合可以提前列出，例如部门、工具或动作。
- 需要针对同一输入进行很多独立判断。
- 延迟和单次成本直接影响产品体验。
- 软件需要使用置信度决定自动化或复核。
这些任务继续使用 LLM
- 用户需要阅读自然语言回答。
- 任务需要创作、解释、总结或编写代码。
- 可能答案无法在请求前合理列举。
- 需要长程规划、工具协调或多模态理解。
最实用的组合方式
让 LLM 负责理解用户目标、生成候选方案或完成表达，让 Jev 负责高频筛选、路由和验证，让代码负责权限、金额、日期和最终控制流。
不要因为 Jev 输出结构稳定，就把高风险决定完全交给它。结构正确与业务判断正确是两个问题。
Continue reading
计算 Jev 的实际成本
用调用次数和输入长度估算每月费用。