它不聊天、不写文章，只告诉你“几成把握”——这个模型为什么火了

最近这段时间一个模型非常火爆，它不写文章、也不聊天，总之就是不输出任何语言类的文本，但仍然受到众人追捧，因为他只做一件事儿：

帮助人们判断，并且给出这个判断的把握有多大。

这个模型叫Jev，是一家叫TypeSafe AI的初创公司研发的，创始人叫Diogo Almeida。

在OpenAI工作时参与了InstructGPT论文的创作。确立的RLHF方法（基于人类反馈的强化学习）基本定义了后来几年大模型产品的样子。

不过后面Almeida对这套方法产生了怀疑，有一次演讲中他说，自己可能是OpenAI里面不多的会批评ChatGpt的人。

他认为RLHF把“情绪价值”当成了训练目标，结果模型学会了说漂亮话，而不是把事做对。

比如有人给ChatGPT发了一段放屁的音效，问你觉得我做的这段音乐如何？结果大模型回答说“它营造出了一种非常诡异的氛围感”。

回答的本质其实还是在迎合人类，不懂装懂。

Almeida由此提出了一个问题：模型在聊天上超越人类已经好几年了，但自动化在哪里？客服系统仍然需要人在回路里做决定，这是为什么？

他认为是RLHF把人放进了训练回路，模型学的是怎么让人开心，而不是怎么让软件自己跑起来。

Jev就是对这个问题的回应。

它和传统大模型有什么不同？

传统大模型的训练，优化目标都是“生成质量”，要么让人觉得好，要么答案能被验证为正确。

Jev换了一个目标。

TypeSafe把它的训练方法叫做RLCD，全称是Reinforcement Learning for Calibrated Decision，可以译成“面向校准决策的强化学习”。

校准这个词很关键。

它指的是：模型说70%的把握，那长期来看就应该有大约70%的判断是对的；说90%的把握，就该有90%是对的。

听起来这事儿其实应该是一个基础，但传统大模型做的并不太好，很多研究都表明模型普遍过度自信，经常用很笃定的语气说着错误的结论。

RLCD要做的，就是逼模型输出诚实的概率，有几成把握就说几成把握。

在输出形式上，Jev不生成自然语言。

它只返回三种结构化结果：

Choice，从预设选项里选一个，附带概率分布；

Score，在指定范围内打分，附带置信度；

Noul，布尔判断，返回校准过的是或否概率。

没有逐字生成的解码过程，所有输出并行一次给出。

官方数据显示，Jev的端到端延迟在70到500毫秒之间，比前沿大模型快20到200倍。

输入定价是每百万token 0.042美元，输出免费，因为没有token生成这个环节。

跟GPT系列模型比起来，价格差距非常大。

简单总结来说也就是传统大模型像一个知识面很广的销售，你问啥它都能聊，但有时候会为了让你满意而说漂亮话。

Jev更像一个只给判断和把握度的工具，不啰嗦，不讨好，直接告诉你结论和可信度。

国内团队的一次复现！

Jev 发布后不久，国内一家AI 实验室做了一件好玩的事儿。

根据Jev的公开信息，反推了它的核心机制，不逐字生成文字，直接让模型在一次前向计算后给出判断。

用一台普通笔记本，本地运行开源的 Qwen3.5-9B 模型。是把页面上可点击的元素整理成带编号的候选列表，然后让模型只看选项编号的概率分布，直接选出该点哪个，全程不生成任何自然语言。

结果发现维基百科检索任务中位耗时约18秒，填表单和站内导航只要3秒左右，全程离线，没有API费用。

也就是说不依赖大厂的闭源接口，用开源模型加本地算力，也能跑通“大模型负责规划、小模型负责快速判断”的分工架构。

阈值这件事，可能比模型本身更重要。

Jev最容易被忽略、但可能最有价值的设计，是它对“阈值”的处理。

一个模型不仅告诉你“我觉得是AI”还告诉你“85%的概率是A”，系统就可以在代码层面做同一个判断，如果这个信任值高于某个阈值，就自动处理，反之就交给人工

这个机制能解决一个根本习惯问题——就是模型不知道自己什么时候可能出错。

总是很自信的模型在自动化流程里反而更危险，我们并不知道在什么时候信任它

Jev把这个问题变成了一个可以工程化解决的参数：设定阈值，持续校准，动态调整。

这也是为什么Vercel工程师把原本交给大模型的安全分类工作改用Jev后，速度提高了5到18倍。

模型分工的思路。

过去人们普遍认为一个模型足够大，就能解决一切，但Agent落地后这个想法开始在慢慢转变了。

当一个Agent需要完成一个复杂任务时，它可能要做出几十上百次判断，如点哪个按钮、选哪个选项、生成的内容是否达标、要不要触发人工审核。

如果每一次判断都调用大模型，成本高、速度慢，而且很多判断根本不需要深度思考。

Jev代表的是一种模型分工的思路，昂贵的大模型负责复杂的规划和推理，高频、原子化的判断交给轻量决策模型。

Agent逐步形成通用模型+专业模型+决策模型+规则系统+执行软件的分层架构。

就像人类实际的决策流程一样，执行层做判断，审批层看风险，Jev是把这种组织逻辑翻译成了AI系统的技术架构。

从大模型的文本对话、到Agent的主动执行，AI自动化一定是未来大方向，Jev的嵌入实际生产中的效果可能需要更多独立验证。

但从目前的反馈来看，它指向的问题是真实的，AI系统如何在一个可量化、可信任的框架下做出决策。

这个问题不解决，自动化就很难真正往前走。