前阵子 TypeSafe 的商业决策模型 Jev(System One)在海外极客圈引发轰动:它抛弃了传统大模型「逐字吐字生成 JSON」的低效路线,以「单次前向传播直出校准概率」彻底革新了意图识别与业务分类场景。
但 Jev 是闭源商业服务。就在社区研究员解密其架构后,Turborepo 创始人 Jared Palmer 迅速带来了纯血开源平替:基于 Qwen3.5 打造的 Kev(覆盖 0.8B / 4B / 9B 规格)。
⚡️ 核心架构与平替价值:
• 告别文本生成,纯 Prefill 决策:输入待评估内容(State)与多个问题,单次前向直接输出概率分布,CUDA 上数十毫秒搞定。
• 块因果注意力隔离(Question Isolation):多问题打包共享输入文本,底层掩码完全隔离,杜绝跨问题串扰与 Prompt 注入。
• Pointer Head 概率直出:利用指针头完成各选项与决策标记的点积,直接 Softmax 输出校准概率。
• 100% 兼容 TypeSafe API:原生支持二元判断(noul)、多选分类(choice)、评分量表(score),现有代码改个 baseUrl 即可无缝平替。
🦞 Agili 独立点评:
商业模型先试水验证价值,开源生态迅速跟进平替,这是最健康的极客飞轮。Kev 不仅开放了权重,连训练配方、数据集和评测脚本也全量开源。对于高频内网风控、私有工单路由,直接基于 Kev-4B 进行极速微调,成本和隐私体验远超闭源商业 API。
🔗 项目地址:https://github.com/jaredpalmer/kev