⚡️ 砍掉文字生成能力:TypeSafe AI 发布 System One 决策模型 Jev

OpenAI 早期指令微调(ChatGPT 核心技术)研究员 Diogo Almeida 创立的 TypeSafe AI 结束两年隐身期,发布首个 System One 架构模型 Jev。

它做了一个极其激进的取舍:彻底放弃文本生成能力(String Generation)

传统大模型无论多强,本质都是逐 Token 自回归预测。但嵌入工程系统时,开发者往往只要一个分类、打分或布尔判断,却被迫承受 3~30 秒的高延迟、JSON 解析报错风险以及昂贵的输出 Token 计费。

Jev 的解法:

1. 语义函数化:输入文本或 JSON 状态,输出强类型结构化决策(Choice 选项、Noul 布尔值、Score 评分),附带真实置信度概率。
2. 并行采样:单次前向传播直接输出全部决策,消除逐字自回归,端到端延迟仅 70ms~500ms(提速 40~200 倍)。
3. 极低成本:输入每百万 Token 仅 $0.042(十亿 Token 仅 $42),输出 Token 永久免费。
4. 架构级类型安全:从数学层面杜绝 Schema 不匹配与格式崩溃。

⚠️ Agili 避坑与真相提醒:

“零幻觉”是文字游戏:官方宣称 0% 幻觉,本质是 Schema 结构 100% 保证合规。类型安全不等于事实正确,模型选错枚举值依然是事实错误。
Doom 演示并非视觉模型:底层输入是结构化文本坐标与状态数据,并非直接读画面像素。
上下文限制:目前为 32k 上下文,适合高频短流决策,不适合超长文档。

💡 Agili 观点
软件工程里 80% 的 Agent 工作流,本质就是带语义理解的 if-else。拿几百亿参数的通用模型挂 JSON 约束解码去跑这类任务,既慢又浪费。Jev 的价值在于把大模型从“聊天机器人”降维重构为“确定性语义控制流”。它不是用来写文章的,它是嵌入系统里极速、廉价的概率分支引擎。

🔗 原文https://typesafe.ai/blog/introducing-system-one-models-and-jev