Jev爆火硅谷:不会说话的AI,卷疯14万开发者

🤖 由 文心大模型 生成的文章摘要

OpenAI核心开发者Diogo Almeida推出不会说话的AI系统Jev,只用70毫秒作出概率判断,输出永久免费。发布仅三天,就被Vercel、Cloudflare和LangChain等平台集成,不到36小时涌入14万名开发者内测。

9月16日,ChatGPT核心发明人之一、InstructGPT论文第四作者Diogo Almeida连发长推,直指行业走偏了。作为RLHF和InstructGPT的核心奠基人,他发现RLHF让模型学会取悦人类,却让它们在自动化场景中极其不可靠——模型干的每件事最后都得有人看一眼,从一开始就没受过无人值守的训练。更致命的是,你优化什么就会得到什么,而“字符串”恰恰是最难优化的东西。为了让长文本不跑偏,训练时就得把模型调得过度自信,逼它丢掉低概率选项,代价就是大模型说“八成把握”时,这“八成”全是水分。既然文字这么难管,那干脆就别让它说话了。于是他辞职创办TypeSafe AI,从底层架构推倒重来。

Jev被命名为System One模型,出处是卡尼曼的《思考,快与慢》——那种不过脑子、凭直觉瞬间给出的本能判断。用法很简单:输入一段混乱状态,它输出一个类型化决策并附带精确概率,期间不生成任何一个字。官方只给三种交互姿势:Choice从给定选项里挑一个,Score给个具体分数,Noul甩出0到1的概率值。每个答案都带着概率分布和整体置信度,结果是零幻觉——模型只给划定好的选项分配概率,选项之外想编也编不出来。大模型一个token一个token往外挤,Jev把所有输出并行采样一次性给完,端到端只要70到500毫秒,前沿大模型则要3到329秒。输出token免费的底气也源于此:没有逐字生成,就没有值得计费的输出。TypeSafe只对输入收费,每百万token仅0.042美元,而Astra和Fable 5.1的输出定价是每百万token 50美元。

支撑这一切的是RLCD(校准决策强化学习):RLHF奖励“人类看了很爽”,RLCD奖励“你给的概率得和实际命中率咬合”——模型说0.9,就必须九成时候正确。Jev还把可组合性玩到极致,复杂决策可拆碎并行去问。演示中,它实时打《毁灭战士》每秒做10次决策,一小时算力成本仅7美元;维基百科超链寻路单次候选上限高达255个。代价是,Jev在数学推理上顶多只有GPT-4水平,且不支持图像输入。

Jev取自经济学“杰文斯悖论”:蒸汽机效率越高,烧掉的煤反而越多。Almeida押注的是,当AI决策成本趋近于零,需求会像大爆炸一样席卷所有代码,代码里将长出成千上万个“智能细胞”。他的解法与主流相反:先让机器闭嘴,先让它可靠,再让它便宜到可以随手用。如果他赌对了,从ChatGPT开始的这三年,会被写成一段奇怪的弯路。