最新资讯
dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者 techcrunch.com Palo Alto Networks 洽谈以 5 亿美元收购 AI Agent 安全初创公司 Clutch theinformation.com 黄仁勋被要求就涉华间谍指控向国会作简报 www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离 wechat 这波杀疯了!旗舰级模型不限量、1个月视频额度免费领 bloomberg.com AI 抛售蔓延至信用市场,软银领跌亚洲美元债 dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露 dev.to 你的 Agent Harness 应具备的 17 项能力 dev.to 离线 AI 记忆中 0.8 余弦阈值为何失效 dev.to Kimi K3.1 Pro 开放权重:自托管 2.8T 模型前的开发者清单
多元动态
登录 注册
行业动态 wechat · @AI洛兹克

一句话都不会说的 AI 新模型,被抢疯了...

原文 我的收藏
未提供

正文

这两天,AI 圈有个模型突然刷屏了。 但它连一句话都说不出来。 聊天,不会。 写代码,也不会。 连一个完整的句子,都吐不出来。 按理说,这种能力看起来被砍了一大半的模型,早该没人理了。 结果它偏偏火了,上线没几天,API 还一度被挤到响应不过来。 好家伙,不会说话的,比会说话的热度还高。 这个模型的名字叫:Jev。 说实话,我第一眼的反应跟大家一样: 这玩意到底能干什么? 看完官网、文档和一圈玩家实测之后,我的想法变了。 这篇文章先不做实测。 我先把 Jev 是什么、它凭什么火、玩家们都拿它玩了什么,一次拆给大家看。 不说话的模型,到底是个啥 Jev 出自一家叫 TypeSafe AI 的公司。 这家公司隐身了两年,9 月 15 日才正式亮相, 一起端出来的还有 4000 万美元种子轮融资(DCVC 领投)和他们的第一个模型。 官方给 Jev 的定位,一句话就能说完: TypeSafe 的第一个公开 System One Model,为自动化而生。 System One,系统一,直觉式快思考的意思,出自卡尼曼的快慢系统。 先看它到底怎么干活。 普通大模型,不管你问什么,它都要先写一大段话给你。 它不生产答案,它只做判断。 Jev 只回答三种问题。 第一种,是非判断。 你给它一个说法,它返回 0 到 1 之间的一个数,代表这件事为真的概率。 第二种,选择题。 你提前把选项列好,最多 255 个,它从里面挑一个。 第三种,打分。 你定好标准,它按标准给一个分。 每个判断回来,都带着完整的概率分布和置信度。 置信度,就是模型自己报的把握。 结果是强类型的,说人话就是,程序拿到就能直接用, 提示词里不用求它输出 JSON,后面也不用再写一段代码去抠答案。 文档站的原话更直接: no text generation, no parsing。 不生成文字,不需要解析。 你还真别说,这个定位听着就清爽。 再看看官方甩出来的数字。 同一个任务,大模型跑 8.566 秒,Jev 跑 0.114 秒。 官网首页写着:最快 193.6 倍,最多省 444.6 倍。 注意口径,这是 TypeSafe 用自家的判断类任务测出来的官方数据,不是第三方独立测试。 定价,输入每十亿 token 42 美元,换算过来每百万 0.042 美元。 输出干脆免费。 毕竟一次判断吐不出几个字,再收钱就说不过去了,这定价确实有点狠。 官网还有一个很抓眼球的词,零幻觉。 这里必须说清楚,零幻觉的真实含义,是没有预设选项之外的话可说。 你给它 A 和 B,它只能在 A 和 B 里挑,不会跑出来编一个 C。 但选项之内选错,照样会错。 它管住的是嘴,不是脑子。 一个 OpenAI 老人,给 RLHF 挑刺 Jev 背后的人,比模型本身还有意思。 创始人叫 Diogo Almeida,OpenAI 前员工,参与过 RLHF 和 InstructGPT。 RLHF 是什么,讲一句人话:让模型照着人的偏好学说话,GPT 后来能好好说人话,靠的就是这一套。 也就是说,把 ChatGPT 调教好用的关键方法里,有他一份。 2024 年初,他从 OpenAI 离开创业,隐身两年,掏出了 Jev。 更有意思的是,出去之前,他给自己参与建造的这套东西提了一个问题。 AI 都会做高等数学了,为什么放到企业里,让它自己决定这笔退款给不给,大家就开始犹豫了? 他自己在演讲里给过一个判断: 今天的 AI,很会协助,不太能自动化。 讲人话就是,AI 帮你干活没问题,让它自己把活干完,企业不敢签字。 演讲里有页幻灯片,我印象很深。 左边一栏,Too good to be true,列着 ChatGPT、Copilot、Claude Code,全是最会协助的工具。 右边一栏,Too bad to be useful,列着客服、记账、保险,一切要签责任的活。 两栏中间隔着一条线,他问:什么解释了这条线? 这也就是 Jev 要回答的问题。 真正的自动化是什么? 人根本不在场。 AI 在后台自己判断,自己执行,一天跑几十万次,你甚至永远不会看到它做了什么。 为什么今天做不到,他把矛头指向了自己参与过的 RLHF。 演讲里有一句原话,大意是: 训练的时候,我们字面意义上就把人塞进了那个回路。 模型从第一天起,学的就是人更喜欢哪个回答。 不懂的地方,它也能答得头头是道。 这一点,大家在各家模型的日常体验里,多少都能对上号。 程序要的从来不是漂亮话。 它只问两句:这一步往哪走,你有多大把握。 Jev 就是照着这个思路做出来的。 玩家们已经玩疯了 模型一出,外网的玩家们先坐不住了。 这几天的实测刷了一屏,挑 6 个有意思的说。 第一个,玩超级马里奥。 官方自己上线了一个演示,叫 Typesafe plays Mario。 画面右边就是它的判断面板: 该跳还是该跑,right jump 概率最高,置信度 85%,一次判断 96 毫秒。 (这面板比人手还稳) 第二个,实时 Pong 对抗。 一场公开演示里,Jev 12 秒做了 47 次操作决策。 同一时间,几个主流大模型只做了两三次。 哈哈哈哈,这已经不是同一张时间表上的比赛了。 第三个,50 局地铁跑酷一起跑。 换道、跳跃、躲障碍,每一步都是一次小判断,50 局同时开。 全程费用,不到 1 美分。 第四个,代打杀戮尖塔 2。 一位中文开发者实测,一次行动思考约 0.7 秒。 人还没看清牌面,它已经出完手了。 (玩家看了都得沉默一下) 第五个,浏览器代查机票。 开源项目 jev-ultrafast,把整个页面能点的东西列成一张编号清单。 喂给 Jev,让它挑下一步点哪个。 7 秒,全部点完。 遇到要打字的地方,再叫一个生成文字的小模型补位。 第六个,是我觉得最牛叉的用法。 有人把 37 个品牌的 724 条广告,40 秒拆完,费用 9 美分。 分类、评分、卖点怎么开头、承诺和落地页对不对得上,一张表全给你打好标签。 想研究竞品的文案套路,以前得一条条啃,现在直接按标签筛。 40 秒,724 条,这个数我反复看了两遍。 这 6 个案例里,Jev 出现的位置一模一样:局面进来,判断出去,中间没有一句话。 游戏每走一步,网页每点一次,都能触发一次判断。 速度和价格降下来之后,开发者是真的敢往里堆调用了。 快和便宜,是把说砍掉换来的 看到这里你可能会问,凭什么它又快又便宜? 答案,就藏在它砍掉的那些东西里。 普通大模型哪怕只需要回答 A 还是 B,也要把一整段话从头到尾生成完。 快不起来,也便宜不下来。 Jev 直接不出声,判断完,把结论和概率塞给你。 普通大模型,回答一个判断: 你的问题 ↓ 组织语言,生成一大段话 ↓ 你再去解析,把结论抠出来 Jev: 你的问题,加预设选项 ↓ 直接返回:选项 + 概率 + 置信度 光砍生成还不够,判断本身也要靠谱。 TypeSafe 给 Jev 配了一套新的训练方法,叫 RLCD,校准决策强化学习。 RLHF 比的是哪个回答人更喜欢。 RLCD 比的是这个判断到底准不准,报出去的把握,和最后应验的比率,能不能对得上。 术语讲完了,说人话:它被专门训练过,别吹牛,说几成就是几成。 这训练目标,怎么听着比某些人还靠谱。 这个概率有什么用,开发者们玩出了按把握分流的路子。 置信度 0.9 以上,直接自动执行。 0.7 到 0.9,丢给更强的大模型复核一遍。 再低,转给人。 注意,这套分级是开发者实践里长出来的玩法,官方文档没写死,抄作业前自己掂量。 还有一个很爽的设计,并行。 三种问题可以混在一次调用里同时问,相互隔离,各答各的。 扔进去一条新闻,可以一口气问, 是不是 AI 相关,是不是广告,该归哪个分类,值不值得推给用户。 一次调用,全部返回。 加问题,几乎不加响应时间。 最后补一句诚实的,Jev 的架构官方没有公开。 外界猜测是基于某个开源底座改造的,官方没确认,听听就好。 真正麻烦的不是 AI 不知道,是 AI 不知道自己不知道。 名字里的野心:杰文斯悖论 Jev 这个名字,来自 19 世纪的经济学家 William Stanley Jevons。 他留下过一个著名的悖论。 蒸汽机越来越高效,烧同样的煤能干更多的活,按理说,煤应该越烧越少。 现实打了脸。 用煤越划算,用的人就越多,整个社会的煤炭消耗不减反增。 效率提高,单次变便宜,总量爆炸。 TypeSafe 用这个名字,野心已经摆在脸上了。 他们赌的就是,智能也会走一遍这条路。 一次判断 0.042 美元的时候,你只敢把它用在最重要的事上。 那如果,一次判断便宜到接近免费呢? 一封邮件的分流,一条日志的筛查,一个按钮的点击,Agent 走的每一步,都可能长出一次 AI 判断。 卡尼曼在那本很有名的《思考,快与慢》里,把人的思考分成两套系统。 系统 2 慢思考,一步一步推理,做数学证明、写复杂代码用。 系统 1 快判断,直觉式的,1 加 2 等于几,不用想。 现在的 GPT、Claude,卷的全是系统 2 那条路。 Jev 偏偏掉头去押系统 1。 大模型负责深思熟虑,Jev 负责脱口而出。 一次智能判断便宜到不要钱的时候,这个世界会发生什么? 怎么上手,以及它还嫩在哪 想上手试试的,两条路。 第一条,去官网申请 early access,多久批下来我说不准,不作承诺。 第二条,公开资料显示已经有平台把它接了进去,比如 Vercel 上可以直接用。 再说说它嫩在哪,三条。 第一,它是第一代模型。 公开的实测里,判断类任务它综合性价比很靠前。 要论精度,它不是全场最高的那个,别指望它替你做复杂推理。 第二,不开源,架构不公开,想本地部署的暂时没门。 第三,也是最容易被忽略的一条。 答案的空间要你提前画好。 你列的选项、定的问题,就是它全部的世界。 选项画歪了,它判得再快也是歪的。 最后想说的话 以前我总觉得,模型越大越全才越厉害,什么活都该一个模型全包。 后来发现,Agent 真跑起来以后,一天几十万个小判断,根本轮不到大模型深思熟虑。 我现在越来越觉得,AI 不一定要会说话。 判断,本身就是一种智能。 再往深一层想,这件事真正有意思的地方,不是又一个新模型。 是生成和判断,第一次被拆成了两种产品。 过去 AI 每一次出场,都要先开口说话。 现在有一家公司赌的是,机器不需要开口。 人不在场的时候,软件自己问,模型自己判,代码自己执行。 生成让人惊叹,判断让软件运转。 后者,才是每天发生几百万次的那件事。 说实话,我是真有点被这个思路打动了。 如果你也想试试,去申请个资格,手头那些判断类的活儿,可以丢给它玩玩。 至于实测,等我再熬个通宵。。 如果你是很多年前就关注过我。 谢谢你,还在。 如果你是最近才来到这里的新朋友,也欢迎你。 新的故事,从这里开始。 我是洛兹克。 这一次,我们一起走进AI时代。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容