最新资讯
dev.to 浏览器内实时 AI 配音:五个时序 bug 及我们的测量方法 bloomberg.com Duke Energy 预计数据中心仍将增长,尽管美国各地出现反对声 unite.ai 菜鸟开放全球仓储网络,用于具身智能训练 unite.ai Anthropic 在 Claude 中推出只读个人财务 Beta techcrunch.com OpenAI 总裁 Greg Brockman 称公司可能在 2027 年具备 IPO 条件 unite.ai Google 在 Gemini Canvas 中演示基于草图的 App 原型开发 theinformation.com METR 研究:AI 或使 Anthropic 研发速度翻倍 unite.ai Stardock Clairvoyance 新增 Hivemind,共享闲置 GPU 用于本地 AI theverge.com Claude 可经 Plaid 直连银行账户管理个人财务 techcrunch.com Claude 新增个人财务工具,可分析用户支出 bloomberg.com Anthropic 与 Plaid 合作提供 AI 消费者财务指导 unite.ai OpenAI 发布 GPT-6 Cyber,限制访问并加入范围控制
多元动态
登录 注册
行业动态 wechat · @极客之家

谷歌 Genie 4 直接炸场:世界模型真的开口说话了,还能跟你对话交互

原文 我的收藏
未提供

正文

从昨天开始,谷歌 Genie 4 已经刷屏了。 刷到了很多文章,各个群里转的都是同一个东西,Google DeepMind 放出来的新一代世界模型。官方的说法是,这是他们迄今为止最逼真、最具交互性的一个世界模型。 各家报道看下来,角度不太一样,有盯着画质说的,有盯着物理说的。我把官方博客和几家的报道都翻了一遍,演示视频前前后后看了十几遍。我觉得这代最值得聊的,还是标题里那件事,它能出声了。而且这个出声不是随便贴一条背景音糊弄事,具体是怎么回事,咱们从头说。 先简单介绍下 先花一点时间把这事说清楚,因为很多人看到「世界模型」四个字就直接划走了。 过去两年大家玩的文生视频,Sora、可灵、Veo 这些,用法都差不多。你写一段提示词,等几十秒,拿回来一条片子。不满意就改提示词,重新生成,再来一遍。整个过程里那条片子是死的,镜头往哪走、人干什么,生成完就定死了,你插不上手。 Genie 4 不一样的地方在于,它生成的那个世界是一直在跑的。你按方向键,视角就跟着往前走。你打一行字说下点雪,天真的就开始下雪。里面的人会走会动,你凑到跟前,还能跟他们说话。一条死片子和一个一直在跑的世界,差别就在这。后面说声音、说人物、说物理,都是建立在这个差别上的。 这次的重点是声音 Genie 这个系列以前一直是没声音的,画面做得再真也是默片。这次 Genie 4 是第一次画面和声音一起生成。注意我说的是一起生成,声音不是做完画面再后期配上去的,模型出每一帧画面的时候,就把声音一块算出来了。 官方演示里有个骑马的片段我记得很清楚。一个人骑马蹚过浅滩,马蹄踩进水里,溅水声跟着就起来了。镜头拉远,水声就变闷变小。走到一堆篝火旁边,木柴噼啪的声音一点点大起来。也就是说这个声音是认空间的,远和近听着不一样,跟我们在现实里的听感基本是一回事。 比环境音更夸张的是对话。你走到一个虚拟人面前,直接开口或者打字,他会根据当前这个场景回你,语音是实时生成的,语气还跟着场景的氛围走。 做游戏的朋友看到这可能已经在想了。环境音,加上可对话的 NPC,这不就是游戏世界最基本的两样东西吗。以前这两样得靠音效师和编剧一点一点做,现在模型直接就能生成出来。 画面里的人也比以前强了不少。以前几代模型里的人是没法细看的,脸糊,动作飘,多看两秒就出戏。这次官方自己说人物这块提升最大,从演示看这话不算吹,微表情、走路的姿态、车身上的镜面反射,都能经得起特写。有一段是 16 毫米胶片质感的,一个萨克斯手站在悬浮平台上吹,胶片颗粒加上那个光影,我来回看了好几遍,真有点老纪录片的意思。 转头再回来,东西不会乱变 光有声音还不够。以前几代世界模型还有个很出戏的毛病,就是世界没有连续性。你一转头,身后的东西就变了,桌子没了,墙换了个颜色,跟做梦似的。 这次好不少,官方演示里,视角推开一扇门,门后面会生成一个说得通的房间,跟这栋房子是搭得上的,不是随便糊一个。还有踢椅子的演示,把椅子踢倒,转身走开,再转回来,椅子还倒在那。听着好像是小事,但之前几代就是做不到这一点。 物理方面也能看出进步。慢镜头切开的西瓜,碎片飞散的方向是对的。枫树种子从树上掉下来,会转着圈往下飘,那个姿态是符合空气动力学的。还有一段八十年代东京火车站台的长镜头,站台上几十个人,走路的、停顿的、躲人的,各走各的节奏,人群看着不是批量复制出来的。 时长这块,上一代 Genie 3 大概能撑一分钟,这代媒体报道说翻了一倍,差不多两分钟。这个数是 TechCrunch 给的,DeepMind 自己的官方博客写得挺保守,只说能保持短时间的连贯,没给具体数字。我个人倾向信两分钟这个说法,但大家看的时候知道它来自哪就行。 背后是几个模型在分工 再说下背后是怎么跑的,技术细节不展开,就说个大概。 Genie 4 背后其实是 Gemini 家族的几个模型在分活干。一个叫 Gemini Omni 的,管这个世界的样貌和物理,东西长什么样、怎么动,它来把握。另一个叫 Gemini 3.8 Flash 的,在运行过程中实时盯着画面,你输入一个想法,它把这件事拆成一步一步的,再逐帧检查做得对不对。谷歌自己把这个角色叫做导演,还挺形象的。 另外有个玩法挺有意思。他们把最强的 Gemini 4 Argon 放进 Genie 4 生成的虚拟房间里,指挥一个机器人下跳棋。Argon 负责把下棋拆成 22 个精细动作,Genie 4 负责把每一步实时渲染出来。机器人就在这个虚拟世界里一步一步把整盘棋下完了,还会叠衣服、收拾桌面这些家务活。 往深了想一层,这套搭配透露的方向比演示本身重要。谷歌研究总监之前说过,以后大家会越来越多看到 Gemini 管写代码和文字、Genie 管实时模拟现实这种组合。 落到实际用途上,就是让机器人先在虚拟世界里练手,练会了再回现实世界干活。Waymo 已经这么干了,去年开始拿上一代模型生成龙卷风、洪水、野地里突然窜出来的动物这种平时很难遇到的危险路况,摄像头和激光雷达的数据都一起模拟出来,专门拿去考自家的无人车。毕竟在真实路上跑一次的代价,跟在模拟里跑一万次,完全没法比。 说说问题 夸完了,说说问题,还不少。 一个是时长,两分钟封顶。所以目前它能给你的,就是一个短的、鲜活的、可以操控的世界片段,想在里面跑一个小时的开放世界,还早得很。 一个是稳定性。跑久了细节会漂,这个是谷歌自己承认的,修改次数多了之后尤其明显,画面里的文字也还是容易乱。复杂物理、长期一致性这些,官方的说法是活跃研究领域,意思就是还没搞定。 还有个事得提醒一下。我们现在看到的所有演示,全都是官方精挑细选放出来的。那个萨克斯手的案例,提示词写了好几段,不是随便丢一句话进去就能出来的效果。所以可以达到这种效果,但是不是你随便一句提示词就能达到,这是完全不一样的。 最后一点,也是跟咱们关系最大的一点:现在用不了。目前只有受信任的测试者能玩,接下来几周会先给 Google AI Ultra 的订阅用户,咱们普通用户只能先去排个候补名单。所以今天这篇,也就是带大家一起看看官方放出来的东西,先心里有个数。 市场上的动静 技术聊完了,市场那边的反应也值得看一眼。 今年 1 月,谷歌把上一代模型做成 Project Genie 放出来,当天游戏股就集体跳水了。原因不难想,AI 要是能直接生成可交互的世界,那游戏引擎和中间件这些东西的价值就得重新算了。这次 Genie 4 发布,游戏股又跟着动了一下。 赛道里最近也很热闹。李飞飞创办的 World Labs 被 AMD 收了,亚马逊在谈收购另一家世界模型公司 Decart。做车的 Rivian 干脆把仿真公司 Third Dimension 买了进来,自己给自动驾驶测试造虚拟世界。Runway 几个月前刚发了自己的第二代世界模型 GWM Worlds 2,也能交互,也带声音。这些收购和发布全挤在这几个月里,不太像巧合。 另外 TechCrunch 的报道里还提到,拿到测试资格的人里有一拨是搞电影的,他们拿 Genie 4 做分镜预演,导演在实时模拟里跑好几条,现场调机位、调灯光、调台词。还有摄影记者拿它复活历史照片,把一张凝固的档案照片变成一个能走进去、能跟里面的人聊天的场景。这些用法谷歌自己都没怎么宣传,但我个人觉得,这些比官方演示更能说明这东西以后能干什么。 这里也说句实话,这篇文章里引用的所有画面,全都来自官方放出的演示和拿到测试资格的人的反馈,我自己还没摸到实物。真实水位要等大规模开放之后才有数,好在不用等太久,Ultra 订阅用户几周内就能用上了。 谈谈我的看法 两年前 Genie 第一代出来的时候,生成的是一团糊的游戏画面,动作都看不清,那时候大部分人拿它当玩具看。现在两年过去,它生成的东西有声音了,空间有记忆了,物理也像那么回事了,行业里真金白银的收购也开始了。这个进步速度确实是快的。 至于说是不是什么时代来了,我觉得现在下这个结论还早。等 Ultra 用户上手之后有了真实反馈,咱们再回来聊体验。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容