资讯AI 辅助草稿

动态Gemini 3.1 Flash Live Preview 把首 token 延迟压到前代的四成

本站 · 发布于 2026-11-15 21:02

Gemini 3.1 Flash Live Preview 把首 token 延迟压到前代的四成

Google 上线了实时音频模型 Gemini 3.1 Flash Live Preview,API 标识为 google/gemini-3.1-flash-live-preview,目前处于预览阶段。官方给出的核心指标是:首个 token 生成时间(TTFT)比前代缩短 2.5 倍,上下文窗口 131K。第三方模型目录页面上标出的价格是每百万 token 0.75 美元,但该页面同时提示,文本、音频、视频分属不同费率层级,多模态应用的实际成本不好预估。

打断、画面与函数调用

这个模型采用 speech-to-speech 架构,不经过“语音转文本再转语音”的两段式管线。开发者社区的反馈集中在两点:一是延迟低,有人在社交平台上称这是 Google 在实时模型上“有史以来最低的 latency”;二是支持打断,用户可以在模型说到一半时插话,模型会自行调整。摄像头画面与语音结合的多模态输入也在支持范围内。

函数调用的行为和常见语音助手不同。模型调用工具时会停止说话,等待响应返回,工具按顺序同步执行。这意味着 agent 在查数据库或调外部接口的那几秒里是静音的,不会出现“一边胡说一边等结果”的情况。

噪音过滤强,复杂推理弱

在 Big Bench Audio 上,餐馆、繁忙道路这类嘈杂环境的识别准确率保持在 95.9%。这个数字对真实场景的语音交互比实验室安静环境更有参考价值。

推理侧则是另一回事。模型提供可配置的 thinkingLevel,开发者可以调高或调低,在逻辑深度和速度之间找平衡点。一位署名 DevGuru_X 的开发者评价说,这个开关“对于平衡速度与推理能力非常有用”。但同一份材料也写明,面对复杂的博士级任务,它的原始推理得分低于旗舰级的 Gemini 3.1 Pro。Flash 系列的定位没有变:快,而不是最深。

预览期的变量

预览阶段意味着两件事需要开发者自己承担:速率限制可能波动,模型行为可能在未提前通知的情况下调整。对于已经把实时语音接进生产环境、或者正在做客服、陪练、实时翻译类产品的团队,这意味着上线前要留出回归测试的余量。

Gemini 3.1 Flash Live Preview 的价格和延迟组合,把实时语音交互的成本门槛又往下压了一档;至于它在多轮长对话里能不能守住 95.9% 那个噪音数字,要等预览期结束、速率稳定之后才看得清。

来源

  1. Gemini 3.1 Flash Live:每百万 token 0.75 美元的实时音频 AI