Live API 的限制和规范


本页面介绍了使用 Live API 及其模型的各种限制和规范。

一般规范和限制

  • 支持的输入和输出:(详情请参阅下方的媒体格式

    • 输入:文本、图片(而非 PDF)、音频、视频
    • 输出:文本(转写)和音频(流式)
  • 支持的工具:函数调用、使用 Google Search 进行接地、使用 Google Maps 进行接地

  • 知识截点日期:2025 年 1 月

Live API 支持生成结构化输出(如 JSON)或使用 Count Tokens API。

与会话相关的限制

对于 Live API会话是指通过连接持续流式传输输入和输出的持久连接。

如果会话超出以下任何限制,连接就会终止。不过,Live API 提供了一些选项(见下文)来处理这些与会话相关的限制。

  • 会话上下文窗口的上限为 12.8 万个 token。

    由于存在此上下文窗口限制,以下是根据输入模态性得出的会话时长上限近似值:

    • 纯音频输入会话的时长上限为 15 分钟
    • 视频和音频输入时长限制为 2 分钟
  • 连接时长限制为大约 10 分钟

    在连接结束前约 60 秒,您会收到即将断开通知

以下是一些用于处理与会话相关的限制的选项:

  • 压缩会话上下文窗口,以便服务器自动将上下文大小保持在限制范围内。

  • 恢复会话,以防止在短暂的网络断开期间或收到即将断开连接通知后丢失对话上下文。

详细了解如何管理会话

速率限制

Live API 对每个 Firebase 项目的并发会话数以及每分钟的令牌数 (TPM) 都有速率限制。

  • Gemini Developer API

    • 限制因项目的 Gemini Developer API“使用层级”(请参阅其速率限制文档)而异
  • Agent Platform Gemini API (formerly Vertex AI)

    • 每个 Firebase 项目 1,000 个并发会话
    • 每分钟 400 万个 token

媒体格式

Live API 支持以下类型的媒体:

  • 输入:图片、音频、视频
  • 输出:音频

图片格式

Live API 支持以下图片输入:

  • 每个提示的图片数量上限:3,000

  • 每个文件的文件大小上限(内嵌数据):7 MB

  • 支持的 MIME 类型image/pngimage/jpegimage/webpimage/heicimage/heif

音频格式

Live API 支持以下音频格式:

  • 输入音频格式:原始 16 位 PCM 音频,采样率 16kHz,小端序
  • 输出音频格式:原始 16 位 PCM 音频,采样率 24kHz,小端序

  • 支持的 MIME 类型audio/x-aacaudio/flacaudio/mp3audio/m4aaudio/mpegaudio/mpgaaudio/mp4audio/oggaudio/pcmaudio/wavaudio/webm

如需传达输入音频的采样率,请将每个包含音频的 Blob 的 MIME 类型设置为类似 audio/pcm;rate=16000 的值。

视频格式

Live API 需要接收一系列离散的图片帧,并支持 1 帧/秒 (FPS) 的视频帧输入。

  • 建议的输入:768x768 原生分辨率,1 FPS。

  • 支持的 MIME 类型video/x-flvvideo/quicktimevideo/mpegvideo/mpegsvideo/mpgvideo/mp4video/webmvideo/wmvvideo/3gpp

请注意,此规范使得 Live API 不适合需要分析快速变化的视频的应用场景,例如高速体育赛事中的逐场比赛分析。

回答语音

Live API 支持 30 种不同的合成高清语音,每种语音都有不同的特征。您可以展开即可下部分,查看回答语音选项列表并试听每种语音

如果您未指定回答语音,则默认为 Puck

了解如何指定回答语音

语言

Live API 支持以下语言。 了解如何影响回答语言

所有音频生成模型支持的语言
语言 BCP-47 代码 语言 BCP-47 代码
阿拉伯语(埃及语) ar-EG 德语(德国) de-DE
英语(美国) en-US 西班牙语(美国) es-US
法语(法国) fr-FR 印地语(印度) hi-IN
印度尼西亚语(印度尼西亚) id-ID 意大利语(意大利) it-IT
日语(日本) ja-JP 韩语(韩国) ko-KR
葡萄牙语(巴西) pt-BR 俄语(俄罗斯) ru-RU
荷兰语(荷兰) nl-NL 波兰语(波兰) pl-PL
泰语(泰国) th-TH 土耳其语(土耳其) tr-TR
越南语(越南) vi-VN 罗马尼亚语(罗马尼亚) ro-RO
乌克兰语(乌克兰) uk-UA 孟加拉语(孟加拉) bn-BD
英语(印度) en-IN 和 hi-IN 捆绑包 马拉地语(印度) mr-IN
泰米尔语(印度) ta-IN 泰卢固语(印度) te-IN
音频生成 3.x 模型支持的其他语言
语言 BCP-47 代码 语言 BCP-47 代码
南非荷兰语 南非荷兰语 菲律宾语 fil
阿尔巴尼亚语 阿尔巴尼亚语 芬兰语 芬兰语
阿姆哈拉语 阿姆哈拉语 加利西亚语 加利西亚语
亚美尼亚语 亚美尼亚语 格鲁吉亚语 格鲁吉亚语
阿塞拜疆语 阿塞拜疆语 希腊语 希腊语
巴斯克语 eu 古吉拉特语 古吉拉特语
白俄罗斯语 be 海地克里奥尔语 ht
保加利亚语 保加利亚语 希伯来语 he
缅甸语 缅甸语 匈牙利语 匈牙利语
加泰罗尼亚语 ca 冰岛语
宿务语 ceb 爪哇语 jv
中文(普通话) cmn 卡纳达语 卡纳达语
克罗地亚语 小时 贡根语 kok
捷克语 cs 老挝语 lo
丹麦语 丹麦语 拉丁语 la
爱沙尼亚语 爱沙尼亚语 拉脱维亚语 lv
立陶宛语 lt 卢森堡语 lb
马其顿语 马其顿语 迈蒂利语 mai
马尔加什语 mg 马来语 ms
马拉雅拉姆语 马拉雅拉姆语 蒙古语 mn
尼泊尔语 尼泊尔语 挪威语(博克马尔语) nb
挪威语(尼诺斯克语) nn 奥里亚语
普什图语 ps 波斯语 波斯语
旁遮普语 旁遮普语 塞尔维亚语 sr
信德语 sd 僧伽罗文 si
斯洛伐克语 sk 斯洛文尼亚语 斯洛文尼亚语
斯瓦希里语 sw 瑞典语 瑞典语
乌尔都语 乌尔都语