|
按一下您的Gemini API供應商，即可在這個頁面查看供應商專屬內容和程式碼。 |
頻率限制 (通常稱為配額) 會規範您在指定時間範圍內，可向 Gemini API 提出的要求數量。這些限制可確保公平使用、防範濫用行為，並維持所有使用者的系統效能。
使用 Firebase AI Logic 存取 Gemini 模型時，專案的頻率限制取決於您選擇的 Gemini API 供應商。Firebase AI Logic也提供設定「每位使用者」頻率限制的方法。
如果超出配額，或您存取的模型容量已用盡，就會收到 429 錯誤訊息。
頻率限制 (配額) 的運作方式
頻率限制 (配額) 是以四個維度衡量：
- 每分鐘要求數 (RPM)
- 每日要求數 (RPD)
- 每分鐘詞元數 (TPM)
- 每日詞元數 (TPD)
系統會根據各項限制評估您的用量，只要超出任何一項限制，就會觸發 429 錯誤，表示超出配額。舉例來說，如果 RPM 限制為 20，則在一分鐘內提出 21 項要求會導致錯誤，即使未超過 TPM 或其他限制也一樣。
頻率限制會在專案層級套用，並適用於使用該 Firebase 專案的所有應用程式和 IP 位址。
限制會因使用的模型而異，部分限制僅適用於特定模型。
實驗和預先發布版模型的頻率限制較嚴格。
要求提高頻率限制
如果您使用的是 Gemini Developer API 的「付費級別」，則可要求提高頻率限制。
設定「每位使用者」的頻率限制
如要使用 Firebase AI Logic，專案必須啟用您選擇的 Gemini API 供應商，但也需要啟用 Firebase AI Logic API，做為用戶端 SDK 和 Gemini API 供應商之間的閘道。在 Firebase 專案中初次設定 Firebase AI Logic 時，系統會為您啟用這個 API。
您可以將 Firebase AI Logic API 頻率限制 (配額) 做為應用程式的「每位使用者」頻率限制，特別是依賴 Firebase AI Logic 的 AI 功能。您應設定這項限制，合理容納單一使用者存取 AI 功能，同時確保沒有任何使用者超出 Gemini API 供應商的限制 (應由所有使用者共用)。
「每位使用者」頻率限制的詳細資料
以下是 Firebase AI Logic API 頻率限制 (配額) 的重要資訊，特別是每分鐘要求數 (RPM)：
這項配額是以每位使用者、每個區域、每分鐘的「生成內容要求」為依據，而非以模型為依據。
這是套用至「所有」使用者的頻率限制。目前無法為特定使用者或特定使用者群組設定頻率限制*。
這項設定適用於專案層級，以及使用該 Firebase 專案的所有應用程式和 IP 位址。
這項政策適用於任何明確來自 Firebase AI Logic SDK 的呼叫。
預設頻率限制為每位使用者每分鐘 100 次。
請注意，您仍須考量 Gemini API 供應商的限制 (請參閱上文)，這些限制優先於 Firebase AI Logic API。
* 如果您使用 Agent Platform Gemini API (formerly Vertex AI)，且應用程式會將使用者導向不同區域 (例如使用 Firebase Remote Config)，則可為特定區域的使用者設定特定頻率限制。
調整「每位使用者」頻率限制
如要調整頻率限制 (配額)，您必須具備 serviceusage.quotas.update 權限，擁有者和編輯者角色預設具備這項權限。
如要編輯頻率限制 (配額) 或要求提高配額，請按照下列步驟操作：
在 Google Cloud 控制台中，前往 Firebase AI Logic API 頁面。
點選「管理」。
在頁面下方，按一下「配額與系統限制」分頁標籤。
篩選表格，顯示感興趣的配額，例如功能 (生成內容的要求) 和區域。
舉例來說，如要查看任何支援的亞洲區域中，每位使用者生成內容要求的配額，篩選器會類似於：
Generate content requests+Dimension:region:asia找出要查看的配額，逐一勾選左側的核取方塊。
按一下配額資料列末端的 ，然後選取「Edit quota」(編輯配額)。
在「Quota changes」(配額變更) 表單中，執行下列操作：
在「New value」(新值) 欄位輸入提高的配額。
這項配額適用於專案層級，並由使用該 Firebase 專案的所有應用程式和 IP 位址共用。
填妥表單中任何其他欄位，然後按一下「Done」(完成)。
按一下 [提交要求]。