|
Bu sayfada sağlayıcıya özel içerikleri ve kodları görüntülemek için Gemini API sağlayıcınızı tıklayın. |
Sıklık sınırları (genellikle kota olarak adlandırılır), belirli bir zaman aralığında Gemini API için yapabileceğiniz istek sayısını düzenler. Bu sınırlar, adil kullanım sağlamaya, kötüye kullanıma karşı korumaya ve tüm kullanıcılar için sistem performansını korumaya yardımcı olur.
Gemini modellerine erişmek için Firebase AI Logic kullanırken projenizin sıklık sınırları, seçtiğiniz Gemini API sağlayıcısına bağlıdır. Firebase AI Logic, "kullanıcı başına" sıklık sınırlamaları belirlemenize de olanak tanır.
Gemini Developer API için sıklık sınırlarını görüntüleme
Kotanızı aşarsanız veya eriştiğiniz modelin kapasitesi dolarsa 429 hata mesajı alırsınız.
Sıklık sınırlarının (kotalar) işleyiş şekli
Sıklık sınırları (kotalar) dört boyutta ölçülür:
- Dakika başına istek sayısı (RPM)
- Günlük istek sayısı (RPD)
- Dakika başına jeton sayısı (TPM)
- Günlük jeton sayısı (TPD)
Kullanımınız her bir sınıra göre değerlendirilir ve bu sınırlardan herhangi birinin aşılması, 429 kota aşımı hatasını tetikler. Örneğin, RPM sınırınız 20 ise TPM'nizi veya diğer sınırlarınızı aşmamış olsanız bile bir dakika içinde 21 istek gönderdiğinizde hata alırsınız.
Sıklık sınırları proje düzeyinde uygulanır ve söz konusu Firebase projesini kullanan tüm uygulamalar ve IP adresleri için geçerlidir.
Sınırlar, kullanılan modele göre değişir ve bazı sınırlar yalnızca belirli modeller için geçerlidir.
Deneysel ve önizleme modellerinde kullanım sınırları daha kısıtlıdır.
Sıklık sınırlaması artışı talep etme
Gemini Developer API için "ücretli katman" kullanıyorsanız sıklık sınırlamasının artırılmasını talep edebilirsiniz.
"Kullanıcı başına" sıklık sınırları belirleme
Firebase AI Logic hizmetini kullanmak için projenizde seçtiğiniz Gemini API sağlayıcısının etkinleştirilmesi gerekir. Ayrıca istemci SDK'larımız ile Gemini API sağlayıcınız arasında ağ geçidi görevi gören Firebase AI Logic API'nin de etkinleştirilmesi gerekir. Bu API, Firebase projenizde Firebase AI Logic ürününü ilk kez ayarladığınızda etkinleştirilir.
Firebase AI Logic API sıklık sınırlaması (kota), uygulamanız için "kullanıcı başına" sıklık sınırlaması olarak kullanabilirsiniz. Bu, özellikle Firebase AI Logic'a dayalı yapay zeka özellikleri için geçerlidir. Bu sınırı, yapay zeka özelliklerinize erişen tek bir kullanıcıyı makul bir şekilde barındıracak ve aynı zamanda hiçbir kullanıcının Gemini API sağlayıcınızın sınırlarını aşmamasını (tüm kullanıcılarınız tarafından paylaşılması amaçlanmıştır) sağlayacak şekilde ayarlamanız gerekir.
“Kullanıcı başına” sıklık sınırlaması hakkında ayrıntılar
Firebase AI Logic API sıklık sınırları (kotalar), özellikle de dakika başına istek sayısı (RPM) ile ilgili bazı önemli ayrıntılar şunlardır:
Bu kota, kullanıcı, bölge ve dakika başına "İçerik oluşturma istekleri"ne göre belirlenir ve modele göre belirlenmez.
Tüm kullanıcılarınıza uygulanan sıklık sınırlamasıdır. Şu anda belirli bir kullanıcı veya belirli bir kullanıcı grubu için sıklık sınırlaması ayarlamanın bir yolu yoktur*.
Proje düzeyinde geçerlidir ve söz konusu Firebase projesini kullanan tüm uygulamalar ve IP adresleri için geçerlidir.
Özellikle herhangi bir Firebase AI Logic SDK'sından gelen tüm çağrılar için geçerlidir.
Varsayılan sıklık sınırı, kullanıcı başına 100 RPM'dir.
Gemini API sağlayıcınızın sınırlarını (yukarıya bakın) dikkate almanız gerektiğini unutmayın. Bu sınırlar, Firebase AI Logic API'ye göre önceliklidir.
* Agent Platform Gemini API (formerly Vertex AI) kullanıyorsanız ve uygulamanız kullanıcıları farklı bölgelere yönlendiriyorsa (ör. Firebase Remote Config kullanarak) belirli bir bölgedeki kullanıcılar için belirli bir sıklık sınırlaması ayarlayabilirsiniz.
“Kullanıcı başına” sıklık sınırlamasını ayarlama
Sıklık sınırını (kota) ayarlamak için serviceusage.quotas.update iznine sahip olmanız gerekir. Bu izin, Sahip ve Düzenleyici rollerinde varsayılan olarak bulunur.
Sıklık sınırlamanızı (kota) düzenlemek veya artırma isteğinde bulunmak için:
Google Cloud konsolunda Firebase AI Logic API sayfasına gidin.
Yönet'i tıklayın.
Sayfanın alt kısmında Kotalar ve Sistem Sınırları sekmesini tıklayın.
Tabloyu, ilgilendiğiniz kotaları (ör. özellik (içerik oluşturma istekleri) ve bölge) gösterecek şekilde filtreleyin.
Örneğin, desteklenen Asya bölgelerinden herhangi birinde içerik oluşturma istekleri için kullanıcı başına kotaları görüntülemek istiyorsanız filtreniz şuna benzer:
Generate content requests+Dimension:region:asiaİlgilendiğiniz her kotanın solundaki onay kutusunu işaretleyin.
Kotanın satırının sonunda simgesini tıklayın ve ardından Kotayı düzenle'yi seçin.
Kota değişiklikleri formunda aşağıdakileri yapın:
Yeni değer alanına artırılan kotayı girin.
Bu kota, proje düzeyinde geçerlidir ve söz konusu Firebase projesini kullanan tüm uygulamalar ve IP adresleri arasında paylaşılır.
Formdaki diğer alanları doldurun ve Bitti'yi tıklayın.
İstek gönder'i tıklayın.