|
Bu sayfada sağlayıcıya özel içerikleri ve kodu görüntülemek için Gemini API sağlayıcınızı tıklayın. |
Hız sınırları (genellikle kota olarak adlandırılır), belirli bir zaman aralığında Gemini API'ya yapabileceğiniz istek sayısını düzenler. Bu sınırlar, adil kullanımın sağlanmasına, kötüye kullanıma karşı korunmaya ve sistem performansının tüm kullanıcılar için korunmasına yardımcı olur.
Firebase AI Logic kullanarak Gemini ve Imagen modellerine istek gönderdiğinizde projenizin hız sınırları, seçtiğiniz "Gemini API" sağlayıcıya bağlıdır. Firebase AI Logic ayrıca "kullanıcı başına" sıklık sınırları belirlemenin bir yolunu da sunar.
Gemini Developer API için sıklık sınırlarını görüntüleme
Sıklık sınırlarının (kotaların) işleyiş şekli
Hız sınırları (kotalar) dört boyutta ölçülür:
- Dakikada istek sayısı (RPM)
- Günlük istek sayısı (RPD)
- Dakikadaki jeton sayısı (TPM)
- Günlük jeton sayısı (TPD)
Kullanımınız her sınıra göre değerlendirilir ve herhangi bir sınırı aşmanız durumunda 429 kota aşıldı hatası tetiklenir. Örneğin, RPM sınırınız 20 ise TPM veya diğer sınırlarınızı aşmamış olsanız bile bir dakika içinde 21 istekte bulunmanız hataya neden olur.
Hız sınırları proje düzeyinde uygulanır ve ilgili Firebase projesini kullanan tüm uygulamalar ve IP adresleri için geçerlidir.
Sınırlar, kullanılan modele göre değişir ve bazı sınırlar yalnızca belirli modeller için geçerlidir. Örneğin, dakikadaki resim sayısı (IPM) yalnızca resim oluşturabilen modeller için hesaplanır (Imagen 3), ancak kavramsal olarak TPM'ye benzer.
Deneysel ve önizleme modellerinde hız sınırları daha kısıtlıdır.
Oran sınırı artışı isteğinde bulunma
Gemini Developer API için "ücretli katmanda"ysanız hız sınırı artışı isteğinde bulunabilirsiniz.
"Kullanıcı başına" sıklık sınırları ayarlama
Firebase AI Logic kullanmak için projenizde seçtiğiniz Gemini API sağlayıcının etkinleştirilmesi gerekir. Ayrıca, istemci SDK'larımız ile Gemini API sağlayıcınız arasında ağ geçidi görevi gören Firebase AI Logic API'nin de etkinleştirilmesi gerekir. Bu API, Firebase projenizde ilk kez Firebase AI Logic ayarlarını yaptığınızda sizin için etkinleştirilir.
Firebase AI Logic API hız sınırını (kota), uygulamanız için "kullanıcı başına" hız sınırı olarak kullanabilirsiniz. Bu özellikle, Firebase AI Logic'a dayalı yapay zeka özellikleri için geçerlidir. Gemini API sağlayıcınızın sınırlarının (tüm kullanıcılarınız tarafından paylaşılması amaçlanır) tek bir kullanıcı tarafından aşılmamasını sağlarken yapay zeka özelliklerinize erişen tek bir kullanıcının makul şekilde karşılanması için bu sınırı ayarlamanız gerekir.
"Kullanıcı başına" hız sınırı hakkında ayrıntılar
Firebase AI Logic API'siyle ilgili önemli ayrıntıları (özellikle dakika başına istek sayısı (RPM) olmak üzere) aşağıda bulabilirsiniz:
Bu sınır, kullanıcı başına, bölge başına ve dakika başına "İçerik oluşturma istekleri"ne göre belirlenir ve modele göre belirlenmez.
Proje düzeyinde geçerli olup söz konusu Firebase projesini kullanan tüm uygulamalar ve IP adresleri için geçerlidir.
Bu, özellikle herhangi bir Firebase AI Logic SDK'dan gelen tüm aramalar için geçerlidir.
Varsayılan hız sınırı, kullanıcı başına 100 RPM'dir.
Gemini API sağlayıcınızın sınırlarını (yukarıya bakın) yine de göz önünde bulundurmanız gerektiğini unutmayın. Bu sınırlar, Firebase AI Logic API'sinden önceliklidir.
"Kullanıcı başına" hız sınırını ayarlama
Bir sıklık sınırını (kota) ayarlamak için serviceusage.quotas.update iznine sahip olmanız gerekir. Bu izin, Sahip ve Düzenleyici rollerine varsayılan olarak verilmiştir.
Hız sınırınızı (kotanızı) düzenleme veya artış isteğinde bulunma:
Google Cloud konsolunda, Firebase AI Logic API'nin sayfasına gidin.
Yönet'i tıklayın.
Sayfanın alt kısmında Kotalar ve Sistem Sınırları sekmesini tıklayın.
Tabloyu, kapasite (içerik oluşturma istekleri) ve bölge gibi ilgilendiğiniz kotaları gösterecek şekilde filtreleyin.
Örneğin, desteklenen Asya bölgelerinden herhangi birinde içerik isteği oluşturmayla ilgili kullanıcı başına kotaları görüntülemek için filtreniz şu şekilde görünür:
Generate content requests+Dimension:region:asiaİlgilendiğiniz her kotanın solundaki onay kutusunu işaretleyin.
Kotanın satırının sonunda simgesini tıklayın ve ardından Kotayı düzenle'yi seçin.
Kota değişiklikleri formunda aşağıdakileri yapın:
Artırılan kotayı Yeni değer alanına girin.
Bu kota proje düzeyinde geçerlidir ve ilgili Firebase projesini kullanan tüm uygulamalar ve IP adresleri arasında paylaşılır.
Formdaki diğer alanları doldurup Bitti'yi tıklayın.
İstek gönder'i tıklayın.