|
คลิกผู้ให้บริการ Gemini API เพื่อดูเนื้อหาเฉพาะของผู้ให้บริการ และโค้ดในหน้านี้ |
ขีดจำกัดอัตราคำขอ (โดยทั่วไปเรียกว่าโควต้า) จะควบคุมจำนวนคำขอที่คุณส่งไปยัง Gemini API ได้ภายในกรอบเวลาที่กำหนด ขีดจำกัดเหล่านี้ช่วยให้มั่นใจได้ถึงการใช้งานอย่างยุติธรรม ป้องกันการละเมิด และช่วยรักษาประสิทธิภาพของระบบสำหรับผู้ใช้ทุกคน
เมื่อใช้ Firebase AI Logic เพื่อเข้าถึงโมเดล Gemini ขีดจำกัดอัตราคำขอของโปรเจ็กต์ จะขึ้นอยู่กับผู้ให้บริการ Gemini API ที่คุณเลือก Firebase AI Logic ยังมีวิธี ตั้งค่าขีดจำกัดอัตราคำขอ "ต่อผู้ใช้" ด้วย
ดูขีดจำกัดอัตราคำขอสำหรับ Gemini Developer API
หากคุณใช้โควต้าเกินหรือความจุของโมเดลที่คุณเข้าถึงหมดลง คุณจะได้รับข้อความแสดงข้อผิดพลาด 429
วิธีการทำงานของขีดจำกัดอัตราคำขอ (โควต้า)
ระบบจะวัดขีดจำกัดอัตราคำขอ (โควต้า) ใน 4 มิติข้อมูล ได้แก่
- คำขอต่อนาที (RPM)
- คำขอต่อวัน (RPD)
- โทเค็นต่อนาที (TPM)
- โทเค็นต่อวัน (TPD)
ระบบจะประเมินการใช้งานของคุณเทียบกับขีดจำกัดแต่ละรายการ และการใช้งานเกินขีดจำกัดใดรายการหนึ่งจะทำให้เกิดข้อผิดพลาด 429 (ใช้โควต้าเกิน) เช่น หากขีดจำกัด RPM ของคุณคือ 20 การส่งคำขอ 21 รายการภายใน 1 นาทีจะทำให้เกิดข้อผิดพลาด แม้ว่าคุณจะยังไม่ได้ใช้ TPM หรือขีดจำกัดอื่นๆ เกินก็ตาม
ระบบจะใช้ขีดจำกัดอัตราคำขอที่ระดับโปรเจ็กต์และใช้กับแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
ขีดจำกัดจะแตกต่างกันไปตามโมเดลที่ใช้ และขีดจำกัดบางรายการใช้ได้กับโมเดลบางรายการเท่านั้น
ขีดจำกัดอัตราคำขอจะเข้มงวดมากขึ้นสำหรับโมเดลทดลองและโมเดลเวอร์ชันตัวอย่าง
ขอเพิ่มขีดจำกัดอัตราคำขอ
หากคุณใช้ "แพ็กเกจแบบชำระเงิน" สำหรับ Gemini Developer API คุณจะ ขอเพิ่มขีดจำกัดอัตราคำขอได้
ตั้งค่าขีดจำกัดอัตราคำขอ "ต่อผู้ใช้"
หากต้องการใช้ Firebase AI Logic โปรเจ็กต์ของคุณต้องเปิดใช้ผู้ให้บริการ Gemini API ที่คุณเลือกไว้ แต่คุณยังต้องเปิดใช้ Firebase AI Logic API ซึ่งทำหน้าที่เป็นเกตเวย์ระหว่าง SDK ของไคลเอ็นต์กับผู้ให้บริการ Gemini API ของคุณ ระบบจะเปิดใช้ API นี้ให้คุณเมื่อคุณตั้งค่า Firebase AI Logic ในโปรเจ็กต์ Firebase เป็นครั้งแรก
คุณสามารถใช้ขีดจำกัดอัตราคำขอ (โควต้า) ของ Firebase AI Logic API เป็นขีดจำกัดอัตราคำขอ "ต่อผู้ใช้" สำหรับแอป โดยเฉพาะอย่างยิ่งสำหรับฟีเจอร์ AI ที่ใช้ Firebase AI Logic คุณควร ตั้งค่าขีดจำกัดนี้ให้เหมาะสมกับการเข้าถึงฟีเจอร์ AI ของผู้ใช้รายเดียว ในขณะเดียวกันก็ต้องมั่นใจว่า ไม่มีผู้ใช้รายใดรายหนึ่งใช้งานเกินขีดจำกัดของผู้ให้บริการ Gemini API (ซึ่ง มีไว้ให้ผู้ใช้ทุกคนใช้ร่วมกัน)
รายละเอียดเกี่ยวกับขีดจำกัดอัตราคำขอ "ต่อผู้ใช้"
รายละเอียดสำคัญบางประการเกี่ยวกับขีดจำกัดอัตราคำขอ (โควต้า) ของ Firebase AI Logic API ซึ่งก็คือคำขอต่อนาที (RPM) มีดังนี้
ขีดจำกัดนี้อิงตาม "คำขอสร้างเนื้อหา" ต่อผู้ใช้ ต่อภูมิภาค ต่อนาที และ ไม่ได้ อิงตามโมเดล
ขีดจำกัดอัตราคำขอนี้ใช้กับผู้ใช้ ทั้งหมด ปัจจุบันยังไม่มีวิธี ตั้งค่าขีดจำกัดอัตราคำขอสำหรับผู้ใช้บางรายหรือ กลุ่มผู้ใช้บางกลุ่ม*
ขีดจำกัดนี้ใช้ที่ระดับโปรเจ็กต์และใช้กับแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
ขีดจำกัดนี้ใช้กับการเรียกใช้ทั้งหมดที่มาจาก Firebase AI Logic SDK โดยเฉพาะ
ขีดจำกัดอัตราคำขอเริ่มต้นคือ 100 RPM ต่อผู้ใช้
โปรดทราบว่าคุณยังต้องพิจารณา ขีดจำกัดสำหรับผู้ให้บริการ Gemini API (ดูด้านบน) ซึ่งมีความสำคัญมากกว่า Firebase AI Logic API
* หากคุณใช้ Agent Platform Gemini API (formerly Vertex AI) และแอปของคุณนำผู้ใช้ไปยังภูมิภาคต่างๆ (เช่น ใช้ Firebase Remote Config) คุณสามารถตั้งค่าขีดจำกัดอัตราคำขอที่เฉพาะเจาะจงสำหรับผู้ใช้ในภูมิภาคที่เฉพาะเจาะจงได้
ปรับขีดจำกัดอัตราคำขอ "ต่อผู้ใช้"
หากต้องการปรับขีดจำกัดอัตราคำขอ (โควต้า) คุณต้องมีสิทธิ์ serviceusage.quotas.update ซึ่งรวมอยู่ในบทบาทเจ้าของและผู้แก้ไขโดยค่าเริ่มต้น
วิธีแก้ไขขีดจำกัดอัตราคำขอ (โควต้า) หรือขอเพิ่มมีดังนี้
ในคอนโซล Google Cloud ให้ไปที่หน้าสำหรับ Firebase AI Logic API
คลิกจัดการ
คลิกแท็บโควต้าและขีดจำกัดของระบบ ที่ด้านล่างของหน้า
กรองตารางเพื่อแสดงโควต้าที่ต้องการ เช่น ความสามารถ (คำขอสร้างเนื้อหา) และภูมิภาค
ตัวอย่างเช่น หากต้องการดูโควต้าต่อผู้ใช้สำหรับคำขอสร้างเนื้อหา ในภูมิภาคเอเชียที่รองรับรายการใดรายการหนึ่ง ตัวกรองของคุณจะมีลักษณะคล้ายกับ ตัวกรองนี้:
Generate content requests+Dimension:region:asiaเลือกช่องทำเครื่องหมายทางด้านซ้ายของโควต้าแต่ละรายการที่ต้องการ
คลิก ที่ท้ายแถวของโควต้า แล้วเลือกแก้ไขโควต้า
ในแบบฟอร์มการเปลี่ยนแปลงโควต้า ให้ทำดังนี้
ป้อนโควต้าที่เพิ่มขึ้นในช่อง ค่าใหม่
โควต้านี้ใช้ที่ระดับโปรเจ็กต์และแชร์ในแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
กรอกข้อมูลในช่องเพิ่มเติมในแบบฟอร์ม แล้วคลิกเสร็จสิ้น
คลิกส่งคำขอ