Web uygulamalarındaki karma deneyimler için yapılandırma seçenekleri

Bu sayfada aşağıdaki yapılandırma seçenekleri açıklanmaktadır:

JSON ve enum'lar dahil olmak üzere yapılandırılmış çıkış da oluşturabilirsiniz.

Başlamadan önce

Karma deneyimler oluşturmaya yönelik başlangıç kılavuzunu tamamladığınızdan emin olun.

Çıkarım modu ayarlama

Başlangıç kılavuzundaki örneklerde PREFER_ON_DEVICE modu kullanılır ancak bu, mevcut dört çıkarım modundan yalnızca biridir.

  • PREFER_ON_DEVICE: Varsa cihaz üzerinde modeli kullanın. Yoksa bulutta barındırılan modele geçin.

    const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });

  • ONLY_ON_DEVICE: Varsa cihaz üzerinde modeli kullanın. Aksi takdirde istisna oluşturun.

    const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });

  • PREFER_IN_CLOUD: Varsa bulutta barındırılan modeli kullanın. Aksi takdirde cihaz üzerinde çalışan modele geçin.

    const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });

  • ONLY_IN_CLOUD: Varsa bulutta barındırılan modeli kullanın. Aksi takdirde istisna oluşturun.

    const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });

Cihaz üzerinde veya bulutta çıkarım kullanılıp kullanılmadığını belirleme

PREFER_ON_DEVICE veya PREFER_IN_CLOUD çıkarım modlarını kullanıyorsanız belirli istekler için hangi modun kullanıldığını bilmek faydalı olabilir. Bu bilgiler, her yanıtın inferenceSource özelliği tarafından sağlanır (JS SDK 12.5.0 sürümünden itibaren kullanılabilir).

Bu özelliğe eriştiğinizde döndürülen değer ON_DEVICE veya IN_CLOUD olur.

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

Varsayılan yedek modeli geçersiz kılma

Varsayılan bulut tabanlı model, gemini-3.5-flash-lite modelidir (JS SDK 13.0.0 sürümünden itibaren).

Bu model, PREFER_ON_DEVICE modunu kullandığınızda bulutta barındırılan yedek modeldir. Ayrıca ONLY_IN_CLOUD modunu veya PREFER_IN_CLOUD modunu kullandığınızda varsayılan modeldir.

Alternatif bir varsayılan bulut tabanlı model belirtmek için inCloudParams yapılandırma seçeneğini kullanabilirsiniz.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

Desteklenen tüm Gemini modellerinin adlarını bulun.

Yanıtları kontrol etmek için model yapılandırmasını kullanma

Bir modele gönderdiğiniz her istekte, modelin nasıl yanıt üreteceğini kontrol etmek için bir model yapılandırması gönderebilirsiniz. Bulutta barındırılan modeller ve cihaz üzerinde çalışan modeller farklı yapılandırma seçenekleri sunar.

Yapılandırma, örneğin kullanım ömrü boyunca korunur. Farklı bir yapılandırma kullanmak istiyorsanız bu yapılandırmayla yeni bir GenerativeModel örneği oluşturun.

Bulutta barındırılan modeli yapılandırma

Bulutta barındırılan bir Gemini modelini yapılandırmak için inCloudParams seçeneğini kullanın. Kullanılabilir parametreler hakkında bilgi edinin.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME",
    generationConfig: {
      maxOutputTokens: 200,
      stopSequences: ["red"]
    }
  }
});

Cihaz üzerindeki modeli yapılandırma

Cihaz üzerinde model kullanılarak yapılan çıkarım, Chrome'un Prompt API'sini kullanır.

Cihaz üzerinde bir modeli yapılandırmak için onDeviceParams seçeneğini kullanın. Kullanılabilir parametreler hakkında bilgi edinin.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      expectedInputs: [{ type: "text", languages: ["en"] }],
      expectedOutputs: [{ type: "text", languages: ["en"] }],
      initialPrompts: [
        { role: "system", content: [{ type: "text", value: "You are a helpful and concise assistant." }] }
      ]
    }
  }
});


Firebase AI Logic ile ilgili deneyiminiz hakkında geri bildirimde bulunun