Gemini modelinden, satır içi (Base64 kodlu) veya URL aracılığıyla sağladığınız ses dosyalarını analiz etmesini isteyebilirsiniz. Firebase AI Logic kullanırken bu isteği doğrudan uygulamanızdan yapabilirsiniz.
Bu özellik sayesinde şunları yapabilirsiniz:
- Ses içeriğini açıklama, özetleme veya ses içeriğiyle ilgili soruları yanıtlama
- Ses içeriklerini metne dönüştürme
- Zaman damgalarını kullanarak sesin belirli bölümlerini analiz etme
Bu kılavuzda, ses girişinden metin oluşturma işlemi açıklanmaktadır.
Kod örneklerine git Akışlı yanıtlar için koda git
|
Sesle çalışmayla ilgili diğer seçenekler için diğer kılavuzlara göz atın Yapılandırılmış çıkış oluşturma Çok turlu sohbet Metin okuma (TTS) Çift yönlü akış |
Başlamadan önce
|
Bu sayfada sağlayıcıya özel içerikleri ve kodları görüntülemek için Gemini API sağlayıcınızı tıklayın. |
Henüz yapmadıysanız başlangıç kılavuzundaki adımları tamamlayın. Bu kılavuzda Firebase projenizi nasıl oluşturacağınız, uygulamanızı Firebase'e nasıl bağlayacağınız, SDK'yı nasıl ekleyeceğiniz, seçtiğiniz Gemini API sağlayıcı için arka uç hizmetini nasıl başlatacağınız ve bir GenerativeModel örneği nasıl oluşturacağınız açıklanmaktadır.
İstemlerinizi test etmek ve yinelemek için Google AI Studio kullanmanızı öneririz.
Bu özelliği destekleyen modeller
Bu kılavuz, ses girişinden metin oluşturma hakkındadır ve aşağıdaki Gemini modelleri için geçerlidir:
gemini-4-argongemini-3.8-flashgemini-3.5-flash-lite(ve daha eskigemini-3.1-flash-lite)
Eski genel kullanımlı Gemini 3.x Flash ve Gemini 2.5 modelleri bu özelliği destekler ancak yaklaşan kapatma tarihleri ve/veya daha yeni modellere otomatik yönlendirme nedeniyle artık kullanılması önerilmez.
Ses dosyalarından (Base64 kodlu) metin oluşturma
|
Bu örneği denemeden önce projenizi ve uygulamanızı ayarlamak için bu kılavuzun Başlamadan önce bölümünü tamamlayın. Bu bölümde, seçtiğiniz Gemini API sağlayıcıya ait düğmeyi tıklayarak bu sayfada sağlayıcıya özel içerikleri görebilirsiniz. |
Gemini modelinden, metin ve ses içeren bir istemle metin üretmesini isteyebilirsiniz. Bunun için giriş dosyasının mimeType değerini ve dosyanın kendisini sağlamanız gerekir. Giriş dosyalarıyla ilgili koşulları ve önerileri bu sayfanın ilerleyen bölümlerinde bulabilirsiniz.
Swift
Metin ve tek bir ses dosyasından oluşan çok formatlı girişten metin oluşturmak için generateContent() yöntemini çağırabilirsiniz.
import FirebaseAILogic
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Create a `GenerativeModel` instance with a model that supports your use case.
let model = ai.generativeModel(modelName: "gemini-3.8-flash")
// Provide the audio as `Data`
guard let audioData = try? Data(contentsOf: audioURL) else {
print("Error loading audio data.")
return // Or handle the error appropriately
}
// Specify the appropriate audio MIME type
let audio = InlineDataPart(data: audioData, mimeType: "audio/mpeg")
// Provide a text prompt to include with the audio
let prompt = "Transcribe what's said in this audio recording."
// To generate text output, call `generateContent` with the audio and text prompt
let response = try await model.generateContent(audio, prompt)
// Print the generated text, handling the case where it might be nil
print(response.text ?? "No text in response.")
Kotlin
Metin ve tek bir ses dosyasından oluşan çok formatlı girişten metin oluşturmak için generateContent() yöntemini çağırabilirsiniz.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
val model = Firebase.ai(backend = GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash")
val contentResolver = applicationContext.contentResolver
val inputStream = contentResolver.openInputStream(audioUri)
if (inputStream != null) { // Check if the audio loaded successfully
inputStream.use { stream ->
val bytes = stream.readBytes()
// Provide a prompt that includes the audio specified above and text
val prompt = content {
inlineData(bytes, "audio/mpeg") // Specify the appropriate audio MIME type
text("Transcribe what's said in this audio recording.")
}
// To generate text output, call `generateContent` with the prompt
val response = model.generateContent(prompt)
// Log the generated text, handling the case where it might be null
Log.d(TAG, response.text?: "")
}
} else {
Log.e(TAG, "Error getting input stream for audio.")
// Handle the error appropriately
}
Java
Metin ve tek bir ses dosyasından oluşan çok formatlı girişten metin oluşturmak için generateContent() yöntemini çağırabilirsiniz.
ListenableFuture döndürür.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash");
// Use the GenerativeModelFutures Java compatibility layer which offers
// support for ListenableFuture and Publisher APIs
GenerativeModelFutures model = GenerativeModelFutures.from(ai);
ContentResolver resolver = getApplicationContext().getContentResolver();
try (InputStream stream = resolver.openInputStream(audioUri)) {
File audioFile = new File(new URI(audioUri.toString()));
int audioSize = (int) audioFile.length();
byte audioBytes = new byte[audioSize];
if (stream != null) {
stream.read(audioBytes, 0, audioBytes.length);
stream.close();
// Provide a prompt that includes the audio specified above and text
Content prompt = new Content.Builder()
.addInlineData(audioBytes, "audio/mpeg") // Specify the appropriate audio MIME type
.addText("Transcribe what's said in this audio recording.")
.build();
// To generate text output, call `generateContent` with the prompt
ListenableFuture<GenerateContentResponse> response = model.generateContent(prompt);
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String text = result.getText();
Log.d(TAG, (text == null) ? "" : text);
}
@Override
public void onFailure(Throwable t) {
Log.e(TAG, "Failed to generate a response", t);
}
}, executor);
} else {
Log.e(TAG, "Error getting input stream for file.");
// Handle the error appropriately
}
} catch (IOException e) {
Log.e(TAG, "Failed to read the audio file", e);
} catch (URISyntaxException e) {
Log.e(TAG, "Invalid audio file", e);
}
Web
Metin ve tek bir ses dosyasından oluşan çok formatlı girişten metin oluşturmak için generateContent() yöntemini çağırabilirsiniz.
import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend } from "firebase/ai";
// TODO(developer): Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
// ...
};
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Gemini Developer API backend service.
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Create a `GenerativeModel` instance with a model that supports your use case.
const model = getGenerativeModel(ai, { model: "gemini-3.8-flash" });
// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
const base64EncodedDataPromise = new Promise((resolve) => {
const reader = new FileReader();
reader.onloadend = () => resolve(reader.result.split(','));
reader.readAsDataURL(file);
});
return {
type: "inlineData",
inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
};
}
async function run() {
// Provide a text prompt to include with the audio
const prompt = "Transcribe what's said in this audio recording.";
// Prepare audio for input
const fileInputEl = document.querySelector("input[type=file]");
const audioPart = await fileToGenerativePart(fileInputEl.files);
// To generate text output, call `generateContent` with the text and audio
const result = await model.generateContent([prompt, audioPart]);
// Log the generated text, handling the case where it might be undefined
console.log(result.response.text() ?? "No text in response.");
}
run();
Dart
Metin ve tek bir ses dosyasından oluşan çok formatlı girişten metin oluşturmak için generateContent() yöntemini çağırabilirsiniz.
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
final model =
FirebaseAI.googleAI().generativeModel(model: 'gemini-3.8-flash');
// Provide a text prompt to include with the audio
final prompt = TextPart("Transcribe what's said in this audio recording.");
// Prepare audio for input
final audio = await File('audio0.mp3').readAsBytes();
// Provide the audio as `Data` with the appropriate audio MIME type
final audioPart = InlineDataPart('audio/mpeg', audio);
// To generate text output, call `generateContent` with the text and audio
final response = await model.generateContent([
Content.multi([prompt,audioPart])
]);
// Print the generated text
print(response.text);
Unity
Metin ve tek bir ses dosyasından oluşan çok formatlı girişten metin oluşturmak için GenerateContentAsync() yöntemini çağırabilirsiniz.
using Firebase;
using Firebase.AI;
// Initialize the Gemini Developer API backend service.
var ai = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI());
// Create a `GenerativeModel` instance with a model that supports your use case.
var model = ai.GetGenerativeModel(modelName: "gemini-3.8-flash");
// Provide a text prompt to include with the audio
var prompt = ModelContent.Text("Transcribe what's said in this audio recording.");
// Provide the audio as `data` with the appropriate audio MIME type
var audio = ModelContent.InlineData("audio/mpeg",
System.IO.File.ReadAllBytes(System.IO.Path.Combine(
UnityEngine.Application.streamingAssetsPath, "audio0.mp3")));
// To generate text output, call `GenerateContentAsync` with the text and audio
var response = await model.GenerateContentAsync(new [] { prompt, audio });
// Print the generated text
UnityEngine.Debug.Log(response.Text ?? "No text in response.");
Kullanım alanınıza ve uygulamanıza uygun bir model seçmeyi öğrenin.
Yanıtı akış şeklinde göster
|
Bu örneği denemeden önce projenizi ve uygulamanızı ayarlamak için bu kılavuzun Başlamadan önce bölümünü tamamlayın. Bu bölümde, seçtiğiniz Gemini API sağlayıcıya ait düğmeyi tıklayarak bu sayfada sağlayıcıya özel içerikleri görebilirsiniz. |
Model tarafından üretilen sonucun tamamını beklemek yerine akış özelliğini kullanarak kısmi sonuçları işleyebilir ve daha hızlı etkileşimler elde edebilirsiniz.
Yanıtı aktarmak için generateContentStream yöntemini çağırın.
Giriş ses dosyaları için koşullar ve öneriler
Satır içi veri olarak sağlanan bir dosyanın aktarım sırasında base64 olarak kodlandığını ve bunun da isteğin boyutunu artırdığını unutmayın. İstek çok büyükse HTTP 413 hatası alırsınız.
Aşağıdakiler hakkında ayrıntılı bilgi edinmek için "Desteklenen giriş dosyaları ve koşullar" sayfasına bakın:
- İstekte dosya sağlamak için farklı seçenekler (satır içi olarak veya dosyanın URL'sini ya da URI'sini kullanarak)
- Ses dosyalarıyla ilgili koşullar ve en iyi uygulamalar
Desteklenen ses MIME türleri
Gemini çok formatlı modelleri aşağıdaki ses MIME türlerini destekler:
- AAC -
audio/aac - FLAC -
audio/flac - MP3 -
audio/mp3 - MPA -
audio/m4a - MPEG -
audio/mpeg - MPGA -
audio/mpga - MP4 -
audio/mp4 - OPUS -
audio/opus - PCM -
audio/pcm - WAV -
audio/wav - WEBM -
audio/webm
İstek başına sınırlar
İstek başına maksimum dosya sayısı: 1 ses dosyası
Başka ne yapabilirsin?
- Modele uzun istemler göndermeden önce parçaları nasıl sayacağınızı öğrenin.
- Cloud Storage for Firebase kurulumu büyük dosyaları çok formatlı isteklerinize dahil edebilmenizi ve istemlerde dosya sağlamak için daha yönetilebilir bir çözüme sahip olmanızı sağlar. Dosyalar resim, PDF, video ve ses içerebilir.
-
Üretime hazırlanmaya başlayın (üretim yapılacaklar listesine bakın):
- Gemini API hizmetini yetkisiz istemcilerin kötüye kullanımından korumak için Firebase App Check politikasını mümkün olan en kısa sürede uygulayın.
- Uygulamanızın yeni bir sürümünü yayınlamadan yapay zeka özelliğinizin yapılandırmalarında (model adı gibi) seç-izle değişiklikler yapabilmek için Firebase Remote Config veya sunucu istem şablonlarını kullanın.
Diğer özellikleri deneme
- Çok adımlı görüşmeler (sohbet) oluşturun.
- Yalnızca metin içeren istemlerden metin oluşturma
- Hem metin hem de çok formatlı istemlerden yapılandırılmış çıkış (ör. JSON) oluşturun.
- Hem metin hem de çok formatlı istem yazmadan görüntü oluşturun ve düzenleyin.
- Gemini metin okuma (TTS) modellerini kullanarak konuşma (hem tek hem de birden fazla konuşmacı) oluşturun.
- Gemini Live API kullanarak giriş ve çıkışı (ses dahil) aktarın.
-
Gemini modelini uygulamanızın diğer bölümlerine, harici sistemlere ve bilgilere bağlamak için araçları (işlev çağrısı ve
Google Search veyaGoogle Maps ile temellendirme gibi) kullanın.
İçerik üretimini nasıl kontrol edeceğinizi öğrenin.
- En iyi uygulamalar, stratejiler ve örnek istemler de dahil olmak üzere istem tasarımını anlama
- Maksimum çıkış jetonu sayısı, tekrarlanan çıkış jetonlarının olasılığı gibi model parametrelerini yapılandırın.
- Zararlı olarak değerlendirilebilecek yanıtlar alma olasılığını ayarlamak için güvenlik ayarlarını kullanın.
Desteklenen modeller hakkında daha fazla bilgi
Çeşitli kullanım alanları için kullanılabilen modeller, kotaları ve fiyatlandırmaları hakkında bilgi edinin.Firebase AI Logic ile ilgili deneyiminiz hakkında geri bildirimde bulunun