É possível pedir que um modelo Gemini analise arquivos de áudio fornecidos inline (codificados em base64) ou por URL. Ao usar Firebase AI Logic, é possível fazer essa solicitação diretamente do app.
Com esse recurso, é possível:
- Descrever, resumir ou responder a perguntas sobre conteúdo de áudio
- Transcrever conteúdo de áudio
- Analisar segmentos específicos de áudio usando marcações de tempo
Este guia é sobre como gerar texto com base em uma entrada de áudio.
Ir para exemplos de código Ir para o código de respostas transmitidas
|
Confira outros guias para mais opções de trabalho com áudio Gerar saída estruturada Conversa multiturno Conversão de texto em voz (TTS) Streaming bidirecional |
Antes de começar
|
Clique no seu provedor de Gemini API para conferir o conteúdo e o código específicos do provedor nesta página. |
Se ainda não tiver feito isso, conclua o
guia de iniciação, que descreve como
configurar seu projeto do Firebase, conectar seu app ao Firebase, adicionar o SDK,
inicializar o serviço de back-end para o provedor Gemini API escolhido e
criar uma instância GenerativeModel.
Para testar e iterar seus comandos, recomendamos usar o Google AI Studio.
Modelos que oferecem suporte a esse recurso
Este guia é sobre como gerar texto com base em entrada de áudio e é aplicável aos seguintes modelos do Gemini:
gemini-4-argongemini-3.8-flashgemini-3.5-flash-lite(e ogemini-3.1-flash-litemais antigo)
Os modelos Gemini 3.x Flash e Gemini 2.5 de uso geral mais antigos oferecem suporte a esse recurso, mas não são mais recomendados para uso devido às próximas datas de desativação e/ou ao roteamento automático para modelos mais recentes.
Gerar texto com base em arquivos de áudio (codificados em base64)
|
Antes de testar este exemplo, conclua a seção
Antes de começar deste guia
para configurar seu projeto e app. Nessa seção, você também vai clicar em um botão para o provedor do Gemini API escolhido para ver o conteúdo específico do provedor nesta página. |
É possível pedir que um modelo Gemini
gere texto usando um comando com texto e áudio, fornecendo o
mimeType do arquivo de entrada e o próprio arquivo. Encontre
requisitos e recomendações para arquivos de entrada
mais adiante nesta página.
Swift
É possível chamar
generateContent()
para gerar texto com base em uma entrada multimodal de texto e um único arquivo de áudio.
import FirebaseAILogic
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Create a `GenerativeModel` instance with a model that supports your use case.
let model = ai.generativeModel(modelName: "gemini-3.8-flash")
// Provide the audio as `Data`
guard let audioData = try? Data(contentsOf: audioURL) else {
print("Error loading audio data.")
return // Or handle the error appropriately
}
// Specify the appropriate audio MIME type
let audio = InlineDataPart(data: audioData, mimeType: "audio/mpeg")
// Provide a text prompt to include with the audio
let prompt = "Transcribe what's said in this audio recording."
// To generate text output, call `generateContent` with the audio and text prompt
let response = try await model.generateContent(audio, prompt)
// Print the generated text, handling the case where it might be nil
print(response.text ?? "No text in response.")
Kotlin
É possível chamar
generateContent()
para gerar texto com base em uma entrada multimodal de texto e um único arquivo de áudio.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
val model = Firebase.ai(backend = GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash")
val contentResolver = applicationContext.contentResolver
val inputStream = contentResolver.openInputStream(audioUri)
if (inputStream != null) { // Check if the audio loaded successfully
inputStream.use { stream ->
val bytes = stream.readBytes()
// Provide a prompt that includes the audio specified above and text
val prompt = content {
inlineData(bytes, "audio/mpeg") // Specify the appropriate audio MIME type
text("Transcribe what's said in this audio recording.")
}
// To generate text output, call `generateContent` with the prompt
val response = model.generateContent(prompt)
// Log the generated text, handling the case where it might be null
Log.d(TAG, response.text?: "")
}
} else {
Log.e(TAG, "Error getting input stream for audio.")
// Handle the error appropriately
}
Java
É possível chamar
generateContent()
para gerar texto com base em uma entrada multimodal de texto e um único arquivo de áudio.
ListenableFuture.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash");
// Use the GenerativeModelFutures Java compatibility layer which offers
// support for ListenableFuture and Publisher APIs
GenerativeModelFutures model = GenerativeModelFutures.from(ai);
ContentResolver resolver = getApplicationContext().getContentResolver();
try (InputStream stream = resolver.openInputStream(audioUri)) {
File audioFile = new File(new URI(audioUri.toString()));
int audioSize = (int) audioFile.length();
byte audioBytes = new byte[audioSize];
if (stream != null) {
stream.read(audioBytes, 0, audioBytes.length);
stream.close();
// Provide a prompt that includes the audio specified above and text
Content prompt = new Content.Builder()
.addInlineData(audioBytes, "audio/mpeg") // Specify the appropriate audio MIME type
.addText("Transcribe what's said in this audio recording.")
.build();
// To generate text output, call `generateContent` with the prompt
ListenableFuture<GenerateContentResponse> response = model.generateContent(prompt);
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String text = result.getText();
Log.d(TAG, (text == null) ? "" : text);
}
@Override
public void onFailure(Throwable t) {
Log.e(TAG, "Failed to generate a response", t);
}
}, executor);
} else {
Log.e(TAG, "Error getting input stream for file.");
// Handle the error appropriately
}
} catch (IOException e) {
Log.e(TAG, "Failed to read the audio file", e);
} catch (URISyntaxException e) {
Log.e(TAG, "Invalid audio file", e);
}
Web
É possível chamar
generateContent()
para gerar texto com base em uma entrada multimodal de texto e um único arquivo de áudio.
import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend } from "firebase/ai";
// TODO(developer): Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
// ...
};
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Gemini Developer API backend service.
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Create a `GenerativeModel` instance with a model that supports your use case.
const model = getGenerativeModel(ai, { model: "gemini-3.8-flash" });
// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
const base64EncodedDataPromise = new Promise((resolve) => {
const reader = new FileReader();
reader.onloadend = () => resolve(reader.result.split(','));
reader.readAsDataURL(file);
});
return {
type: "inlineData",
inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
};
}
async function run() {
// Provide a text prompt to include with the audio
const prompt = "Transcribe what's said in this audio recording.";
// Prepare audio for input
const fileInputEl = document.querySelector("input[type=file]");
const audioPart = await fileToGenerativePart(fileInputEl.files);
// To generate text output, call `generateContent` with the text and audio
const result = await model.generateContent([prompt, audioPart]);
// Log the generated text, handling the case where it might be undefined
console.log(result.response.text() ?? "No text in response.");
}
run();
Dart
É possível chamar
generateContent()
para gerar texto com base em uma entrada multimodal de texto e um único arquivo de áudio.
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
final model =
FirebaseAI.googleAI().generativeModel(model: 'gemini-3.8-flash');
// Provide a text prompt to include with the audio
final prompt = TextPart("Transcribe what's said in this audio recording.");
// Prepare audio for input
final audio = await File('audio0.mp3').readAsBytes();
// Provide the audio as `Data` with the appropriate audio MIME type
final audioPart = InlineDataPart('audio/mpeg', audio);
// To generate text output, call `generateContent` with the text and audio
final response = await model.generateContent([
Content.multi([prompt,audioPart])
]);
// Print the generated text
print(response.text);
Unity
É possível chamar
GenerateContentAsync()
para gerar texto com base em uma entrada multimodal de texto e um único arquivo de áudio.
using Firebase;
using Firebase.AI;
// Initialize the Gemini Developer API backend service.
var ai = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI());
// Create a `GenerativeModel` instance with a model that supports your use case.
var model = ai.GetGenerativeModel(modelName: "gemini-3.8-flash");
// Provide a text prompt to include with the audio
var prompt = ModelContent.Text("Transcribe what's said in this audio recording.");
// Provide the audio as `data` with the appropriate audio MIME type
var audio = ModelContent.InlineData("audio/mpeg",
System.IO.File.ReadAllBytes(System.IO.Path.Combine(
UnityEngine.Application.streamingAssetsPath, "audio0.mp3")));
// To generate text output, call `GenerateContentAsync` with the text and audio
var response = await model.GenerateContentAsync(new [] { prompt, audio });
// Print the generated text
UnityEngine.Debug.Log(response.Text ?? "No text in response.");
Saiba como escolher um modelo adequado para seu caso de uso e app.
Mostrar composição da resposta
|
Antes de testar este exemplo, conclua a seção
Antes de começar deste guia
para configurar seu projeto e app. Nessa seção, você também vai clicar em um botão para o provedor do Gemini API escolhido para ver o conteúdo específico do provedor nesta página. |
Para interações mais rápidas, não espere o resultado completo da
geração do modelo. Em vez disso, use o streaming para processar resultados parciais.
Para transmitir a resposta, chame generateContentStream.
Requisitos e recomendações para arquivos de áudio de entrada
Um arquivo fornecido como dados inline é codificado em base64 em trânsito, o que aumenta o tamanho da solicitação. Você vai receber um erro HTTP 413 se uma solicitação for muito grande.
Consulte a página "Arquivos de entrada e requisitos compatíveis" para saber mais sobre:
- Diferentes opções para fornecer um arquivo em uma solicitação (inline ou usando o URL ou URI do arquivo)
- Requisitos e práticas recomendadas para arquivos de áudio
Tipos MIME de áudio compatíveis
Os modelos multimodais do Gemini são compatíveis com os seguintes tipos MIME de áudio:
- AAC -
audio/aac - FLAC -
audio/flac - MP3 -
audio/mp3 - MPA -
audio/m4a - MPEG -
audio/mpeg - MPGA -
audio/mpga - MP4 -
audio/mp4 - OPUS -
audio/opus - PCM -
audio/pcm - WAV -
audio/wav - WEBM -
audio/webm
Limites por solicitação
Máximo de arquivos por solicitação: 1 arquivo de áudio
O que mais você sabe fazer?
- Saiba como contar tokens antes de enviar comandos longos para o modelo.
- Configure o Cloud Storage for Firebase para incluir arquivos grandes nas suas solicitações multimodais e ter uma solução mais gerenciada para fornecer arquivos em comandos. Os arquivos podem incluir imagens, PDFs, vídeos e áudios.
-
Comece a pensar na preparação para a produção (consulte a
lista de verificação de produção):
- Aplique o Firebase App Check o quanto antes para proteger o Gemini API contra abusos de clientes não autorizados.
- Use Firebase Remote Config ou modelos de comando do servidor para fazer mudanças sob demanda nas configurações do seu recurso de IA (como o nome do modelo) sem lançar uma nova versão do app.
Teste outros recursos
- Crie conversas multiturno (chat).
- Gerar texto com base em comandos de texto.
- Gerar saída estruturada (como JSON) com base em comandos de texto e multimodais.
- Gere e edite imagens com comandos de texto e multimodais.
- Gere falas (com um ou vários locutores) usando os modelos de conversão de texto em voz (TTS) do Gemini.
- Entrada e saída de streaming (incluindo áudio) usando o Gemini Live API.
-
Use ferramentas (como chamada de função
e embasamento com
Google Search ouGoogle Maps ) para conectar um modelo Gemini a outras partes do app e a sistemas e informações externos.
Saiba como controlar a geração de conteúdo
- Entenda o design de comandos, incluindo práticas recomendadas, estratégias e exemplos de comandos.
- Configurar parâmetros do modelo, como o máximo de tokens de saída, a probabilidade de tokens de saída repetidos etc.
- Use as configurações de segurança para ajustar a probabilidade de receber respostas que possam ser consideradas nocivas.
Saiba mais sobre os modelos compatíveis
Saiba mais sobre os modelos disponíveis para vários casos de uso, as cotas e os preços.Envie feedback sobre sua experiência com o Firebase AI Logic