คุณสามารถขอให้โมเดล Gemini วิเคราะห์ไฟล์เสียงที่คุณระบุได้ทั้งแบบอินไลน์ (เข้ารหัส Base64) หรือผ่าน URL เมื่อใช้ Firebase AI Logic คุณจะส่งคำขอนี้ได้โดยตรงจากแอป
ความสามารถนี้ช่วยให้คุณทำสิ่งต่างๆ ต่อไปนี้ได้
- อธิบาย สรุป หรือตอบคำถามเกี่ยวกับเนื้อหาเสียง
- ถอดเสียงเนื้อหาเสียง
- วิเคราะห์ส่วนที่เฉพาะเจาะจงของเสียงโดยใช้การประทับเวลา
คู่มือนี้เกี่ยวกับการสร้างข้อความจากอินพุตเสียง
ข้ามไปยังตัวอย่างโค้ด ข้ามไปยังโค้ดสำหรับการตอบกลับแบบสตรีม
|
ดูคำแนะนำอื่นๆ สำหรับตัวเลือกเพิ่มเติมในการทำงานกับเสียง สร้างเอาต์พุตที่มีโครงสร้าง แชทแบบหลายเทิร์น การอ่านออกเสียงข้อความ (TTS) สตรีมมิงแบบ 2 ทิศทาง |
ก่อนเริ่มต้น
|
คลิกผู้ให้บริการ Gemini API เพื่อดูเนื้อหาและโค้ดเฉพาะของผู้ให้บริการในหน้านี้ |
หากยังไม่ได้ดำเนินการ โปรดอ่านคู่มือเริ่มต้นใช้งานให้จบ ซึ่งจะอธิบายวิธีตั้งค่าโปรเจ็กต์ Firebase, เชื่อมต่อแอปกับ Firebase, เพิ่ม SDK, เริ่มต้นบริการแบ็กเอนด์สำหรับผู้ให้บริการ Gemini API ที่คุณเลือก และสร้างอินสแตนซ์ GenerativeModel
สำหรับการทดสอบและปรับปรุงพรอมต์ซ้ำๆ เราขอแนะนำให้ใช้ Google AI Studio
โมเดลที่รองรับความสามารถนี้
คู่มือนี้เกี่ยวกับการสร้างข้อความที่สร้างขึ้นจากอินพุตเสียง และใช้ได้กับโมเดล Gemini ต่อไปนี้
gemini-4-argongemini-3.8-flashgemini-3.5-flash-lite(และgemini-3.1-flash-liteรุ่นเก่า)
โมเดล Gemini 3.x Flash และ Gemini 2.5 สำหรับการใช้งานทั่วไปที่เก่ากว่ารองรับความสามารถนี้ แต่เราไม่แนะนำให้ใช้อีกต่อไปเนื่องจากวันที่ปิดตัวที่กำลังจะมาถึง และ/หรือการกำหนดเส้นทางอัตโนมัติไปยังโมเดลที่ใหม่กว่า
สร้างข้อความจากไฟล์เสียง (เข้ารหัสแบบ Base64)
|
ก่อนลองใช้ตัวอย่างนี้ ให้ทำตามส่วนก่อนเริ่มต้นของคู่มือนี้เพื่อตั้งค่าโปรเจ็กต์และแอป ในส่วนนั้น คุณจะต้องคลิกปุ่มสำหรับผู้ให้บริการ Gemini API ที่เลือกด้วยเพื่อให้เห็นเนื้อหาเฉพาะผู้ให้บริการในหน้านี้ |
คุณสามารถขอให้โมเดล Gemini สร้างข้อความที่สร้างขึ้นโดยใช้พรอมต์ที่มีข้อความและเสียง โดยระบุ mimeType ของไฟล์อินพุตและตัวไฟล์เอง ดูข้อกำหนดและคำแนะนำสำหรับไฟล์อินพุตได้ที่ด้านล่างในหน้านี้
Swift
คุณสามารถเรียกใช้
generateContent()
เพื่อสร้างข้อความที่สร้างขึ้นจากอินพุตแบบหลายโมดัลของข้อความและไฟล์เสียงไฟล์เดียว
import FirebaseAILogic
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Create a `GenerativeModel` instance with a model that supports your use case.
let model = ai.generativeModel(modelName: "gemini-3.8-flash")
// Provide the audio as `Data`
guard let audioData = try? Data(contentsOf: audioURL) else {
print("Error loading audio data.")
return // Or handle the error appropriately
}
// Specify the appropriate audio MIME type
let audio = InlineDataPart(data: audioData, mimeType: "audio/mpeg")
// Provide a text prompt to include with the audio
let prompt = "Transcribe what's said in this audio recording."
// To generate text output, call `generateContent` with the audio and text prompt
let response = try await model.generateContent(audio, prompt)
// Print the generated text, handling the case where it might be nil
print(response.text ?? "No text in response.")
Kotlin
คุณสามารถเรียกใช้
generateContent()
เพื่อสร้างข้อความที่สร้างขึ้นจากอินพุตแบบหลายโมดัลของข้อความและไฟล์เสียงไฟล์เดียว
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
val model = Firebase.ai(backend = GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash")
val contentResolver = applicationContext.contentResolver
val inputStream = contentResolver.openInputStream(audioUri)
if (inputStream != null) { // Check if the audio loaded successfully
inputStream.use { stream ->
val bytes = stream.readBytes()
// Provide a prompt that includes the audio specified above and text
val prompt = content {
inlineData(bytes, "audio/mpeg") // Specify the appropriate audio MIME type
text("Transcribe what's said in this audio recording.")
}
// To generate text output, call `generateContent` with the prompt
val response = model.generateContent(prompt)
// Log the generated text, handling the case where it might be null
Log.d(TAG, response.text?: "")
}
} else {
Log.e(TAG, "Error getting input stream for audio.")
// Handle the error appropriately
}
Java
คุณสามารถเรียกใช้
generateContent()
เพื่อสร้างข้อความที่สร้างขึ้นจากอินพุตแบบหลายโมดัลของข้อความและไฟล์เสียงไฟล์เดียว
ListenableFuture
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash");
// Use the GenerativeModelFutures Java compatibility layer which offers
// support for ListenableFuture and Publisher APIs
GenerativeModelFutures model = GenerativeModelFutures.from(ai);
ContentResolver resolver = getApplicationContext().getContentResolver();
try (InputStream stream = resolver.openInputStream(audioUri)) {
File audioFile = new File(new URI(audioUri.toString()));
int audioSize = (int) audioFile.length();
byte audioBytes = new byte[audioSize];
if (stream != null) {
stream.read(audioBytes, 0, audioBytes.length);
stream.close();
// Provide a prompt that includes the audio specified above and text
Content prompt = new Content.Builder()
.addInlineData(audioBytes, "audio/mpeg") // Specify the appropriate audio MIME type
.addText("Transcribe what's said in this audio recording.")
.build();
// To generate text output, call `generateContent` with the prompt
ListenableFuture<GenerateContentResponse> response = model.generateContent(prompt);
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String text = result.getText();
Log.d(TAG, (text == null) ? "" : text);
}
@Override
public void onFailure(Throwable t) {
Log.e(TAG, "Failed to generate a response", t);
}
}, executor);
} else {
Log.e(TAG, "Error getting input stream for file.");
// Handle the error appropriately
}
} catch (IOException e) {
Log.e(TAG, "Failed to read the audio file", e);
} catch (URISyntaxException e) {
Log.e(TAG, "Invalid audio file", e);
}
Web
คุณสามารถเรียกใช้
generateContent()
เพื่อสร้างข้อความที่สร้างขึ้นจากอินพุตแบบหลายโมดัลของข้อความและไฟล์เสียงไฟล์เดียว
import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend } from "firebase/ai";
// TODO(developer): Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
// ...
};
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Gemini Developer API backend service.
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Create a `GenerativeModel` instance with a model that supports your use case.
const model = getGenerativeModel(ai, { model: "gemini-3.8-flash" });
// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
const base64EncodedDataPromise = new Promise((resolve) => {
const reader = new FileReader();
reader.onloadend = () => resolve(reader.result.split(','));
reader.readAsDataURL(file);
});
return {
type: "inlineData",
inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
};
}
async function run() {
// Provide a text prompt to include with the audio
const prompt = "Transcribe what's said in this audio recording.";
// Prepare audio for input
const fileInputEl = document.querySelector("input[type=file]");
const audioPart = await fileToGenerativePart(fileInputEl.files);
// To generate text output, call `generateContent` with the text and audio
const result = await model.generateContent([prompt, audioPart]);
// Log the generated text, handling the case where it might be undefined
console.log(result.response.text() ?? "No text in response.");
}
run();
Dart
คุณสามารถเรียกใช้ generateContent() เพื่อสร้างข้อความที่สร้างขึ้นจากอินพุตหลายรูปแบบซึ่งประกอบด้วยข้อความและไฟล์เสียงไฟล์เดียว
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
final model =
FirebaseAI.googleAI().generativeModel(model: 'gemini-3.8-flash');
// Provide a text prompt to include with the audio
final prompt = TextPart("Transcribe what's said in this audio recording.");
// Prepare audio for input
final audio = await File('audio0.mp3').readAsBytes();
// Provide the audio as `Data` with the appropriate audio MIME type
final audioPart = InlineDataPart('audio/mpeg', audio);
// To generate text output, call `generateContent` with the text and audio
final response = await model.generateContent([
Content.multi([prompt,audioPart])
]);
// Print the generated text
print(response.text);
Unity
คุณสามารถเรียกใช้
GenerateContentAsync()
เพื่อสร้างข้อความที่สร้างขึ้นจากอินพุตแบบหลายโมดัลของข้อความและไฟล์เสียงไฟล์เดียว
using Firebase;
using Firebase.AI;
// Initialize the Gemini Developer API backend service.
var ai = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI());
// Create a `GenerativeModel` instance with a model that supports your use case.
var model = ai.GetGenerativeModel(modelName: "gemini-3.8-flash");
// Provide a text prompt to include with the audio
var prompt = ModelContent.Text("Transcribe what's said in this audio recording.");
// Provide the audio as `data` with the appropriate audio MIME type
var audio = ModelContent.InlineData("audio/mpeg",
System.IO.File.ReadAllBytes(System.IO.Path.Combine(
UnityEngine.Application.streamingAssetsPath, "audio0.mp3")));
// To generate text output, call `GenerateContentAsync` with the text and audio
var response = await model.GenerateContentAsync(new [] { prompt, audio });
// Print the generated text
UnityEngine.Debug.Log(response.Text ?? "No text in response.");
ดูวิธีเลือกโมเดล ที่เหมาะกับ Use Case และแอปของคุณ
สตรีมคำตอบ
|
ก่อนลองใช้ตัวอย่างนี้ ให้ทำตามส่วนก่อนเริ่มต้นของคู่มือนี้เพื่อตั้งค่าโปรเจ็กต์และแอป ในส่วนนั้น คุณจะต้องคลิกปุ่มสำหรับผู้ให้บริการ Gemini API ที่เลือกด้วยเพื่อให้เห็นเนื้อหาเฉพาะผู้ให้บริการในหน้านี้ |
คุณสามารถโต้ตอบได้เร็วขึ้นโดยไม่ต้องรอผลลัพธ์ทั้งหมดจากการสร้างโมเดล แต่ใช้การสตรีมเพื่อจัดการผลลัพธ์บางส่วนแทน
หากต้องการสตรีมคำตอบ ให้เรียกใช้ generateContentStream
ข้อกำหนดและคำแนะนำสำหรับไฟล์เสียงอินพุต
โปรดทราบว่าไฟล์ที่ระบุเป็นข้อมูลในหน้าจะได้รับการเข้ารหัสเป็น Base64 ระหว่างการส่ง ซึ่งจะเพิ่มขนาดของคำขอ คุณจะได้รับข้อผิดพลาด HTTP 413 หากคำขอมีขนาดใหญ่เกินไป
ดูข้อมูลโดยละเอียดเกี่ยวกับสิ่งต่อไปนี้ได้ที่หน้า "ไฟล์อินพุตและข้อกำหนดที่รองรับ"
- ตัวเลือกต่างๆ สำหรับการระบุไฟล์ในคำขอ (แบบอินไลน์หรือใช้ URL หรือ URI ของไฟล์)
- ข้อกำหนดและแนวทางปฏิบัติแนะนำสำหรับไฟล์เสียง
ประเภท MIME ของเสียงที่รองรับ
โมเดลหลายรูปแบบ Gemini รองรับประเภท MIME ของเสียงต่อไปนี้
- AAC -
audio/aac - FLAC -
audio/flac - MP3 -
audio/mp3 - MPA -
audio/m4a - MPEG -
audio/mpeg - MPGA -
audio/mpga - MP4 -
audio/mp4 - OPUS -
audio/opus - PCM -
audio/pcm - WAV -
audio/wav - WEBM -
audio/webm
ขีดจำกัดต่อคำขอ
จำนวนไฟล์สูงสุดต่อคำขอ: ไฟล์เสียง 1 ไฟล์
คุณทำอะไรได้อีกบ้าง
- ดูวิธีนับโทเค็นก่อนส่งพรอมต์ที่ยาวไปยังโมเดล
- ตั้งค่า Cloud Storage for Firebase เพื่อให้คุณรวมไฟล์ขนาดใหญ่ไว้ในคำขอแบบหลายโมดัลได้ และมีโซลูชันที่มีการจัดการมากขึ้นสำหรับการระบุไฟล์ในพรอมต์ ไฟล์อาจรวมถึงรูปภาพ, PDF, วิดีโอ และเสียง
-
เริ่มคิดเกี่ยวกับการเตรียมพร้อมสำหรับเวอร์ชันที่ใช้งานจริง (ดูรายการตรวจสอบเวอร์ชันที่ใช้งานจริง)
- บังคับใช้ Firebase App Check โดยเร็วที่สุดเพื่อช่วยปกป้อง Gemini API จาก การละเมิดโดยไคลเอ็นต์ที่ไม่ได้รับอนุญาต
- ใช้ Firebase Remote Config หรือเทมเพลตพรอมต์เซิร์ฟเวอร์เพื่อให้คุณทำการเปลี่ยนแปลงการกำหนดค่าสำหรับฟีเจอร์ AI (เช่น ชื่อโมเดล) ได้ตามต้องการโดยไม่ต้องเผยแพร่แอปเวอร์ชันใหม่
ลองใช้ความสามารถอื่นๆ
- สร้างการสนทนาแบบหลายรอบ (แชท)
- สร้างข้อความที่สร้างขึ้นจากพรอมต์แบบข้อความเท่านั้น
- สร้างเอาต์พุตที่มีโครงสร้าง (เช่น JSON) จากทั้งพรอมต์ข้อความและพรอมต์แบบหลายรูปแบบ
- สร้างและแก้ไขรูปภาพจากทั้งพรอมต์ข้อความและพรอมต์แบบหลายรูปแบบ
- สร้างเสียงพูด (ทั้งแบบผู้พูดคนเดียวและหลายคน) โดยใช้โมเดลการอ่านออกเสียงข้อความ (TTS) ของ Gemini
- สตรีมอินพุตและเอาต์พุต (รวมถึงเสียง) โดยใช้ Gemini Live API
-
ใช้เครื่องมือ (เช่น การเรียกใช้ฟังก์ชันและการอ้างอิงข้อมูลใน
Google Search หรือGoogle Maps ) เพื่อเชื่อมต่อโมเดล Gemini กับส่วนอื่นๆ ของแอป รวมถึงระบบและข้อมูลภายนอก
ดูวิธีควบคุมการสร้างเนื้อหา
- ทำความเข้าใจการออกแบบพรอมต์ ซึ่งรวมถึงแนวทางปฏิบัติแนะนำ กลยุทธ์ และตัวอย่างพรอมต์
- กำหนดค่าพารามิเตอร์โมเดล เช่น โทเค็นเอาต์พุตสูงสุด ความน่าจะเป็นของโทเค็นเอาต์พุตที่ซ้ำกัน เป็นต้น
- ใช้การตั้งค่าความปลอดภัยเพื่อปรับโอกาสในการได้รับคำตอบที่อาจถือว่าเป็นอันตราย
ดูข้อมูลเพิ่มเติมเกี่ยวกับโมเดลที่รองรับ
ดูข้อมูลเกี่ยวกับโมเดลที่พร้อมใช้งานสำหรับกรณีการใช้งานต่างๆ รวมถึงโควต้าและราคาของโมเดลเหล่านั้นแสดงความคิดเห็นเกี่ยวกับประสบการณ์การใช้งาน Firebase AI Logic