使用 Vertex AI in Firebase SDK 从应用调用 Gemini API 时,您的请求包含用于控制生成式 AI 回答的多个参数。这些数据通常包括模型名称、模型生成配置(令牌数上限、温度等)、安全设置、系统说明和提示数据。
在大多数情况下,您需要根据需要或在多种情况下进行更改:
- 无需发布新应用即可更新生成式 AI 模型。您可以在旧版弃用之前升级到较新的稳定版模型,根据用户的需求和属性降级到更低成本或更高性能的模型,或者有条件地向特定细分用户群(例如 Beta 版测试人员)部署最新的模型。
- 设置您访问模型的位置,以便模型更靠近您的用户。
- 对不同的系统说明和提示进行 A/B 测试,然后逐步向用户推广效果最佳的实验值。
- 使用功能标志在应用中快速显示或隐藏生成式 AI 功能。
Firebase Remote Config 可执行上述所有操作,还可让您根据需要更新参数值,并有条件地针对与您在 Firebase 控制台中设置的特征匹配的应用实例更新参数值,而无需发布应用的新版本。
本解决方案指南提供了具体的推荐用例,并介绍了如何将 Remote Config 添加到生成式 AI 应用。
为什么要在应用中使用 Firebase Remote Config?
借助 Firebase Remote Config,您无需更新应用即可动态调整应用的行为。对于使用生成式 AI 的应用,这尤其强大,因为快速迭代和微调至关重要。
Remote Config 与生成式 AI 应用的必备用例
我们建议将 Remote Config 与 Vertex AI in Firebase 搭配使用,以实现以下基本用例:
- 在不更新应用的情况下升级到最新的模型版本:使用 Remote Config 参数根据需要更改模型名称,以便在首选 Gemini 模型的最新版本可用时立即升级到该版本。
- 在不更新应用的情况下更新系统说明和安全设置:将系统说明和安全设置存储在 Remote Config 参数中,以确保您在部署后发现问题时可以按需进行更改。
- 降低风险并强制执行 AI 安全性:使用 Remote Config发布功能,安全地逐步向 iOS 和 Android 用户发布生成式 AI 更改。
Remote Config 与生成式 AI 应用的推荐高级用例
使用 Remote Config 和 Google Analytics 对应用进行插桩后,您可以探索高级用例:
- 根据客户端位置设置位置:使用 Remote Config 条件根据客户端的检测到的位置设置模型的位置。
- 试验不同的模型:快速测试各种生成式 AI 模型并在它们之间切换,甚至向不同的用户细分受众群体部署不同的模型,以找到最适合您的具体应用场景的模型。
- 优化模型性能:微调模型参数,例如系统提示、输出令牌数上限、温度和其他设置。
根据客户端属性使用不同的系统说明、提示和模型配置:将 Remote Config 与 Google Analytics 搭配使用时,您可以根据客户端属性或自定义受众群体创建条件,并根据这些属性设置不同的参数。
例如,如果您在应用中使用生成式 AI 提供技术支持,则可能需要设置特定于应用平台的系统说明,以确保向 Android、iOS 和 Web 平台用户提供准确的说明。
为每位用户提供个性化体验:使用 Remote Config 个性化功能自动为每位用户确定最佳生成式 AI 设置。
控制费用:远程调整调用的生成式 AI 模型、这些模型的使用频率,并根据用户受众群体动态配置输出令牌的最大值,以减少不必要的费用。
优化应用体验和成效:将 A/B Testing 与 Remote Config 搭配使用,在 iOS、Android 和 Flutter 应用中测试对生成式 AI 参数所做的更改,了解这些更改对留存率和收入等关键指标有何影响。
通过使用 Firebase Remote Config 对生成式 AI 应用进行插桩,您可以构建灵活、安全且经济实惠的 AI 赋能的应用,同时为用户打造愉悦的体验。
将 Firebase Remote Config 添加到您的应用
在本解决方案指南中,您将使用 Firebase Remote Config 在使用 Vertex AI in Firebase SDK 的 Android 应用中动态更新参数。您将学习如何:
- 从 Firebase Remote Config 提取并激活模型名称和系统说明等参数。
- 更新 Gemini API 调用以使用动态检索的参数,让您能够在不同模型之间切换或修改系统指令,而无需进行应用更新。
- 远程控制参数,根据需要调整模型行为和功能。
前提条件
本指南假定您熟悉如何使用 JavaScript 开发 Web 应用。本指南不依赖于框架。在开始之前,请确保您已完成以下操作:
完成 Vertex AI in Firebase SDK 入门指南。请确保您已完成以下所有操作:
- 设置一个新的 Firebase 项目或一个现有的 Firebase 项目,包括使用 Blaze 定价方案并启用所需的 API。
- 将您的应用关联到 Firebase,包括注册应用并将 Firebase 配置添加到应用。
- 添加 SDK,并在应用中初始化 Vertex AI 服务和生成式模型。
在项目中启用 Google Analytics,并将其 SDK 添加到应用中(对于基于条件定位的操作,例如根据客户端设备的位置信息设置服务和模型的位置信息,此操作是必需的)。
第 1 步:在 Firebase 控制台中设置参数值
创建一个客户端 Remote Config 模板,并配置要在应用中提取和使用的参数和值。
- 打开 Firebase 控制台,然后从导航菜单中展开运行并选择 Remote Config。
- 确保从 Remote Config 页面顶部的客户端/服务器选择器中选择了客户端。
- 如果您是首次使用 Remote Config 客户端模板,请点击创建配置。随即会出现创建您的首个参数窗格。
- 如果您不是首次使用 Remote Config 模板,请点击添加参数。
定义以下 Remote Config 参数:
参数名称 说明 类型 默认值 model_name
模型名称。如需查看在代码中使用的模型名称的最新列表,请参阅可用模型名称。 字符串 gemini-1.5-flash
system_instructions
系统说明类似于您在模型接触到最终用户的任何进一步说明之前添加的“序言”,以便根据特定需求和使用情形来影响模型行为。 字符串 You are a helpful assistant who knows everything there is to know about Firebase!
prompt
与生成式 AI 功能搭配使用的默认提示。 字符串 I am a developer who wants to know more about Firebase!
vertex_location
(可选)控制位置,以运行 Vertex AI 服务并访问模型。您可以设置条件,以便根据 Google Analytics 检测到的客户端位置配置此选项。 字符串 us-central1
添加完参数后,点击发布更改。如果这不是新的 Remote Config 模板,请查看更改,然后再次点击发布更改。
第 2 步:添加并初始化 Remote Config SDK
添加并初始化 Remote Config SDK:
在文本编辑器中打开您的代码,然后导入 Remote Config:
import { getRemoteConfig } from 'firebase/remote-config';
在主函数内,在为 Vertex AI in Firebase SDK 初始化 Firebase 应用后,初始化 Remote Config:
// Initialize Remote Config and get a reference to the service const remoteConfig = getRemoteConfig(app);
设置最小提取间隔。在此示例中,默认提取间隔为 3600 秒,但我们建议您在开发期间在代码中设置相对较短的最小提取间隔。
remoteConfig.settings.minimumFetchIntervalMillis = 3600000;
第 3 步:设置应用内参数值
您应在 Remote Config 对象中设置应用内默认参数值,以便在客户端网络访问中断且/或者后端未配置任何值的情况下,应用在连接到 Remote Config 后端之前能够正常运行。
在此示例中,您需要手动为模型名称、系统说明、用户提示和 Vertex AI 位置设置默认值:
// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
model_name: 'gemini-1.5-flash',
system_instructions:
'You are a helpful assistant who knows everything there is to know about Firebase!',
prompt: 'I am a developer who wants to know more about Firebase!',
vertex_location: 'us-central1',
};
第 4 步:提取并激活值
向导入添加
getValue
和fetchAndActivate
:import { getValue, fetchAndActivate } from 'firebase/remote-config';
在您添加的用于配置默认 Remote Config 值的代码运行后,提取并激活配置,然后为
modelName
、systemInstructions
、prompt
和vertexLocation
常量分配值。// Fetch and activate Remote Config. try { await fetchAndActivate(remoteConfig); } catch(err) { console.error('Remote Config fetch failed', err); } console.log('Remote Config fetched.'); // Assign Remote Config values. const modelName = getValue(remoteConfig, 'model_name').asString(); const systemInstructions = getValue(remoteConfig, 'system_instructions').asString(); const prompt = getValue(remoteConfig, 'prompt').asString(); const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();
第 5 步:更新 Vertex AI 调用以使用 Remote Config 值
现在,Remote Config 已完全配置完毕,请更新代码,将硬编码值替换为来自 Remote Config 的值。例如,如果您使用的是使用 Vertex AI in Firebase SDK 开始使用 Gemini API 中使用的示例,则需要按如下方式对其进行更新:
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });
// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
model: modelName,
systemInstruction: systemInstruction
});
// Wrap in an async function so you can use await
async function run() {
// Provide a prompt that contains text
const userPrompt = prompt;
// To generate text output, call generateContent with the text input
const result = await model.generateContent(userPrompt);
const response = result.response;
const text = response.text();
console.log(text);
}
第 6 步:运行应用
运行应用并验证其能否正常运行。在 Firebase 控制台中的 Remote Config 页面中更改配置,发布更改,然后验证结果。
后续步骤
- 详细了解 Remote Config。
- 将 Google Analytics 添加到您的代码中,以启用定位。