使用 Firebase AI Logic 建構混合式和裝置端體驗

您可以使用 Firebase AI Logic，透過混合式推論建構採用 AI 技術的 Apple、Android 和網頁應用程式與功能。混合推論功能可讓您在可用時使用裝置端模型執行推論，並在其他情況下順暢切換至雲端託管模型 (反之亦然)。

  • 使用裝置端模型進行推論的好處：

    • 強化隱私
    • 查看當地特色
    • 免付費推論
    • 離線功能

  • 採用混合做法的好處：

    • 無論使用者使用何種裝置，都能提供類似的應用程式體驗
    • 無論網際網路連線、配額限制或裝置功能如何，都能提高生成式 AI 功能的可用性

按照入門指南操作

這些指南提供逐步說明，協助您在應用程式中設定混合式體驗。

探索設定選項和功能

按照入門指南設定應用程式後，請參閱以下文章，瞭解如何設定及自訂混合體驗：

  • 設定推論模式和模型：控制應用程式是否偏好裝置端推論、雲端推論，或限制只能在單一來源執行 (iOS+ | Android | Web)。

  • 生成結構化輸出內容 (例如 JSON 和列舉)：確保模型回覆符合下游處理的確切結構定義 (Android | Web)。