建立 Firebase 遠端設定實驗並進行 A/B 測試

當您使用 Firebase Remote Config 為擁有活躍使用者群的應用程式部署設定時，請務必確保設定正確無誤。您可以使用 A/B Testing 實驗，以便最佳判斷下列事項：

• 實作功能的最佳做法，以改善使用者體驗。往往，應用程式開發人員在應用程式在應用程式商店的評分下降後，才會發現使用者不喜歡新功能或更新的使用者體驗。您可以透過 A/B 版本測試，評估使用者是否喜歡新功能的變化版本，或是是否偏好現有的應用程式。此外，將大多數使用者歸入基準群組，可確保大多數的使用者在實驗結束前，都能繼續使用應用程式，而不會遇到任何行為或外觀變更。
• 為達成業務目標，最佳化使用者體驗的最佳做法。有時候，您會實施產品變更，以便盡可能提高收入或留存率等指標。您可以透過 A/B 測試設定業務目標，而 Firebase 會執行統計分析，判斷變化版本是否優於所選目標的基準組。

如要使用基準值進行功能變化版本的 A/B 版本測試，請按照下列步驟操作：

1. 建立實驗。
2. 在測試裝置上驗證實驗。
3. 管理實驗。

建立實驗

Remote Config 實驗可讓您針對一或多個 Remote Config 參數評估多個變化版本。

1. 登入 Firebase 控制台，確認專案中已啟用 Google Analytics，讓實驗可以存取 Analytics 資料。

   如果您在建立專案時未啟用 Google Analytics，可以前往「整合」分頁標籤啟用，方法是前往 Firebase 控制台，依序點選 settings >「專案設定」。

2. 在 Firebase 控制台導覽選單的「Engage」部分，按一下 A/B Testing。

3. 按一下「建立實驗」，然後在系統提示要實驗的服務時，選取 Remote Config。

4. 輸入實驗的「名稱」和選填的「說明」，然後按一下「下一步」。

5. 填寫「指定目標」欄位，首先選擇要用於實驗的應用程式。您也可以按一下「&」，然後從下列清單中選擇選項，指定部分使用者參與實驗：

   • 版本：應用程式的一或多個版本
   • 版本編號：應用程式的版本代碼
   • 語言：一或多種語言和語言代碼，用於選取可能參與實驗的使用者
   • 國家/地區：一或多個國家/地區，用於選取要納入實驗的使用者
   • 使用者目標對象： Analytics 用於指定可能納入實驗的使用者
   • 使用者屬性：一或多個 Analytics 使用者屬性，用於選取可能納入實驗的使用者

   • 首次開啟：根據使用者首次開啟應用程式的時間指定目標使用者

     選取 Android 或 iOS 應用程式後，即可使用「以初次開啟時間指定目標」功能。以下 Remote Config SDK 版本支援這項功能：Apple 平台 SDK 9.0.0 以上版本和 Android SDK 21.1.1 以上版本 (Firebase BoM 30.3.0 以上版本)。

     在首次開啟事件中，Analytics 也必須已在用戶端啟用。

6. 設定「目標使用者百分比」：輸入應用程式使用者符合「目標使用者」下方設定的條件百分比，並將這些使用者平均分配給實驗中的基準和一或多個變化版本。這個值可以是 0.01% 到 100% 之間的任何百分比。系統會將使用者隨機指派給各個實驗，包括重複的實驗。

7. 您可以視需要設定啟用事件，確保實驗中只計算首次觸發某些 Analytics 事件的使用者資料。請注意，所有符合指定目標參數的使用者都會收到 Remote Config 實驗值，但只有觸發啟用事件的使用者才會納入實驗結果。

   為確保實驗有效，請確認您選擇的事件發生在應用程式啟用擷取的設定值的之後。此外，下列事件一律會在擷取的值啟用之前發生，因此無法使用：

   • app_install
   • app_remove
   • app_update
   • dynamic_link_first_open

8. 針對實驗的目標，選取要追蹤的主要指標，並從清單中新增要追蹤的其他指標。包括內建目標 (購買、收益、留存、無當機的使用者等)、Analytics 轉換事件和其他 Analytics 事件。完成後，請點選「下一步」。

9. 在「變體」部分，為實驗選擇控制組和至少一個變體。使用「選擇或建立新」清單，新增一或多個參數進行實驗。您可以建立先前未在 Firebase 控制台中使用的參數，但參數必須存在於應用程式中，才能發揮作用。您可以重複執行這項步驟，在實驗中加入多個參數。

10. (選用) 如要為實驗新增多個變化版本，請按一下「新增其他變化版本」。

11. 變更特定變化版本的一或多個參數。對於未納入實驗的使用者，所有未變更的參數都會保持不變。

12. 展開「變化版本權重」，即可查看或變更實驗的變化版本權重。根據預設，每個版本的權重均等。請注意，如果權重不均等，可能會導致資料收集時間加長。此外，實驗開始後即不可再變更權重。

13. 按一下「查看」即可儲存實驗。

舉例來說，假設您使用 Remote Config 在應用程式中推出兩個不同的遊戲流程，並想針對應用程式內購和廣告收益進行最佳化，但也想追蹤每個變化版本的穩定性和使用者留存率。在這種情況下，您可以考慮選擇「預估總收益」做為目標指標，因為這項指標包含應用程式內購收益和廣告收益。接著，您可以新增下列

• 如要追蹤每日和每週的使用者留存率，請新增「Retention (2-3 days)」和「Retention (4-7 days)」。
• 如要比較兩個遊戲流程的穩定性，請新增不受當機影響的使用者。
• 如要查看各收益類型的詳細資料，請新增「購買收益」和「預估廣告收益」。

下表詳細說明如何計算目標指標和其他指標。

「目標」指標

其他指標

BigQuery 資料匯出

除了在 Firebase 控制台中查看 A/B Testing 實驗資料，您也可以在 BigQuery 中檢查及分析實驗資料。雖然 A/B Testing 沒有獨立的 BigQuery 資料表，但實驗和變化版本成員資格會儲存在 Analytics 事件表格中的每個 Google Analytics 事件中。

包含實驗資訊的使用者資源格式為 userProperty.key like "firebase_exp_%" 或 userProperty.key = "firebase_exp_01"，其中 01 為實驗 ID，而 userProperty.value.string_value 則包含實驗變化版本的 (以零為起點) 索引。

您可以使用這些實驗使用者屬性來擷取實驗資料。這樣一來，您就能以多種方式切割實驗結果，並獨立驗證 A/B Testing 的結果。

如要開始使用，請按照本指南所述完成下列步驟：

1. 在 Firebase 主控台中為 Google Analytics 啟用 BigQuery 匯出功能
2. 使用 BigQuery 存取 A/B Testing 資料
3. 探索查詢範例

在 Firebase 主控台中為 Google Analytics 啟用 BigQuery 匯出功能

如果您使用的是 Spark 方案，可以使用 BigQuery 沙箱免費存取 BigQuery，但須遵守沙箱限制。詳情請參閱「定價和 BigQuery 沙箱」一文。

首先，請確認您將 Analytics 資料匯出至 BigQuery：

1. 開啟「整合」分頁，您可以透過 Firebase 控制台中的 settings「> 專案設定」存取該分頁。
2. 如果您已將 BigQuery 與其他 Firebase 服務搭配使用，請按一下「管理」。否則請按一下「連結」。
3. 詳閱「關於將 Firebase 連結至 BigQuery」，然後按一下「下一步」。
4. 在「設定整合」部分中，啟用「Google Analytics」切換按鈕。

5. 選取區域並選擇匯出設定。

6. 按一下「連結至 BigQuery」。

視您選擇的資料匯出方式而定，表格可能需要最多一天的時間才能使用。如要進一步瞭解如何將專案資料匯出至 BigQuery，請參閱「將專案資料匯出至 BigQuery」。

在 BigQuery 中存取 A/B Testing 資料

在查詢特定實驗的資料之前，請先取得下列部分或全部資訊，以便在查詢中使用：

• 實驗 ID：您可以從「實驗總覽」頁面的網址取得。舉例來說，如果網址類似 https://console.firebase.google.com/project/my_firebase_project/config/experiment/results/25，實驗 ID 就是 25。
• Google Analytics 房源 ID：這是 Google Analytics 房源的 9 位數 ID。您可以在 Google Analytics 中找到這個值，當您展開專案名稱來顯示 Google Analytics 事件表 (project_name.analytics_000000000.events) 的名稱時，這個值也會顯示在 BigQuery 中。
• 實驗日期：如要編寫更快速且更有效率的查詢，建議您將查詢限制在包含實驗資料的 Google Analytics 每日事件資料表分區 (以 YYYYMMDD 後置字元標示的資料表)。因此，如果實驗從 2024 年 2 月 2 日開始，到 2024 年 5 月 2 日結束，您就會指定 _TABLE_SUFFIX between '20240202' AND '20240502'。如需範例，請參閱「選取特定實驗的值」。
• 事件名稱：通常會與您在實驗中設定的目標指標相對應。例如 in_app_purchase 事件、ad_impression 或 user_retention 事件。

收集產生查詢所需的資訊後，請按照下列步驟操作：

1. 在 Google Cloud 控制台中開啟 BigQuery。
2. 選取專案，然後選取「建立 SQL 查詢」。
3. 新增查詢。如需執行的查詢範例，請參閱「探索查詢範例」。
4. 按一下「執行」。

使用 Firebase 控制台的自動產生查詢查詢實驗資料

如果您使用 Blaze 方案，實驗總覽頁面會提供查詢範例，用來傳回您查看的實驗名稱、變化版本、事件名稱和事件數量。

如要取得並執行自動產生的查詢，請按照下列步驟操作：

1. 在 Firebase 主控台中開啟 A/B Testing，然後選取要查詢的 A/B Testing 實驗，即可開啟「實驗總覽」。
2. 在「選項」選單中，選取「BigQuery 整合」下方的「查詢實驗資料」。這會在 Google Cloud 主控台內的 BigQuery 中開啟專案，並提供可用來查詢實驗資料的基本查詢。

以下範例顯示為名為「冬季歡迎實驗」的實驗產生的查詢，其中包含三個變化版本 (包括基準)。這項作業會傳回有效的實驗名稱、變體名稱、不重複事件，以及每個事件的事件計數。請注意，查詢建構工具不會在資料表名稱中指定專案名稱，因為它會直接在專案中開啟。

  /*
    This query is auto-generated by Firebase A/B Testing for your
    experiment "Winter welcome experiment".
    It demonstrates how you can get event counts for all Analytics
    events logged by each variant of this experiment's population.
  */
  SELECT
    'Winter welcome experiment' AS experimentName,
    CASE userProperty.value.string_value
      WHEN '0' THEN 'Baseline'
      WHEN '1' THEN 'Welcome message (1)'
      WHEN '2' THEN 'Welcome message (2)'
      END AS experimentVariant,
    event_name AS eventName,
    COUNT(*) AS count
  FROM
    `analytics_000000000.events_*`,
    UNNEST(user_properties) AS userProperty
  WHERE
    (_TABLE_SUFFIX BETWEEN '20240202' AND '20240502')
    AND userProperty.key = 'firebase_exp_25'
  GROUP BY
    experimentVariant, eventName

如需其他查詢範例，請參閱「查看查詢範例」。

查看查詢範例

以下各節提供查詢範例，可用於從 Google Analytics 事件資料表中擷取 A/B Testing 實驗資料。

從所有實驗中擷取購買和實驗標準差值

您可以使用實驗結果資料，獨立驗證 Firebase A/B Testing 結果。以下 BigQuery SQL 陳述式會擷取實驗變體、每個變體的不重複使用者人數，以及 in_app_purchase 和 ecommerce_purchase 事件的總收益，以及在 _TABLE_SUFFIX 開始和結束日期指定的時間範圍內，所有實驗的標準差。您可以使用從這項查詢取得的資料，搭配統計顯著性產生器進行單尾 t 檢定，驗證 Firebase 提供的結果是否與您自己的分析結果相符。

如要進一步瞭解 A/B Testing 如何計算推論結果，請參閱「解讀測試結果」。

  /*
    This query returns all experiment variants, number of unique users,
    the average USD spent per user, and the standard deviation for all
    experiments within the date range specified for _TABLE_SUFFIX.
  */
  SELECT
    experimentNumber,
    experimentVariant,
    COUNT(*) AS unique_users,
    AVG(usd_value) AS usd_value_per_user,
    STDDEV(usd_value) AS std_dev
  FROM
    (
      SELECT
        userProperty.key AS experimentNumber,
        userProperty.value.string_value AS experimentVariant,
        user_pseudo_id,
        SUM(
          CASE
            WHEN event_name IN ('in_app_purchase', 'ecommerce_purchase')
              THEN event_value_in_usd
            ELSE 0
            END) AS usd_value
      FROM `PROJECT_NAME.analytics_ANALYTICS_ID.events_*`
      CROSS JOIN UNNEST(user_properties) AS userProperty
      WHERE
        userProperty.key LIKE 'firebase_exp_%'
        AND event_name IN ('in_app_purchase', 'ecommerce_purchase')
        AND (_TABLE_SUFFIX BETWEEN 'YYYYMMDD' AND 'YYYMMDD')
      GROUP BY 1, 2, 3
    )
  GROUP BY 1, 2
  ORDER BY 1, 2;

選取特定實驗的值

以下查詢範例說明如何取得 BigQuery 中特定實驗的資料。這個範例查詢會傳回實驗名稱、變化版本名稱 (包括基準)、事件名稱和事件計數。

  SELECT
    'EXPERIMENT_NAME' AS experimentName,
    CASE userProperty.value.string_value
      WHEN '0' THEN 'Baseline'
      WHEN '1' THEN 'VARIANT_1_NAME'
      WHEN '2' THEN 'VARIANT_2_NAME'
      END AS experimentVariant,
    event_name AS eventName,
    COUNT(*) AS count
  FROM
    `analytics_ANALYTICS_PROPERTY.events_*`,
    UNNEST(user_properties) AS userProperty
  WHERE
    (_TABLE_SUFFIX BETWEEN 'YYYMMDD' AND 'YYYMMDD')
    AND userProperty.key = 'firebase_exp_EXPERIMENT_NUMBER'
  GROUP BY
    experimentVariant, eventName