產品新訊

Android 專用的實驗性混合式推論和全新 Gemini 模型

3 分鐘小故事
Thomas Ezan
資深開發人員關係工程師

如果您是 Android 開發人員,想在應用程式中導入創新的 AI 功能,我們最近推出了強大的新更新:

  • 混合式推論:Firebase AI Logic 的新 API,可同時運用裝置端和雲端推論,
  • 支援新的 Gemini 模型,包括最新的 Nano Banana 模型,可生成圖像。

我們進入正題吧!

實驗混合推論

我們透過全新的 Firebase API for hybrid inference,實作簡單的規則式路徑方法,做為初始解決方案,讓您透過統一的 API 使用裝置端和雲端推論。我們預計日後會提供更精細的轉送功能。

這項功能可讓應用程式在裝置上執行的 Gemini Nano,以及雲端代管的 Gemini 模型之間動態切換。裝置端執行作業會使用 ML Kit 的 Prompt API。雲端推論支援 Vertex AI 和 Developer API 中的所有 Firebase AI Logic Gemini 模型。

如要使用這項功能,請將 firebase-ai-ondevice 依附元件和 Firebase AI Logic 一併新增至應用程式:

dependencies {
 [...] 
 implementation("com.google.firebase:firebase-ai:17.10.1")
 implementation("com.google.firebase:firebase-ai-ondevice:16.0.0-beta01")
}

初始化期間,您會建立 GenerativeModel 例項,並設定特定推論模式,例如 PREFER_ON_DEVICE (如果裝置無法使用 Gemini Nano,則會改用雲端) 或 PREFER_IN_CLOUD (如果離線,則會改用裝置端推論):

val model = Firebase.ai(backend = GenerativeBackend.googleAI())
    .generativeModel(
        modelName = "gemini-3.1-flash-lite",
        onDeviceConfig = OnDeviceConfig(
           mode = InferenceMode.PREFER_ON_DEVICE
        )
    )

val response = model.generateContent(prompt)

Android 適用的混合式推論 Firebase API 仍處於實驗階段,建議您在應用程式中試用,尤其是已使用 Firebase AI Logic 的應用程式。

目前裝置端模型專門用於根據文字或單一點陣圖輸入內容,生成單輪文字。如需更多詳細資料,請參閱限制

我們剛在 AI 範例目錄中發布新的範例,其中運用 Firebase API 進行混合式推論,示範如何使用 Firebase API 進行混合式推論,根據選取的幾個主題生成評論,然後翻譯成各種語言。查看程式碼,瞭解實際運作方式!

Hybrid_Inference-Inline-imagery.gif
新混合式推論範例的實際運作情形

實際運作的新型混合推論範例

試用新模型

我們發布了兩款特別適合 Android 開發人員的新 Gemini 模型,可透過 Firebase AI Logic SDK 輕鬆整合至應用程式。

Nano Banana
我們在去年發布了最先進的圖像生成模型 Nano Banana,並在幾週前發布了幾款新的 Nana Banana 模型。

Nano Banana Pro (Gemini 3 Pro Image) 專為製作專業素材資源而設計,可算繪高保真文字,甚至能使用特定字型或模擬不同類型的手寫字。

Nano Banana 2 (Gemini 3.1 Flash Image) 是 Nano Banana Pro 的高效率版本,這項模型經過最佳化,可快速處理大量資料。這項技術可廣泛用於各種用途 (資訊圖、虛擬貼紙、情境插圖等)。  

全新的 Nano Banana 模型運用現實世界的知識和深入的推論能力,生成精確且細緻的圖像。

我們更新了「魔法自拍」範例 (使用圖像生成功能變更自拍照的背景!),改用 Nano Banana 2。現在背景區隔作業會直接透過圖像生成模型處理,因此實作起來更輕鬆,且 Nano Banana 2 的圖像生成功能也更加出色。如要查看實際運作情形,請按這裡

magic_selfie.png
更新的 Magic Selfie 範例使用 Nanobana 2 更新自拍背景

您可以透過 Firebase AI Logic SDK 使用這項功能。詳情請參閱 Android 說明文件

Gemini 3.1 Flash-Lite

我們也發布了 Gemini 3.1 Flash-Lite,這是 Gemini Flash-Lite 系列的新版本。Gemini Flash-Lite 模型品質/延遲比率良好,且推論成本低廉,因此特別受到 Android 開發人員青睞。Android 開發人員已將這項模型用於各種用途,例如應用程式內訊息翻譯,或是根據菜餚圖片生成食譜。

目前為預先發布版的 Gemini 3.1 Flash-Lite,延遲時間與 Gemini 2.5 Flash-Lite 相當,但可支援更進階的用途。

如要進一步瞭解這項模型,請參閱 Firebase 說明文件

結語

現在正是探索目錄中全新 Hybrid 範例的好時機,看看這些功能實際運作的情形,並瞭解在裝置端和雲端推論之間進行路徑設定的好處。我們也建議您參閱說明文件,測試新的 Gemini 模型。

撰寫者:

繼續閱讀