找出適合您功能的 AI/機器學習解決方案

本指南可協助您找到適合所需用途的 AI/機器學習解決方案。本指南提供指引,協助您瞭解各種可用解決方案,並根據要實作的功能需求,選擇最符合需求的解決方案。

一般來說,選擇工具和模型來實作 AI/機器學習功能時,應使用能滿足需求的最簡單模型。如要找出最佳解決方案,請仔細思考下列問題:

  • 這項功能需要生成新內容 (生成式 AI),還是以確定性方式預測/分類 (傳統機器學習)?
  • 功能範圍:工作是否能完全在應用程式內完成 (應用程式內智慧功能),還是需要多個應用程式才能完成 (系統層級智慧功能)?
  • 模型位置:工作是否可以離線完成 (裝置端模型),還是需要與伺服器互動 (雲端式模型)?
  • 工具包或模型版本:工作複雜度為何?從簡單的單一推論工作,到多代理自動化調度管理,都包含在內。

下方的流程圖概略說明決策過程:

是 否 是 否 是 否 是 否 是 否 功能 您是否需要生成 新內容 (而非 預測或分類資料)? 生成式 AI 是否為跨應用程式 工作? 傳統機器學習 系統智慧 使用 AppFunctions 應用程式內智慧 功能是否可離線執行? 是否有 成本限制? 目標裝置是否 支援裝置端 模型? 您是否需要功能在應用程式關閉時繼續執行 (保留狀態),或需要存取私人資料庫? 裝置端模型 透過 ML Kit 或 LiteRT 使用 Gemini Nano 混合式做法 優先使用裝置端模型, 但以雲端模型 做為備用 雲端模型 使用自管 自訂伺服器 雲端模型 透過 Firebase AI Logic 使用代管 後端
圖 1. 選擇 AI/機器學習解決方案的高階決策程序。

如要瞭解每個步驟的決策依據,請參閱本文其餘章節。

生成式 AI 與傳統機器學習

生成式 AI 模型會建立新內容,而傳統機器學習模型則會以完全確定的方式預測結果或分類資料。如果功能不涉及生成新內容,傳統機器學習解決方案可能就足夠。下表摘要說明一些傳統機器學習解決方案:

工具包/解決方案 類型 主要應用實例 範例
ML Kit SDK 裝置上 預先建構的視覺和自然語言處理工作
  • OCR 收據掃描器
  • 快速掃描活動 QR code 報到
  • 離線菜單翻譯
LiteRT 裝置上 自訂模型執行階段
  • 醫學影像分類
  • 智慧鍵盤預測字詞功能,適用於小眾主題
MediaPipe 裝置上 即時影片或音訊串流感知工作
  • 即時健身姿勢指導
  • 臉部濾鏡和特效
  • 手勢辨識
Google Cloud API,包括 Cloud Vision API 和 Cloud Natural Language API 雲端式 預先建構的視覺和自然語言處理工作
  • 自動產生影片字幕
  • 影像品質驗證與法規遵循
Agent Platform 雲端式 端對端自訂模型訓練和部署
  • 大規模專業圖片辨識
  • 圖庫相片搜尋

本文其餘部分將介紹生成式 AI 解決方案。

應用程式內與系統層級智慧功能

如要找出最佳生成式 AI 解決方案,請判斷 AI 功能是否完全在應用程式內運作,還是需要與其他應用程式或 Android 作業系統互動。如果功能是由系統觸發,不屬於任何應用程式,則屬於系統層級智慧功能。下表摘要說明應用程式內和系統層級智慧功能的差異:

應用程式內智慧功能 系統層級智慧功能
工作範圍 應用程式內 跨應用程式 (或由系統觸發,在任何應用程式外部)
工具 ML Kit SDK、LiteRT、Firebase AI Logic 或自行託管的後端 AppFunctions
用途
  • 摘要、校對或轉錄文字
  • 描述圖片
  • 建構應用程式內聊天機器人
  • 生成圖像
  • 根據記事文件中的內容,在外送應用程式中建立購物清單
  • 預約前往辦公室的行程,並傳送預計到達時間給同事
  • 在電子郵件收件匣中尋找推薦餐廳並訂位

應用程式內智慧功能

應用程式內智慧功能不需要與其他應用程式或系統互動。確定 AI 功能完全在應用程式內運作後,您需要決定是否要完全在裝置端執行該功能、使用雲端式模型,或結合兩者的混合做法。

如果需要輸入影片,或執行涉及多個代理的工作,請使用雲端式模型。下表比較裝置端和雲端式模型的功能:

裝置上 Cloud
工具 ML Kit SDK 或 LiteRT Firebase AI Logic 或自行託管的後端
輸入類型
  • 文字
  • 圖片
  • 音訊
  • 文字
  • 圖片
  • 音訊
  • 影片
輸出類型
  • 文字
  • 文字
  • 圖片
  • 音訊
使用者資料敏感度 較高 較低
模型
  • Gemma
  • Gemini Nano
  • Gemini Flash
  • Gemini Flash Lite
  • Gemini Pro
用途
  • 處理簡短內容,例如摘要、校對或改寫簡短的即時通訊訊息或電子郵件
  • 描述圖片
  • 根據使用者興趣生成個人化輸出內容
  • 處理使用者私密資料
  • 轉錄短音訊片段
  • 建構聊天機器人
  • 生成圖像
  • 即時翻譯對話
  • 在應用程式中編輯相片
  • 多代理工作

裝置端模型

如果符合下列任一情況,建議使用裝置端模型:

  • 成本限制
  • 功能必須能離線執行
  • 隱私權規定
  • 手邊的工作相對簡單,不需要多代理協調

請注意,使用者的裝置必須支援裝置端模型。裝置端模型通常需要更進階的裝置,才能支援本機處理。

確定裝置端模型足以支援功能後,最佳工具包或解決方案主要取決於工作複雜度。下表摘要說明裝置端、應用程式內生成式 AI 工具的選項:

工作複雜度 特徵特性 範例 工具包/解決方案
低
  • 單一推論
  • 純生成
製作文字摘要
中
  • 擴增 LLM
  • 函式呼叫
  • 對話記錄
查詢和回應
高
  • 單一代理迴圈,循環執行直到工作完成
客戶意見回饋或錯誤分類

使用 ML Kit Prompt API,輕鬆生成單輪或多輪對話文字。如果功能需要在裝置端自主執行多步驟,請使用 ML Kit 生成式 AI 代理 API。Agent API 支援裝置端推論迴圈,可規劃、使用 @Tool 註解叫用類型工具、在互動中保留工作階段內容,以及使用 maxTurns 強制執行回合限制。

雲端式模型

如果功能無法完全在裝置端執行,則必須使用雲端式模型。使用雲端式模型的主要方式有兩種:

  • 使用 Firebase AI Logic 的代管後端。如果您已是 Firebase 使用者,或想快速建立原型,Firebase AI Logic 可能是最佳解決方案。

  • 自訂後端或自行託管的伺服器。如果您想使用非 Gemini 模型、有嚴格的隱私權規定,或需要完成非常複雜的工作,可能需要使用自訂後端。我們也建議使用下列工具設定自訂後端:

    • 讓自訂後端執行代理框架,例如 Agent Development Kit
    • 使用 AG-UI 將應用程式前端連結至代理後端
    • 讓代理使用 A2UI 生成豐富的互動式 UI

下表摘要說明何時應使用 Firebase AI Logic 或自訂後端,建構雲端式應用程式內生成式 AI 工具:

工作複雜度 特徵特性 範例 工具包/解決方案
低
  • 單一推論
  • 純生成
製作文字摘要
  • Firebase AI Logic
  • 自訂後端
中
  • 擴增 LLM
  • 函式呼叫
  • 對話記錄
查詢和回應
  • Firebase AI Logic
  • 自訂後端
高
  • 單一代理迴圈,循環執行直到工作完成
客戶意見回饋或錯誤分類
  • 自訂後端
非常高
  • 多代理自動化調度管理
建立代理團隊,管理行程的各個面向
  • 自訂後端

混合式做法

如果功能可以在本機執行,但並非所有使用者的裝置都支援裝置端模型,且您需要使用雲端模型做為備用,請採用混合式方法。詳情請參閱「混合推論」。

系統層級智慧功能

系統層級智慧功能可讓 Android 平台做為工作協調器。系統層級智慧功能可讓 Gemini 等系統代理,跨多個應用程式和網路服務完成使用者要求。

如要將應用程式與 Android 智慧系統連結,請根據您想要程式輔助控制或自動化 UI 導向動作,選擇整合方法:

整合選項 用途
AppFunctions 讓代理在裝置端探索及執行應用程式的特定功能。
遠端 MCP 伺服器 讓應用程式的特定功能直接與代理的後端整合。適合跨平台開發。
電腦控制 允許 OEM 預先載入的助理直接與應用程式的使用者介面互動,自動執行工作。

如要進一步瞭解系統層級智慧工具選項,請參閱「將應用程式連結至 Android 智慧系統」。