本指南可協助您找到適合所需用途的 AI/機器學習解決方案。本指南提供指引,協助您瞭解各種可用解決方案,並根據要實作的功能需求,選擇最符合需求的解決方案。
一般來說,選擇工具和模型來實作 AI/機器學習功能時,應使用能滿足需求的最簡單模型。如要找出最佳解決方案,請仔細思考下列問題:
- 這項功能需要生成新內容 (生成式 AI),還是以確定性方式預測/分類 (傳統機器學習)?
- 功能範圍:工作是否能完全在應用程式內完成 (應用程式內智慧功能),還是需要多個應用程式才能完成 (系統層級智慧功能)?
- 模型位置:工作是否可以離線完成 (裝置端模型),還是需要與伺服器互動 (雲端式模型)?
- 工具包或模型版本:工作複雜度為何?從簡單的單一推論工作,到多代理自動化調度管理,都包含在內。
下方的流程圖概略說明決策過程:
如要瞭解每個步驟的決策依據,請參閱本文其餘章節。
生成式 AI 與傳統機器學習
生成式 AI 模型會建立新內容,而傳統機器學習模型則會以完全確定的方式預測結果或分類資料。如果功能不涉及生成新內容,傳統機器學習解決方案可能就足夠。下表摘要說明一些傳統機器學習解決方案:
| 工具包/解決方案 | 類型 | 主要應用實例 | 範例 |
|---|---|---|---|
| ML Kit SDK | 裝置上 | 預先建構的視覺和自然語言處理工作 |
|
| LiteRT | 裝置上 | 自訂模型執行階段 |
|
| MediaPipe | 裝置上 | 即時影片或音訊串流感知工作 |
|
| Google Cloud API,包括 Cloud Vision API 和 Cloud Natural Language API | 雲端式 | 預先建構的視覺和自然語言處理工作 |
|
| Agent Platform | 雲端式 | 端對端自訂模型訓練和部署 |
|
本文其餘部分將介紹生成式 AI 解決方案。
應用程式內與系統層級智慧功能
如要找出最佳生成式 AI 解決方案,請判斷 AI 功能是否完全在應用程式內運作,還是需要與其他應用程式或 Android 作業系統互動。如果功能是由系統觸發,不屬於任何應用程式,則屬於系統層級智慧功能。下表摘要說明應用程式內和系統層級智慧功能的差異:
| 應用程式內智慧功能 | 系統層級智慧功能 | |
|---|---|---|
| 工作範圍 | 應用程式內 | 跨應用程式 (或由系統觸發,在任何應用程式外部) |
| 工具 | ML Kit SDK、LiteRT、Firebase AI Logic 或自行託管的後端 | AppFunctions |
| 用途 |
|
|
應用程式內智慧功能
應用程式內智慧功能不需要與其他應用程式或系統互動。確定 AI 功能完全在應用程式內運作後,您需要決定是否要完全在裝置端執行該功能、使用雲端式模型,或結合兩者的混合做法。
如果需要輸入影片,或執行涉及多個代理的工作,請使用雲端式模型。下表比較裝置端和雲端式模型的功能:
| 裝置上 | Cloud | |
|---|---|---|
| 工具 | ML Kit SDK 或 LiteRT | Firebase AI Logic 或自行託管的後端 |
| 輸入類型 |
|
|
| 輸出類型 |
|
|
| 使用者資料敏感度 | 較高 | 較低 |
| 模型 |
|
|
| 用途 |
|
|
裝置端模型
如果符合下列任一情況,建議使用裝置端模型:
- 成本限制
- 功能必須能離線執行
- 隱私權規定
- 手邊的工作相對簡單,不需要多代理協調
請注意,使用者的裝置必須支援裝置端模型。裝置端模型通常需要更進階的裝置,才能支援本機處理。
確定裝置端模型足以支援功能後,最佳工具包或解決方案主要取決於工作複雜度。下表摘要說明裝置端、應用程式內生成式 AI 工具的選項:
| 工作複雜度 | 特徵特性 | 範例 | 工具包/解決方案 |
|---|---|---|---|
| 低 |
|
製作文字摘要 |
|
| 中 |
|
查詢和回應 | |
| 高 |
|
客戶意見回饋或錯誤分類 |
使用 ML Kit Prompt API,輕鬆生成單輪或多輪對話文字。如果功能需要在裝置端自主執行多步驟,請使用 ML Kit 生成式 AI 代理 API。Agent API 支援裝置端推論迴圈,可規劃、使用 @Tool 註解叫用類型工具、在互動中保留工作階段內容,以及使用 maxTurns 強制執行回合限制。
雲端式模型
如果功能無法完全在裝置端執行,則必須使用雲端式模型。使用雲端式模型的主要方式有兩種:
使用 Firebase AI Logic 的代管後端。如果您已是 Firebase 使用者,或想快速建立原型,Firebase AI Logic 可能是最佳解決方案。
自訂後端或自行託管的伺服器。如果您想使用非 Gemini 模型、有嚴格的隱私權規定,或需要完成非常複雜的工作,可能需要使用自訂後端。我們也建議使用下列工具設定自訂後端:
- 讓自訂後端執行代理框架,例如 Agent Development Kit
- 使用 AG-UI 將應用程式前端連結至代理後端
- 讓代理使用 A2UI 生成豐富的互動式 UI
下表摘要說明何時應使用 Firebase AI Logic 或自訂後端,建構雲端式應用程式內生成式 AI 工具:
| 工作複雜度 | 特徵特性 | 範例 | 工具包/解決方案 |
|---|---|---|---|
| 低 |
|
製作文字摘要 |
|
| 中 |
|
查詢和回應 |
|
| 高 |
|
客戶意見回饋或錯誤分類 |
|
| 非常高 |
|
建立代理團隊,管理行程的各個面向 |
|
混合式做法
如果功能可以在本機執行,但並非所有使用者的裝置都支援裝置端模型,且您需要使用雲端模型做為備用,請採用混合式方法。詳情請參閱「混合推論」。
系統層級智慧功能
系統層級智慧功能可讓 Android 平台做為工作協調器。系統層級智慧功能可讓 Gemini 等系統代理,跨多個應用程式和網路服務完成使用者要求。
如要將應用程式與 Android 智慧系統連結,請根據您想要程式輔助控制或自動化 UI 導向動作,選擇整合方法:
| 整合選項 | 用途 |
|---|---|
| AppFunctions | 讓代理在裝置端探索及執行應用程式的特定功能。 |
| 遠端 MCP 伺服器 | 讓應用程式的特定功能直接與代理的後端整合。適合跨平台開發。 |
| 電腦控制 | 允許 OEM 預先載入的助理直接與應用程式的使用者介面互動,自動執行工作。 |
如要進一步瞭解系統層級智慧工具選項,請參閱「將應用程式連結至 Android 智慧系統」。