Google は、クラウドベースとオンデバイスの両方の推論に対応する、業界をリードする AI モデルと API を幅広く提供しています。ハイブリッド推論を使用すると、ローカル デバイスとクラウドの間で AI ワークロードをシームレスに分散し、パフォーマンス、費用、可用性を最適化できます。
ハイブリッド推論には、Android アプリに次の 2 つの主なメリットがあります。
- リーチを最大化する: Gemini Nano などのオンデバイス モデルがデバイスのハードウェアや OS の制約により利用できない場合、クラウドモデルは重要なフォールバックとして機能します。これにより、AI 機能が可能な限り幅広いユーザーのデバイスで機能し続けることが保証されます。
- 費用とオフライン機能: オンデバイス モデルは、ユーザーがオフラインのときに AI 機能がシームレスに動作するようにします。また、ルーティン タスクをローカル デバイスにオフロードすることで、クラウド推論の費用を削減できます。
オンデバイス推論とクラウド推論のメリットは次のとおりです。
| デバイスでの推論 | クラウドでの推論 |
|---|---|
| オフラインで使用可 | あらゆるデバイスに対応 |
| 推論費用なし | 高度なモデル機能 |
実装オプション
ハイブリッド推論は、次の方法で実装できます。
Firebase AI Logic ハイブリッド API
Firebase AI Logic Hybrid API は、クラウドモデルとオンデバイス モデル間で推論をルーティングするための単一の統合インターフェースを提供します。
- 自動切り替え: 可能な限りデバイス上で AI タスクを実行するようにアプリを構成できます。つまり、アプリの機能はオフラインで動作し、プライバシーが強化され、クラウド推論費用が発生しません。オンデバイス モデルが利用できない場合、SDK はリクエストをクラウドホストの Gemini モデルに自動的に転送できます。
- 不正使用に対する保護: モバイルアプリから Cloud APIs を直接呼び出すと、認証情報が漏洩し、不要な料金が発生する可能性があります。ただし、Firebase AI Logic を使用する場合は、Firebase App Check も適用されます。これにより、改ざんされていない正規のアプリのみがクラウド Gemini API にアクセスできることを確認し、不正使用を防ぐことができます。
- 費用上限: クラウドホスト型モデルにリクエストを転送するときに、単価の上限を構成して、クラウド予算を保護し、想定外の請求を回避できます。
アプリで、onDeviceConfig パラメータを定義して推論モードを制御し、ルーティングを管理します。
PREFER_ON_DEVICE: デバイス上のモデルを使用しようとします。デバイス上のモデルがリクエストで使用できない場合やサポートされていない場合は、クラウドホスト型モデルに自動的にフォールバックします。PREFER_IN_CLOUD: デバイスがオンラインでモデルが使用可能な場合は、クラウドホスト型モデルを使用しようとします。デバイスがオフラインの場合にのみ、デバイスモデルにフォールバックします。ONLY_ON_DEVICE: オンデバイス モデルの使用を試みます。オンデバイス モデルがリクエストで使用できないか、サポートされていない場合は例外をスローします。ONLY_IN_CLOUD: デバイスがオンラインでモデルが利用可能な場合は、クラウドホスト型モデルの使用を試みます。それ以外の場合は例外をスローします。
val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI()) .generativeModel( modelName = "gemini-3.5-flash", onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE) ) val response = model.generateContent("Write a story about a green robot.") print(response.text)
実装の詳細については、Firebase のドキュメントを確認し、AI カタログのハイブリッド AI サンプルをご覧ください。
ワークロードをクラウドに移行すると、Cloud APIs エンドポイントが公開される可能性があります。Firebase AI Logic を使用すると、Firebase App Check を適用して、クライアントサイド アプリからクラウドベースの Gemini モデルに安全に直接アクセスできます。これにより、クラウドベースの推論を不正アクセスや課金不正行為から保護できます。これにより、ハイブリッド フォールバック メカニズムの可用性とセキュリティを維持できます。
カスタム ルーティング
アプリに特定のビジネス要件や UX 要件がある場合は、カスタムのルーティング ロジックを実装することもできます。これにより、次のようなリアルタイムの要因に基づいて推論パスを動的に決定できます。
- ネットワーク レイテンシ
- デバイスのシステム ヘルス（バッテリー残量やプロセッサ負荷など）
- ユーザー クエリの複雑さ
このカスタム ハイブリッド推論アプローチは、独自のカスタム ルーティングを実装して信頼性の高い AI エクスペリエンスを提供している主要なアプリで使用されています。たとえば、次のようなアプリがあります。
GBoard: Gboard は、カスタム ハイブリッド推論を使用して、校正や書き換えなどの文章作成ツールを強化します。
Kakao Mobility: Kakao Mobility は、荷物配送サービス用にカスタム ハイブリッド推論を使用してエンティティ抽出ツールを構築しました。このツールは、自然言語メッセージから受取人の名前、住所、電話番号を自動的に抽出し、注文フォームを効率化します。