自動プロンプト最適化が ML Kit の GenAI Prompt API の品質向上を実現する方法

自動プロンプト最適化（APO）

ML Kit Prompt API のユースケースを本番環境に移行するのをさらに支援するため、Vertex AI のオンデバイス モデルを対象とした自動プロンプト最適化（APO）を発表いたします。自動プロンプト最適化は、ユースケースに最適なプロンプトを自動的に見つけるのに役立つツールです。

オンデバイス AI の時代はもはや約束ではなく、本番環境の現実となっています。Gemini Nano v3 のリリースにより、これまでにない言語理解機能とマルチモーダル機能がユーザーの手に直接届くようになります。Gemini Nano モデル ファミリーを通じて、Android エコシステム全体で幅広いデバイスをサポートしています。しかし、次世代のインテリジェント アプリを構築するデベロッパーにとって、強力なモデルへのアクセスは最初のステップにすぎません。真の課題はカスタマイズにあります。モバイル ハードウェアの制約を破ることなく、特定のユースケースに合わせて基盤モデルをエキスパート レベルのパフォーマンスにカスタマイズするにはどうすればよいでしょうか。

サーバーサイドでは、大規模な LLM は高性能で、ドメイン適応の必要性が低い傾向があります。必要な場合でも、LoRA（Low-Rank Adaptation）ファインチューニングなどのより高度なオプションが実現可能な選択肢となることがあります。しかし、Android AICore の独自のアーキテクチャでは、共有のメモリ効率の高いシステムモデルが優先されます。つまり、個々のアプリにカスタム LoRA アダプタをデプロイすると、これらの共有システム サービスで課題が生じます。

しかし、同様に効果的な別の方法もあります。Vertex AI の自動プロンプト最適化（APO）を活用することで、開発者はネイティブの Android 実行環境内でシームレスに作業しながら、ファインチューニングに近い品質を実現できます。APO は、優れたシステム指示に重点を置くことで、従来のファインチューニング ソリューションよりも堅牢性とスケーラビリティに優れたモデル動作のカスタマイズを可能にします。

注: Gemini Nano V3 は、高い評価を得ている Gemma 3N モデルの品質を最適化したバージョンです。オープンソースの Gemma 3N モデルで行われたプロンプトの最適化は、Gemini Nano V3 にも適用されます。サポートされているデバイスでは、ML Kit GenAI API が nano-v3 モデルを活用して、Android デベロッパー向けの品質を最大化します。

APO は、プロンプトを静的なテキストとしてではなく、最適化可能なプログラム可能なサーフェスとして扱います。サーバーサイド モデル（Gemini Pro や Flash など）を活用して、プロンプトの提案、バリエーションの評価、特定のタスクに最適なプロンプトの特定を行います。このプロセスでは、パフォーマンスを最大化するために、次の 3 つの技術的なメカニズムが使用されます。

1. 自動エラー分析: APO は、トレーニング データのエラーパターンを分析して、初期プロンプトの特定の弱点を自動的に特定します。
2. セマンティック指示の抽出: 大量のトレーニング サンプルを分析してタスクの「真の意図」を抽出し、実際のデータ分布をより正確に反映した指示を作成します。
3. 候補の並列テスト: APO は、アイデアを 1 つずつテストするのではなく、多数のプロンプト候補を生成して並列でテストし、品質のグローバル最大値を特定します。

APO がファインチューニングの品質に近づける理由

ファインチューニングは常にプロンプトよりも高品質な結果をもたらすという誤解がよくあります。Gemini Nano v3 のような最新の基盤モデルでは、プロンプト エンジニアリングだけでも大きな効果が得られます。

• 一般的な機能の維持: ファインチューニング（PEFT / LoRA）では、モデルの重みが特定のデータ分布に過度に依存するようになります。これにより、「壊滅的な忘却」が発生することがよくあります。つまり、モデルは特定の構文に習熟するものの、一般的なロジックと安全性は低下します。APO は重みを変更しないため、ベースモデルの機能が維持されます。
• 指示の実行と戦略の発見: Gemini Nano v3 は、複雑なシステム指示に従うように厳格にトレーニングされています。APO は、モデルの潜在的な能力を引き出す正確な指示構造を見つけることで、この特性を活用します。多くの場合、人間のエンジニアが見つけるのが難しい戦略を発見します。

このアプローチを検証するため、さまざまな本番環境ワークロードで APO を評価しました。Google の検証では、さまざまなユースケースで一貫して 5 ～ 8% の精度向上が示されています。複数のデプロイされたオンデバイス機能で、APO は大幅な品質向上を実現しました。

シームレスなエンドツーエンドのデベロッパー ワークフロー

ファインチューニングは常にプロンプトよりも高品質な結果をもたらすという誤解がよくあります。Gemini Nano v3 のような最新の基盤モデルでは、プロンプト エンジニアリングだけでも大きな効果が得られます。

• 一般的な機能の維持: ファインチューニング（PEFT / LoRA）では、モデルの重みが特定のデータ分布に過度に依存するようになります。これにより、「壊滅的な忘却」が発生することがよくあります。つまり、モデルは特定の構文に習熟するものの、一般的なロジックと安全性は低下します。APO は重みを変更しないため、ベースモデルの機能が維持されます。
• 指示の実行と戦略の発見: Gemini Nano v3 は、複雑なシステム指示に従うように厳格にトレーニングされています。APO は、モデルの潜在的な能力を引き出す正確な指示構造を見つけることで、この特性を活用します。多くの場合、人間のエンジニアが見つけるのが難しい戦略を発見します。

このアプローチを検証するため、さまざまな本番環境ワークロードで APO を評価しました。Google の検証では、さまざまなユースケースで一貫して 5 ～ 8% の精度向上が示されています。複数のデプロイされたオンデバイス機能で、APO は大幅な品質向上を実現しました。

まとめ

自動プロンプト最適化（APO）のリリースは、オンデバイス生成 AI の転換点となります。基盤モデルとエキスパート レベルのパフォーマンスのギャップを埋めることで、デベロッパーがより堅牢なモバイル アプリケーションを構築するためのツールを提供しています。ゼロショット最適化から始める場合でも、データドリブンな改良によって本番環境にスケールする場合でも、高品質なオンデバイス インテリジェンスへの道がより明確になりました。ML Kit の Prompt API と Vertex AI の自動プロンプト最適化を使用して、オンデバイスのユースケースを今すぐ本番環境にリリースしましょう。

関連リンク: 

• ML Kit Prompt API
• Vertex AI Prompt Optimizer のドキュメント
• Gemma 3N の発表に関するブログ