हाइब्रिड इन्फ़रेंस

Google, क्लाउड-आधारित और उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा के लिए, इंडस्ट्री के सबसे बेहतरीन एआई मॉडल और एपीआई उपलब्ध कराता है. हाइब्रिड इन्फ़्रेंस की मदद से, एआई वर्कलोड को लोकल डिवाइस और क्लाउड के बीच आसानी से बैलेंस किया जा सकता है. इससे परफ़ॉर्मेंस, लागत, और उपलब्धता को ऑप्टिमाइज़ किया जा सकता है.

हाइब्रिड इन्फ़्रेंस से, आपके Android ऐप्लिकेशन को दो मुख्य फ़ायदे मिलते हैं:

• ज़्यादा से ज़्यादा लोगों तक पहुंचना: डिवाइस के हार्डवेयर या ओएस की सीमाओं की वजह से, जब Gemini Nano जैसे डिवाइस पर मौजूद मॉडल उपलब्ध नहीं होते हैं, तब क्लाउड मॉडल एक अहम फ़ॉलबैक के तौर पर काम करते हैं. इससे यह पक्का करने में मदद मिलती है कि एआई की सुविधाएं, ज़्यादा से ज़्यादा उपयोगकर्ताओं के डिवाइसों पर काम करती रहें.
• लागत और ऑफ़लाइन काम करने की क्षमता: उपयोगकर्ता के डिवाइस पर मौजूद मॉडल की मदद से, यह पक्का किया जा सकता है कि उपयोगकर्ता के ऑफ़लाइन होने पर भी, आपकी एआई सुविधाएं आसानी से काम करें. इसके अलावा, रोज़ के कामों को लोकल डिवाइस पर ट्रांसफ़र करने से, क्लाउड इन्फ़्रेंस की लागत कम करने में मदद मिलती है.

यहां ऑन-डिवाइस इंफ़रंस और क्लाउड इंफ़रंस के फ़ायदे दिए गए हैं:

लागू करने के विकल्प

हाइब्रिड इन्फ़्रेंस को इन तरीकों से लागू किया जा सकता है:

Firebase AI Logic Hybrid API

Firebase AI Logic Hybrid API, क्लाउड और उपयोगकर्ता के डिवाइस पर मौजूद एनवायरमेंट के बीच अनुमान को बांटने के लिए, एक ही यूनीफ़ाइड इंटरफ़ेस उपलब्ध कराता है.

इसमें onDeviceConfig पैरामीटर शामिल होता है. यह अनुमान लगाने के मोड को तय करने और रूटिंग को मैनेज करने के लिए कंट्रोल उपलब्ध कराता है:

• PREFER_ON_DEVICE: उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करने की कोशिश करता है. अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध नहीं है या अनुरोध के लिए काम नहीं करता है, तो यह अपने-आप क्लाउड पर होस्ट किए गए मॉडल पर वापस चला जाता है.

• PREFER_IN_CLOUD: डिवाइस ऑनलाइन होने और मॉडल उपलब्ध होने पर, क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करने की कोशिश करता है. डिवाइस ऑफ़लाइन होने पर ही, उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करता है.

• ONLY_ON_DEVICE: यह उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करने की कोशिश करता है. हालांकि, अगर यह अनुरोध के लिए उपलब्ध नहीं है या काम नहीं करता है, तो यह एक अपवाद दिखाता है.

• ONLY_IN_CLOUD: जब डिवाइस ऑनलाइन होता है और मॉडल उपलब्ध होता है, तब यह क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करने की कोशिश करता है. अन्य सभी मामलों में, यह एक अपवाद दिखाता है.

val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI())
    .generativeModel(
        modelName = "gemini-3.5-flash",
        onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE)
    )

val response = model.generateContent("Write a story about a green robot.")
print(response.text)
HybridInferenceSnippets.kt

लागू करने के बारे में ज़्यादा जानकारी के लिए, Firebase का दस्तावेज़ देखें. साथ ही, एआई कैटलॉग में हाइब्रिड एआई का सैंपल देखें.

कस्टम रूटिंग

अगर आपके ऐप्लिकेशन में कारोबार या यूज़र एक्सपीरियंस से जुड़ी कुछ खास ज़रूरतें हैं, तो कस्टम राउटिंग लॉजिक भी लागू किया जा सकता है. इससे आपको रीयल-टाइम फ़ैक्टर के आधार पर, डाइनैमिक तरीके से अनुमान लगाने का पाथ तय करने में मदद मिलती है. जैसे:

• नेटवर्क से कनेक्ट होने में लगने वाला समय
• डिवाइस के सिस्टम की परफ़ॉर्मेंस (उदाहरण के लिए, बैटरी लेवल और प्रोसेसर लोड)
• उपयोगकर्ता की क्वेरी की जटिलता

हाइब्रिड इन्फ़्रेंस के इस कस्टम तरीके का इस्तेमाल, ऐसे लोकप्रिय ऐप्लिकेशन करते हैं जिन्होंने एआई की भरोसेमंद सुविधाएं देने के लिए, कस्टम राउटिंग लागू की है. इनमें ये ऐप्लिकेशन शामिल हैं:

• GBoard: Gboard, लिखने के लिए उपलब्ध टूल को बेहतर बनाने के लिए, कस्टम हाइब्रिड इन्फ़रेंस का इस्तेमाल करता है. जैसे, प्रूफ़रीड करना और फिर से लिखना.

• Kakao Mobility: Kakao Mobility ने पार्सल डिलीवरी सेवा के लिए, कस्टम हाइब्रिड इन्फ़रेंस का इस्तेमाल करके एक इकाई निकालने वाला टूल बनाया है. यह टूल, ऑर्डर फ़ॉर्म को आसान बनाने के लिए, नैचुरल लैंग्वेज में लिखे गए मैसेज से अपने-आप पार्सल पाने वाले का नाम, पता, और फ़ोन नंबर निकालता है.