ऑटोमेटेड प्रॉम्प्ट ऑप्टिमाइज़ेशन की सुविधा, ML Kit के GenAI Prompt API के लिए क्वालिटी को कैसे बेहतर बनाती है

ऑटोमेटेड प्रॉम्प्ट ऑप्टिमाइज़ेशन (एपीओ)

ML Kit Prompt API के इस्तेमाल के उदाहरणों को प्रोडक्शन में लाने में आपकी मदद करने के लिए, हमें Vertex AI पर, उपयोगकर्ता के डिवाइस पर मौजूद मॉडल को टारगेट करने वाले ऑटोमेटेड प्रॉम्प्ट ऑप्टिमाइज़ेशन (एपीओ) के बारे में बताते हुए खुशी हो रही है. ऑटोमेटेड प्रॉम्प्ट ऑप्टिमाइज़ेशन एक ऐसा टूल है जो आपके इस्तेमाल के उदाहरणों के लिए, सबसे सही प्रॉम्प्ट अपने-आप ढूंढने में मदद करता है.

उपयोगकर्ता के डिवाइस पर एआई का युग अब कोई सपना नहीं रहा, बल्कि यह हकीकत बन चुका है. Gemini Nano v3 के रिलीज़ होने के साथ, हम उपयोगकर्ताओं को भाषा समझने और मल्टीमोडल की बेहतरीन सुविधाएं सीधे उनके डिवाइसों पर उपलब्ध करा रहे हैं. Gemini Nano के मॉडल, Android नेटवर्क के कई डिवाइसों पर काम करते हैं. हालांकि, अगली पीढ़ी के इंटेलिजेंट ऐप्लिकेशन बनाने वाले डेवलपर के लिए, एक बेहतरीन मॉडल का ऐक्सेस होना सिर्फ़ पहला कदम है. असली चुनौती कस्टमाइज़ेशन में है: मोबाइल हार्डवेयर की सीमाओं को तोड़े बिना, किसी खास इस्तेमाल के लिए फ़ाउंडेशन मॉडल को विशेषज्ञ-लेवल की परफ़ॉर्मेंस के हिसाब से कैसे तैयार किया जाए?

सर्वर-साइड पर, बड़े एलएलएम ज़्यादा सक्षम होते हैं और उन्हें डोमेन के हिसाब से कम अडैप्टेशन की ज़रूरत होती है. ज़रूरत पड़ने पर, LoRA (लो-रैंक अडैप्टेशन) फ़ाइन-ट्यूनिंग जैसे ज़्यादा ऐडवांस विकल्प भी इस्तेमाल किए जा सकते हैं. हालांकि, Android AICore का यूनीक आर्किटेक्चर, शेयर किए गए और कम मेमोरी इस्तेमाल करने वाले सिस्टम मॉडल को प्राथमिकता देता है. इसका मतलब है कि हर ऐप्लिकेशन के लिए कस्टम LoRA अडैप्टर डिप्लॉय करने पर, शेयर की गई इन सिस्टम सेवाओं में चुनौतियां आती हैं.

हालांकि, एक और तरीका है जो उतना ही असरदार हो सकता है. Vertex AI पर ऑटोमेटेड प्रॉम्प्ट ऑप्टिमाइज़ेशन (एपीओ) का इस्तेमाल करके, डेवलपर फ़ाइन-ट्यूनिंग जैसी क्वालिटी हासिल कर सकते हैं. साथ ही, नेटिव Android एक्ज़ीक्यूशन एनवायरमेंट में आसानी से काम कर सकते हैं. एपीओ, सिस्टम से जुड़े बेहतर निर्देश देने पर फ़ोकस करता है. इससे डेवलपर, मॉडल के व्यवहार को ज़्यादा मज़बूत और बड़े पैमाने पर लागू करने लायक बना सकते हैं. यह सुविधा, फ़ाइन-ट्यूनिंग के पारंपरिक तरीकों से बेहतर है.

ध्यान दें: Gemini Nano V3, काफ़ी लोकप्रिय Gemma 3N मॉडल का बेहतर वर्शन है. ओपन सोर्स Gemma 3N मॉडल पर प्रॉम्प्ट को ऑप्टिमाइज़ करने के लिए किए गए बदलाव, Gemini Nano V3 पर भी लागू होंगे. इस्तेमाल किए जा सकने वाले डिवाइसों पर, ML Kit GenAI API, nano-v3 मॉडल का इस्तेमाल करते हैं. इससे Android डेवलपर को बेहतर क्वालिटी मिलती है

एपीओ, प्रॉम्प्ट को स्टैटिक टेक्स्ट के तौर पर नहीं, बल्कि प्रोग्राम किए जा सकने वाले प्लैटफ़ॉर्म के तौर पर इस्तेमाल करता है. इसे ऑप्टिमाइज़ किया जा सकता है. यह सर्वर-साइड मॉडल (जैसे, Gemini Pro और Flash) का इस्तेमाल करके, प्रॉम्प्ट के सुझाव देता है, अलग-अलग वैरिएंट का आकलन करता है, और आपके टास्क के लिए सबसे सही वैरिएंट ढूंढता है. इस प्रोसेस में, परफ़ॉर्मेंस को बेहतर बनाने के लिए तीन खास तकनीकी तरीकों का इस्तेमाल किया जाता है:

1. गड़बड़ी का अपने-आप विश्लेषण: एपीओ, ट्रेनिंग डेटा में मौजूद गड़बड़ी के पैटर्न का विश्लेषण करता है, ताकि शुरुआती प्रॉम्प्ट में मौजूद कमियों का अपने-आप पता लगाया जा सके.
2. सेमैंटिक इंस्ट्रक्शन डिस्टिलेशन: यह ट्रेनिंग के लिए इस्तेमाल किए गए बड़े डेटासेट का विश्लेषण करता है, ताकि किसी टास्क के "असल मकसद" को समझा जा सके. इससे ऐसे निर्देश तैयार किए जाते हैं जो असल डेटा डिस्ट्रिब्यूशन को ज़्यादा सटीक तरीके से दिखाते हैं.
3. एक साथ कई कैंडिडेट की टेस्टिंग: एक बार में एक आइडिया टेस्ट करने के बजाय, एपीओ एक साथ कई प्रॉम्प्ट कैंडिडेट जनरेट और टेस्ट करता है. इससे क्वालिटी के लिए ग्लोबल मैक्सिमम की पहचान की जा सकती है.

एपीओ, फ़ाइन ट्यूनिंग की क्वालिटी के करीब क्यों पहुंच सकता है

यह एक आम गलतफ़हमी है कि फ़ाइन-ट्यूनिंग से हमेशा प्रॉम्प्टिंग की तुलना में बेहतर क्वालिटी मिलती है. Gemini Nano v3 जैसे आधुनिक फ़ाउंडेशन मॉडल के लिए, प्रॉम्प्ट इंजीनियरिंग काफ़ी असरदार हो सकती है:

• सामान्य क्षमताओं को बनाए रखना: फ़ाइन-ट्यूनिंग ( पीईएफ़टी/एलओआरए) की वजह से, मॉडल के वेट को डेटा के किसी खास डिस्ट्रिब्यूशन पर ओवर-इंडेक्स करना पड़ता है. इससे अक्सर "कैटास्ट्रोफ़िक फ़ॉरगेटिंग" की समस्या होती है. इसमें मॉडल, आपके सिंटैक्स को बेहतर तरीके से समझने लगता है, लेकिन सामान्य लॉजिक और सुरक्षा के मामले में खराब परफ़ॉर्म करने लगता है. एपीओ, वेट को नहीं बदलता. इससे बेस मॉडल की क्षमताएं बनी रहती हैं.
• निर्देशों का पालन करना और रणनीति बनाना: Gemini Nano v3 को सिस्टम के मुश्किल निर्देशों का पालन करने के लिए, बेहतर तरीके से ट्रेन किया गया है. एपीओ, निर्देश के सटीक स्ट्रक्चर को ढूंढकर इसका फ़ायदा उठाता है. इससे मॉडल की छिपी हुई क्षमताओं का पता चलता है. इससे अक्सर ऐसी रणनीतियों का पता चलता है जिन्हें ढूंढना इंसानी इंजीनियरों के लिए मुश्किल हो सकता है. 

इस तरीके की पुष्टि करने के लिए, हमने अलग-अलग प्रोडक्शन वर्कलोड पर एपीओ का आकलन किया. पुष्टि करने की हमारी प्रोसेस से पता चला है कि अलग-अलग इस्तेमाल के उदाहरणों में, सटीक जवाब देने की क्षमता में 5 से 8% की बढ़ोतरी हुई है.डिवाइस पर मौजूद कई सुविधाओं के लिए, एपीओ ने क्वालिटी में काफ़ी सुधार किया है.

डेवलपर के लिए आसान और एंड-टू-एंड वर्कफ़्लो

यह एक आम गलतफ़हमी है कि फ़ाइन-ट्यूनिंग से हमेशा प्रॉम्प्टिंग की तुलना में बेहतर क्वालिटी मिलती है. Gemini Nano v3 जैसे आधुनिक फ़ाउंडेशन मॉडल के लिए, प्रॉम्प्ट इंजीनियरिंग काफ़ी असरदार हो सकती है:

• सामान्य क्षमताओं को बनाए रखना: फ़ाइन-ट्यूनिंग ( पीईएफ़टी/एलओआरए) की वजह से, मॉडल के वेट को डेटा के किसी खास डिस्ट्रिब्यूशन पर ओवर-इंडेक्स करना पड़ता है. इससे अक्सर "कैटास्ट्रोफ़िक फ़ॉरगेटिंग" की समस्या होती है. इसमें मॉडल, आपके सिंटैक्स को बेहतर तरीके से समझने लगता है, लेकिन सामान्य लॉजिक और सुरक्षा के मामले में खराब परफ़ॉर्म करने लगता है. एपीओ, वेट को नहीं बदलता. इससे बेस मॉडल की क्षमताएं बनी रहती हैं.
• निर्देशों का पालन करना और रणनीति बनाना: Gemini Nano v3 को सिस्टम के मुश्किल निर्देशों का पालन करने के लिए, बेहतर तरीके से ट्रेन किया गया है. एपीओ, निर्देश के सटीक स्ट्रक्चर को ढूंढकर इसका फ़ायदा उठाता है. इससे मॉडल की छिपी हुई क्षमताओं का पता चलता है. इससे अक्सर ऐसी रणनीतियों का पता चलता है जिन्हें ढूंढना इंसानी इंजीनियरों के लिए मुश्किल हो सकता है. 

इस तरीके की पुष्टि करने के लिए, हमने अलग-अलग प्रोडक्शन वर्कलोड पर एपीओ का आकलन किया. पुष्टि करने की हमारी प्रोसेस से पता चला है कि अलग-अलग इस्तेमाल के उदाहरणों में, सटीक जवाब देने की क्षमता में 5 से 8% की बढ़ोतरी हुई है.डिवाइस पर मौजूद कई सुविधाओं के लिए, एपीओ ने क्वालिटी में काफ़ी सुधार किया है.

नतीजा

ऑटोमेटेड प्रॉम्प्ट ऑप्टिमाइज़ेशन (एपीओ) की सुविधा लॉन्च होने से, उपयोगकर्ता के डिवाइस पर मौजूद जनरेटिव एआई के इस्तेमाल में काफ़ी बदलाव आया है. फ़ाउंडेशन मॉडल और एक्सपर्ट-लेवल की परफ़ॉर्मेंस के बीच के अंतर को कम करके, हम डेवलपर को ज़्यादा बेहतर मोबाइल ऐप्लिकेशन बनाने के लिए टूल उपलब्ध करा रहे हैं. चाहे आपने ज़ीरो-शॉट ऑप्टिमाइज़ेशन का इस्तेमाल शुरू किया हो या डेटा-ड्रिवन रिफ़ाइनमेंट की मदद से प्रोडक्शन को स्केल किया हो, अब डिवाइस पर मौजूद इंटेलिजेंस की अच्छी क्वालिटी को पाने का रास्ता ज़्यादा साफ़ हो गया है.ML Kit के Prompt API और Vertex AI के ऑटोमेटेड प्रॉम्प्ट ऑप्टिमाइज़ेशन की मदद से, उपयोगकर्ता के डिवाइस पर इस्तेमाल के उदाहरणों को आज ही प्रोडक्शन के लिए लॉन्च करें. 

इसी विषय से जुड़े कुछ लिंक: 

• ML Kit Prompt API,
• Vertex AI Prompt Optimizer का दस्तावेज़
• Gemma 3N के लॉन्च से जुड़ा ब्लॉग