Google के एआई Edge SDK के साथ Gemini Nano

Android डिवाइसों पर, नेटवर्क कनेक्शन या क्लाउड पर डेटा भेजे बिना, जनरेटिव एआई के बेहतरीन अनुभव दिए जा सकते हैं. डिवाइस पर मौजूद एआई, उन कामों के लिए एक बेहतरीन समाधान है जहां कम इंतज़ार, कम लागत, और निजता की सुरक्षा आपकी मुख्य चिंता है.

डिवाइस पर इस्तेमाल के उदाहरणों के लिए, Google के Gemini Nano फ़ाउंडेशन मॉडल का फ़ायदा लिया जा सकता है. यह क्लाउड में अनुमान लगाने वाले अन्य Gemini मॉडल से छोटा है. हालांकि, Gemini Nano को बेहतर तरीके से ट्यून करके, खास टास्क के साथ-साथ बड़े मॉडल के टास्क भी पूरे किए जा सकते हैं. Gemini Nano, Android की AICore सिस्टम सेवा में काम करता है. यह सेवा, डिवाइस के हार्डवेयर का फ़ायदा उठाकर, अनुमान लगाने में लगने वाले समय को कम करती है. साथ ही, मॉडल को अप-टू-डेट रखती है.

Gemini Nano API और AICore का ऐक्सेस, Google AI Edge SDK से मिलता है. Google AI Edge, डिवाइस पर मशीन लर्निंग के लिए टूल का एक बेहतरीन सुइट है. Google के एआई एज के बारे में ज़्यादा जानें.

भवन निर्माण

सिस्टम-लेवल मॉड्यूल के तौर पर, डिवाइस पर अनुमान लगाने के लिए, एपीआई की एक सीरीज़ के ज़रिए AICore को ऐक्सेस किया जाता है. इसके अलावा, AICore में सुरक्षा से जुड़ी कई सुविधाएं पहले से मौजूद हैं. इनकी मदद से, यह पक्का किया जाता है कि हमारे सुरक्षा फ़िल्टर के हिसाब से, कॉन्टेंट का पूरी तरह से आकलन किया गया हो. यहां दिए गए डायग्राम में बताया गया है कि कोई ऐप्लिकेशन, डिवाइस पर Gemini Nano को चलाने के लिए, AICore को कैसे ऐक्सेस करता है.

उपयोगकर्ता के डेटा को निजी और सुरक्षित रखना

डिवाइस पर मौजूद जनरेटिव एआई, प्रॉम्प्ट को स्थानीय तौर पर लागू करता है. इससे सर्वर कॉल की ज़रूरत नहीं पड़ती. इस तरीके से, डिवाइस पर संवेदनशील डेटा सेव करके निजता को बेहतर बनाया जाता है. साथ ही, ऑफ़लाइन काम करने की सुविधा चालू की जाती है और अनुमान लगाने की लागत कम की जाती है.

AICore, Private Compute Core के सिद्धांतों का पालन करता है. साथ ही, इसमें ये मुख्य विशेषताएं भी हैं:

पैकेज को सीमित तौर पर बांधना: AICore को ज़्यादातर अन्य पैकेज से अलग रखा गया है. हालांकि, कुछ सिस्टम पैकेज के लिए कुछ अपवाद हैं. अनुमति वाली इस सूची में बदलाव सिर्फ़ Android ओटीए अपडेट के दौरान किया जा सकता है.

इंटरनेट का इनडायरेक्ट ऐक्सेस: AICore के पास इंटरनेट का सीधा ऐक्सेस नहीं है. मॉडल डाउनलोड करने के साथ-साथ, इंटरनेट से किए जाने वाले सभी अनुरोध, ओपन-सोर्स Private Compute Services के साथी APK के ज़रिए भेजे जाते हैं. Private Compute Services में मौजूद एपीआई को साफ़ तौर पर यह दिखाना होगा कि वे निजता को ध्यान में रखकर बनाए गए हैं.

इसके अलावा, AICore को हर अनुरोध को अलग-अलग रखने के लिए बनाया गया है. साथ ही, उपयोगकर्ता की निजता को सुरक्षित रखने के लिए, वह इनपुट डेटा या प्रोसेस करने के बाद मिलने वाले आउटपुट का कोई रिकॉर्ड सेव नहीं करता. ज़्यादा जानने के लिए, Gemini Nano के लिए निजता और सुरक्षा के बारे में जानकारी ब्लॉग पोस्ट पढ़ें.

AICore की मदद से एआई फ़ाउंडेशन मॉडल ऐक्सेस करने के फ़ायदे

AICore की मदद से, Android OS, एआई फ़ाउंडेशन मॉडल उपलब्ध कराता है और उन्हें मैनेज करता है. इससे, आपके ऐप्लिकेशन में इन बड़े मॉडल का इस्तेमाल करने की लागत काफ़ी कम हो जाती है. ऐसा इन वजहों से होता है:

आसान डिप्लॉयमेंट: AICore, Gemini Nano के डिस्ट्रिब्यूशन को मैनेज करता है और आने वाले समय में होने वाले अपडेट को मैनेज करता है. आपको नेटवर्क पर बड़े मॉडल डाउनलोड करने या अपडेट करने के बारे में चिंता करने की ज़रूरत नहीं है. साथ ही, आपके ऐप्लिकेशन के डिस्क और रनटाइम मेमोरी बजट पर भी इसका कोई असर नहीं पड़ेगा.

तेज़ी से अनुमान लगाने की सुविधा: AICore, अनुमान लगाने की प्रोसेस को तेज़ करने के लिए, डिवाइस पर मौजूद हार्डवेयर का इस्तेमाल करता है. इससे आपके ऐप्लिकेशन को हर डिवाइस पर बेहतर परफ़ॉर्मेंस मिलती है. साथ ही, आपको डिवाइस के हार्डवेयर इंटरफ़ेस के बारे में चिंता करने की ज़रूरत नहीं होती.

काम करने वाली सुविधाएं

AICore, इन डिवाइसों और मोड के साथ काम करता है:

• इन डिवाइसों पर काम करता है: फ़िलहाल, AICore की सुविधा Pixel 9 सीरीज़ के डिवाइसों, Google Pixel 8 सीरीज़ के डिवाइसों, जिनमें Pixel 8¹ और Pixel 8a² शामिल हैं, Samsung S24 सीरीज़ के डिवाइसों, Samsung Z Fold6, Samsung Z Flip6, Realme GT 6, Motorola Edge 50 Ultra, Motorola Razr 50 Ultra, Xiaomi 14T/Pro, और Xiaomi MIX Flip पर काम करती है.
• काम करने वाले मोड: फ़िलहाल, AICore, Gemini Nano के लिए टेक्स्ट मोड के साथ काम करता है.

हम अन्य डिवाइसों और मोडैलिटी के लिए भी काम कर रहे हैं.

इस्तेमाल के उदाहरण

क्लाउड सर्वर की तुलना में मोबाइल डिवाइसों में संसाधनों की कमी होती है. इसलिए, डिवाइस पर काम करने वाले जनरेटिव एआई मॉडल को परफ़ॉर्मेंस और साइज़ के हिसाब से डिज़ाइन किया जाता है. यह ऑप्टिमाइज़ेशन, सामान्य ऐप्लिकेशन के बजाय खास और बेहतर तरीके से तय किए गए टास्क को प्राथमिकता देता है. इस्तेमाल के सही उदाहरणों में ये शामिल हैं:

• टेक्स्ट को अलग तरीके से फिर से लिखना: टेक्स्ट के टोन और स्टाइल में बदलाव करना. जैसे, कैज़ुअल से फ़ॉर्मल में बदलना.
• स्मार्ट जवाब: चैट थ्रेड में, कॉन्टेक्स्ट के हिसाब से काम के जवाब जनरेट करें.
• प्रूफ़रीडिंग: स्पेलिंग और व्याकरण से जुड़ी गड़बड़ियों की पहचान करके उन्हें ठीक करना.
• खास जानकारी: लंबे दस्तावेज़ों को कम शब्दों में खास जानकारी (पैराग्राफ़ या बुलेट पॉइंट) में बदलें.

सबसे अच्छी परफ़ॉर्मेंस के लिए, प्रॉम्प्ट करने की रणनीतियों का दस्तावेज़ देखें. इन इस्तेमाल के उदाहरणों को खुद आज़माने के लिए, हमारा सैंपल ऐप्लिकेशन डाउनलोड करें और Gemini Nano के साथ एक्सपेरिमेंट करना शुरू करें.

Gemini Nano का इस्तेमाल, Google के कई ऐप्लिकेशन करते हैं. कुछ उदाहरण ये हैं:

• Talkback: Android का ऐक्सेसibilitity ऐप्लिकेशन Talkback, Gemini Nano की कई तरह के इनपुट की सुविधाओं का फ़ायदा उठाता है. इससे, दृष्टिबाधित उपयोगकर्ताओं के लिए इमेज की जानकारी को बेहतर बनाया जा सकता है.
• Pixel वॉइस रिकॉर्डर: Pixel वॉइस रिकॉर्डर ऐप्लिकेशन, डिवाइस पर खास जानकारी देने की सुविधा को बेहतर बनाने के लिए, Gemini Nano और AICore का इस्तेमाल करता है. रिकॉर्डर की टीम ने लंबी रिकॉर्डिंग के साथ काम करने और बेहतर क्वालिटी की खास जानकारी देने के लिए, Gemini Nano का नया मॉडल अपनाया है.
• Gboard: Gboard की स्मार्ट जवाब की सुविधा, सटीक स्मार्ट जवाब देने के लिए, डिवाइस पर मौजूद Gemini Nano और AICore का इस्तेमाल करती है.