Google AI Edge SDK की मदद से, डेवलपर को एक्सपेरिमेंट के तौर पर ऐक्सेस मिलता है. इससे वे Gemini Nano की मदद से, डिवाइस में पहले से मौजूद एआई की सुविधाओं का इस्तेमाल करके, अपने ऐप्लिकेशन को बेहतर बना सकते हैं.
AICore की मदद से आर्किटेक्चर
सिस्टम-लेवल मॉड्यूल के तौर पर, AICore को कई एपीआई के ज़रिए ऐक्सेस किया जाता है, ताकि डिवाइस पर अनुमान लगाया जा सके. इसके अलावा, AICore में सुरक्षा से जुड़ी कई सुविधाएं पहले से मौजूद हैं. इससे यह पक्का किया जा सकता है कि सुरक्षा फ़िल्टर के हिसाब से पूरी तरह से जांच की गई है. इस डायग्राम में बताया गया है कि कोई ऐप्लिकेशन, डिवाइस पर Gemini Nano को चलाने के लिए AICore को कैसे ऐक्सेस करता है.
उपयोगकर्ता के डेटा की निजता और सुरक्षा बनाए रखना
डिवाइस पर मौजूद जनरेटिव एआई, प्रॉम्प्ट को स्थानीय तौर पर प्रोसेस करता है. इससे सर्वर कॉल की ज़रूरत नहीं पड़ती. इस तरीके से निजता को बेहतर बनाया जाता है, क्योंकि संवेदनशील डेटा को डिवाइस पर ही रखा जाता है. साथ ही, इससे ऑफ़लाइन काम करने की सुविधा मिलती है और अनुमान लगाने की लागत कम हो जाती है.
AICore, Private Compute Core के सिद्धांतों का पालन करता है. इसकी मुख्य विशेषताएं ये हैं:
- पैकेज बाइंडिंग पर पाबंदी: AICore को ज़्यादातर अन्य पैकेज से अलग रखा जाता है. हालांकि, कुछ सिस्टम पैकेज के लिए इसमें सीमित अपवाद हैं. इस सूची में सिर्फ़ Android के पूरे ओटीए अपडेट के दौरान बदलाव किया जा सकता है.
- इंटरनेट का इनडायरेक्ट ऐक्सेस: AICore के पास सीधे तौर पर इंटरनेट का ऐक्सेस नहीं होता. इंटरनेट से जुड़े सभी अनुरोध, ओपन-सोर्स Private Compute Services के कंपैनियन APK के ज़रिए रूट किए जाते हैं. इनमें मॉडल डाउनलोड करने के अनुरोध भी शामिल हैं. Private Compute Services में मौजूद एपीआई को साफ़ तौर पर यह बताना होगा कि वे निजता को ध्यान में रखकर बनाए गए हैं.
इसके अलावा, AICore को इस तरह से बनाया गया है कि यह हर अनुरोध को अलग-अलग प्रोसेस करता है. साथ ही, यह उपयोगकर्ता की निजता को सुरक्षित रखने के लिए, इनपुट डेटा या प्रोसेस किए गए डेटा का कोई रिकॉर्ड सेव नहीं करता. ज़्यादा जानने के लिए, Gemini Nano के लिए निजता और सुरक्षा के बारे में जानकारी ब्लॉग पोस्ट पढ़ें.
AICore की मदद से एआई फ़ाउंडेशन मॉडल ऐक्सेस करने के फ़ायदे
AICore की मदद से, Android OS एआई फ़ाउंडेशन मॉडल उपलब्ध कराता है और उन्हें मैनेज करता है. इससे आपके ऐप्लिकेशन में इन बड़े मॉडल का इस्तेमाल करने की लागत काफ़ी कम हो जाती है. इसकी मुख्य वजहें ये हैं:
- आसानी से डिप्लॉय किया जा सकता है: AICore, Gemini Nano के डिस्ट्रिब्यूशन को मैनेज करता है. साथ ही, आने वाले समय में होने वाले अपडेट को भी मैनेज करता है. आपको नेटवर्क पर बड़े मॉडल डाउनलोड या अपडेट करने की ज़रूरत नहीं है. साथ ही, आपके ऐप्लिकेशन के डिस्क और रनटाइम मेमोरी बजट पर भी कोई असर नहीं पड़ेगा.
- तेज़ी से अनुमान लगाना: AICore, अनुमान लगाने की प्रोसेस को तेज़ करने के लिए, डिवाइस पर मौजूद हार्डवेयर का इस्तेमाल करता है. आपका ऐप्लिकेशन हर डिवाइस पर सबसे अच्छी परफ़ॉर्मेंस देता है. साथ ही, आपको हार्डवेयर इंटरफ़ेस के बारे में चिंता करने की ज़रूरत नहीं होती.
काम करने वाली सुविधाएं
- इन डिवाइसों पर काम करता है: Google AI Edge SDK के साथ Gemini Nano, Pixel 9 सीरीज़ के डिवाइसों पर एक्सपेरिमेंट के तौर पर उपलब्ध है.
- इस्तेमाल की जा सकने वाली सुविधाएं: AICore, Gemini Nano के लिए टेक्स्ट वाली सुविधा के साथ काम करता है.
हम अन्य डिवाइसों और तरीकों के लिए भी सहायता उपलब्ध कराने पर काम कर रहे हैं.
इस्तेमाल के उदाहरण
क्लाउड सर्वर की तुलना में मोबाइल डिवाइसों में संसाधन सीमित होते हैं. इसलिए, डिवाइस पर काम करने वाले जनरेटिव एआई मॉडल को इस तरह से डिज़ाइन किया जाता है कि वे कम संसाधनों का इस्तेमाल करें और उनका साइज़ भी छोटा हो. इस ऑप्टिमाइज़ेशन में, सामान्य ऐप्लिकेशन के बजाय खास और अच्छी तरह से तय किए गए टास्क को प्राथमिकता दी जाती है. इन मामलों में, इस सुविधा का इस्तेमाल किया जा सकता है:
- टेक्स्ट को नए तरीके से लिखना: टेक्स्ट की टोन और स्टाइल में बदलाव करना. उदाहरण के लिए, अनौपचारिक से औपचारिक टोन में लिखना.
- स्मार्ट जवाब: चैट थ्रेड में, कॉन्टेक्स्ट के हिसाब से काम के जवाब जनरेट करता है.
- प्रूफ़रीडिंग: स्पेलिंग और व्याकरण की गड़बड़ियों की पहचान करके उन्हें ठीक करना.
- खास जानकारी: बड़े दस्तावेज़ों को छोटे और आसान शब्दों में खास जानकारी के तौर पर पेश करना. यह जानकारी पैराग्राफ़ या बुलेट पॉइंट में दी जा सकती है.
बेहतर परफ़ॉर्मेंस के लिए, प्रॉम्प्टिंग की रणनीतियों से जुड़ा दस्तावेज़ पढ़ें. इन इस्तेमाल के उदाहरणों को खुद आज़माने के लिए, हमारा सैंपल ऐप्लिकेशन डाउनलोड करें और Gemini Nano को आज़माना शुरू करें.
Gemini Nano का इस्तेमाल, Google के कई ऐप्लिकेशन करते हैं. कुछ उदाहरण ये हैं:
- Talkback: Android का ऐक्सेसिबिलिटी ऐप्लिकेशन Talkback, Gemini Nano की मल्टीमॉडल इनपुट क्षमताओं का इस्तेमाल करता है. इससे दृष्टिबाधित लोगों के लिए, इमेज के ब्यौरे को बेहतर बनाया जा सकता है.
- Pixel Voice Recorder: Pixel Voice Recorder ऐप्लिकेशन, डिवाइस पर मौजूद खास जानकारी देने वाली सुविधा के लिए Gemini Nano और AICore का इस्तेमाल करता है. Recorder की टीम ने Gemini Nano के नए मॉडल को अपनाया है. इससे लंबी रिकॉर्डिंग की जा सकती हैं और बेहतर क्वालिटी की खास जानकारी मिलती है.
- Gboard: Gboard में स्मार्ट जवाब देने की सुविधा, AICore के साथ Gemini Nano का इस्तेमाल करती है. इससे सटीक स्मार्ट जवाब मिलते हैं.