Google AI Edge SDK, डेवलपर को एक्सपेरिमेंट के तौर पर ऐक्सेस देता है. इससे वे Gemini Nano की मदद से, डिवाइस में पहले से मौजूद एआई की सुविधाओं का इस्तेमाल करके, अपने ऐप्लिकेशन को बेहतर बना सकते हैं.
AICore के ज़रिए आर्किटेक्चर
सिस्टम-लेवल मॉड्यूल के तौर पर, डिवाइस पर अनुमान लगाने के लिए, एपीआई की एक सीरीज़ के ज़रिए AICore को ऐक्सेस किया जाता है. इसके अलावा, AICore में सुरक्षा से जुड़ी कई सुविधाएं पहले से मौजूद हैं. इनकी मदद से, यह पक्का किया जाता है कि हमारे सुरक्षा फ़िल्टर के हिसाब से, कॉन्टेंट का पूरी तरह से आकलन किया गया हो. यहां दिए गए डायग्राम में बताया गया है कि कोई ऐप्लिकेशन, डिवाइस पर Gemini Nano को चलाने के लिए, AICore को कैसे ऐक्सेस करता है.
उपयोगकर्ता के डेटा को निजी और सुरक्षित रखना
डिवाइस में मौजूद जनरेटिव एआई, प्रॉम्प्ट को स्थानीय तौर पर लागू करता है. इससे सर्वर कॉल की ज़रूरत नहीं पड़ती. इस तरीके से, डिवाइस पर संवेदनशील डेटा सेव करके निजता को बेहतर बनाया जाता है. साथ ही, ऑफ़लाइन काम करने की सुविधा चालू की जाती है और अनुमान लगाने की लागत कम की जाती है.
AICore, Private Compute Core के सिद्धांतों का पालन करता है. साथ ही, इन मुख्य विशेषताओं के साथ काम करता है:
- पैकेज को सीमित तौर पर बांधना: AICore को ज़्यादातर अन्य पैकेज से अलग रखा गया है. हालांकि, कुछ सिस्टम पैकेज के लिए कुछ अपवाद हैं. अनुमति वाली इस सूची में बदलाव सिर्फ़ Android ओटीए अपडेट के दौरान किया जा सकता है.
- इंटरनेट का ऐक्सेस नहीं है: AICore के पास इंटरनेट का सीधा ऐक्सेस नहीं है. मॉडल डाउनलोड करने के साथ-साथ, इंटरनेट से किए जाने वाले सभी अनुरोध, ओपन-सोर्स Private Compute Services के साथी APK के ज़रिए भेजे जाते हैं. Private Compute Services में मौजूद एपीआई को साफ़ तौर पर यह दिखाना होगा कि वे निजता को ध्यान में रखकर बनाए गए हैं.
इसके अलावा, AICore को हर अनुरोध को अलग-अलग रखने के लिए बनाया गया है. साथ ही, उपयोगकर्ता की निजता को बनाए रखने के लिए, वह इनपुट डेटा या प्रोसेस करने के बाद मिलने वाले आउटपुट का कोई रिकॉर्ड सेव नहीं करता. ज़्यादा जानने के लिए, Gemini Nano के लिए निजता और सुरक्षा के बारे में जानकारी ब्लॉग पोस्ट पढ़ें.
AICore की मदद से एआई फ़ाउंडेशन मॉडल ऐक्सेस करने के फ़ायदे
AICore की मदद से, Android OS पर एआई फ़ाउंडेशन मॉडल उपलब्ध कराए जा सकते हैं और उन्हें मैनेज किया जा सकता है. इससे, आपके ऐप्लिकेशन में इन बड़े मॉडल का इस्तेमाल करने की लागत काफ़ी कम हो जाती है. ऐसा इन वजहों से होता है:
- आसान डिप्लॉयमेंट: AICore, Gemini Nano के डिस्ट्रिब्यूशन को मैनेज करता है और आने वाले समय में होने वाले अपडेट को मैनेज करता है. आपको नेटवर्क पर बड़े मॉडल डाउनलोड करने या अपडेट करने के बारे में चिंता करने की ज़रूरत नहीं है. साथ ही, आपके ऐप्लिकेशन के डिस्क और रनटाइम मेमोरी बजट पर भी इसका कोई असर नहीं पड़ेगा.
- अनुमान लगाने की प्रोसेस को तेज़ करना: AICore, अनुमान लगाने की प्रोसेस को तेज़ करने के लिए, डिवाइस पर मौजूद हार्डवेयर का इस्तेमाल करता है. इससे आपके ऐप्लिकेशन को हर डिवाइस पर बेहतर परफ़ॉर्मेंस मिलती है. साथ ही, आपको डिवाइस के हार्डवेयर इंटरफ़ेस के बारे में चिंता करने की ज़रूरत नहीं होती.
काम करने वाली सुविधाएं
- इन डिवाइसों पर काम करता है: Google AI Edge SDK के साथ Gemini Nano, Pixel 9 सीरीज़ के डिवाइसों पर एक्सपेरिमेंट के लिए उपलब्ध है.
- इस्तेमाल किए जा सकने वाले मोड: AICore, Gemini Nano के लिए टेक्स्ट मोड के साथ काम करता है.
हम अन्य डिवाइसों और मोडैलिटी के लिए भी काम कर रहे हैं.
इस्तेमाल के उदाहरण
क्लाउड सर्वर की तुलना में मोबाइल डिवाइसों में संसाधनों की कमी होती है. इसलिए, डिवाइस पर काम करने वाले जनरेटिव एआई मॉडल को परफ़ॉर्मेंस और साइज़ के हिसाब से डिज़ाइन किया जाता है. यह ऑप्टिमाइज़ेशन, सामान्य ऐप्लिकेशन के बजाय खास और बेहतर तरीके से तय किए गए टास्क को प्राथमिकता देता है. इस्तेमाल के सही उदाहरणों में ये शामिल हैं:
- टेक्स्ट को फिर से लिखना: टेक्स्ट की टोन और स्टाइल में बदलाव करना. जैसे, कैज़ुअल से फ़ॉर्मल में बदलना.
- स्मार्ट जवाब: चैट थ्रेड में, कॉन्टेक्स्ट के हिसाब से काम के जवाब जनरेट करें.
- प्रूफ़रीडिंग: स्पेलिंग और व्याकरण से जुड़ी गड़बड़ियों की पहचान करके उन्हें ठीक करना.
- खास जानकारी: लंबे दस्तावेज़ों को कम शब्दों में बताने वाली खास जानकारी (पैराग्राफ़ या बुलेट पॉइंट) में बदलना.
सबसे अच्छी परफ़ॉर्मेंस के लिए, प्रॉम्प्ट करने की रणनीतियों का दस्तावेज़ देखें. इन इस्तेमाल के उदाहरणों को खुद आज़माने के लिए, हमारा सैंपल ऐप्लिकेशन डाउनलोड करें और Gemini Nano का इस्तेमाल शुरू करें.
Gemini Nano का इस्तेमाल, Google के कई ऐप्लिकेशन करते हैं. कुछ उदाहरण ये हैं:
- Talkback: Android का ऐक्सेसibilitity ऐप्लिकेशन Talkback, Gemini Nano की कई तरह के इनपुट की सुविधाओं का फ़ायदा उठाता है. इससे, दृष्टिबाधित उपयोगकर्ताओं के लिए इमेज की जानकारी को बेहतर बनाया जा सकता है.
- Pixel वॉइस रिकॉर्डर: Pixel वॉइस रिकॉर्डर ऐप्लिकेशन, डिवाइस पर खास जानकारी देने की सुविधा के लिए, Gemini Nano और AICore का इस्तेमाल करता है. रिकॉर्डिंग की सुविधा देने वाली टीम ने लंबी रिकॉर्डिंग के साथ काम करने और बेहतर क्वालिटी की खास जानकारी देने के लिए, Gemini Nano का नया मॉडल अपनाया है.
- Gboard: Gboard की स्मार्ट जवाब की सुविधा, सटीक स्मार्ट जवाब देने के लिए, डिवाइस पर मौजूद Gemini Nano और AICore का इस्तेमाल करती है.