लोकल मॉडल का इस्तेमाल करना

लार्ज लैंग्वेज मॉडल (एलएलएम) की क्षमताएं अलग-अलग होती हैं. एआई की मदद से सॉफ़्टवेयर डेवलपमेंट को कंट्रोल करने और उसे अपनी ज़रूरत के हिसाब से इस्तेमाल करने के लिए, Android Studio में यह सुविधा मिलती है कि आप उस मॉडल को चुनें जो IDE की एआई सुविधाओं को बेहतर बनाता है. मॉडल लोकल होना चाहिए और आपके निजी डिवाइस पर चलना चाहिए.

लोकल मॉडल की सुविधा, Android Studio Narwhal 4 Feature Drop के रिलीज़ वर्शन में उपलब्ध है. इसे कैनरी चैनल से डाउनलोड किया जा सकता है.

कोई मॉडल चुनें

लोकल मॉडल, Android Studio में पहले से मौजूद एलएलएम की सुविधा का विकल्प देता है. हालांकि, Android Studio में Gemini, आम तौर पर Android डेवलपर को एआई का सबसे अच्छा अनुभव देता है. ऐसा इसलिए, क्योंकि इसमें Gemini के बेहतरीन मॉडल इस्तेमाल किए जाते हैं. Android डेवलपमेंट के टास्क के लिए, Gemini के अलग-अलग मॉडल चुने जा सकते हैं. इनमें बिना किसी शुल्क के उपलब्ध डिफ़ॉल्ट मॉडल या Gemini API की पैसे चुकाकर ली गई कुंजी से ऐक्सेस किए जाने वाले मॉडल शामिल हैं.

अगर आपको ऑफ़लाइन काम करना है, एआई टूल के इस्तेमाल से जुड़ी कंपनी की नीतियों का सख्ती से पालन करना है या ओपन-सोर्स रिसर्च मॉडल को आज़माना है, तो लोकल मॉडल की सुविधा आपके लिए एक बेहतरीन विकल्प है.

लोकल मॉडल के साथ काम करने की सुविधा सेट अप करना

  1. Android Studio Narwhal 4 Feature Drop Canary 2 या उसके बाद का वर्शन डाउनलोड और इंस्टॉल करें.

  2. अपने लोकल कंप्यूटर पर, एलएलएम की सुविधा देने वाली कोई कंपनी इंस्टॉल करें. जैसे, LM Studio या Ollama.

  3. मॉडल उपलब्ध कराने वाली कंपनी को Android Studio में जोड़ें.

    • सेटिंग > टूल > एआई > मॉडल उपलब्ध कराने वाली कंपनियां पर जाएं

    • मॉडल प्रोवाइडर को कॉन्फ़िगर करें:

    • आइकॉन चुनें

    • मॉडल उपलब्ध कराने वाली कंपनी के बारे में जानकारी डालें. आम तौर पर, यह मॉडल उपलब्ध कराने वाली कंपनी का नाम होता है

    • वह पोर्ट सेट करें जिस पर कंपनी सुन रही है

    • किसी मॉडल को चालू करना

    Android Studio की सेटिंग का डायलॉग बॉक्स. इसमें Gemini सेक्शन दिख रहा है. इसमें ऑफ़लाइन मोड चालू करने का विकल्प भी है.
    पहली इमेज. मॉडल उपलब्ध कराने वाली कंपनी की सेटिंग.
  4. अपनी पसंद का मॉडल डाउनलोड और इंस्टॉल करें.

    LM Studio और Ollama मॉडल के कैटलॉग देखें. Android Studio में एजेंट मोड का बेहतर अनुभव पाने के लिए, ऐसा मॉडल चुनें जिसे टूल इस्तेमाल करने के लिए ट्रेन किया गया हो.

    Android Studio की सेटिंग वाला डायलॉग बॉक्स, जिसमें उपलब्ध स्थानीय मॉडल की सूची दिखाई गई है.
    दूसरी इमेज. उपलब्ध स्थानीय मॉडल.
  5. इन्फ़रेंस एनवायरमेंट शुरू करें.

    इन्फ़रेंस एनवायरमेंट, आपके मॉडल को स्थानीय ऐप्लिकेशन के लिए उपलब्ध कराता है. बेहतर परफ़ॉर्मेंस के लिए, कॉन्टेक्स्ट की लंबाई के हिसाब से टोकन विंडो को कॉन्फ़िगर करें. अपने एनवायरमेंट को शुरू करने और कॉन्फ़िगर करने के बारे में ज़्यादा जानने के लिए, Ollama या LM Studio का दस्तावेज़ देखें.

  6. कोई मॉडल चुनें.

    Android Studio खोलें. Gemini की चैट विंडो पर जाएँ. डिफ़ॉल्ट Gemini मॉडल से कॉन्फ़िगर किए गए लोकल मॉडल पर स्विच करने के लिए, मॉडल पिकर का इस्तेमाल करें.

    Android Studio में Gemini की चैट विंडो में, मॉडल चुनने वाला टूल दिखाया गया है. इसमें Gemini और लोकल मॉडल के विकल्प मौजूद हैं.
    तीसरी इमेज. मॉडल चुनने वाला टूल.

Android Studio को अपने लोकल मॉडल से कनेक्ट करने के बाद, आईडीई में चैट की सुविधाओं का इस्तेमाल किया जा सकता है. सभी इंटरैक्शन, आपकी लोकल मशीन पर चल रहे मॉडल की मदद से किए जाते हैं. इससे आपको एआई डेवलपमेंट का एक अलग एनवायरमेंट मिलता है.

परफ़ॉर्मेंस से जुड़ी सीमाओं के बारे में जानकारी

आम तौर पर, लोकल और ऑफ़लाइन मॉडल, क्लाउड पर आधारित Gemini मॉडल की तरह बेहतर परफ़ॉर्म नहीं कर पाते हैं. क्लाउड पर आधारित मॉडल की तुलना में, लोकल मॉडल से मिले चैट के जवाब आम तौर पर कम सटीक होते हैं. साथ ही, इनमें ज़्यादा इंतज़ार का समय लगता है.

आम तौर पर, लोकल मॉडल को Android डेवलपमेंट के लिए फ़ाइन-ट्यून नहीं किया जाता है. साथ ही, लोकल मॉडल ऐसे जवाब दे सकते हैं जिनमें Android Studio के उपयोगकर्ता इंटरफ़ेस के बारे में जानकारी नहीं होती है. Android Studio में एआई की कुछ सुविधाएं और Android डेवलपमेंट के इस्तेमाल के उदाहरण, लोकल मॉडल के साथ काम नहीं करते. हालांकि, Android Studio में एआई चैट की सुविधा आम तौर पर लोकल मॉडल के साथ काम करती है.

Android डेवलपमेंट और Android Studio की सभी सुविधाओं से जुड़े सवालों के सटीक जवाब पाने के लिए, Android Studio में Gemini का इस्तेमाल करें. यह Gemini मॉडल पर आधारित है.