שימוש במודל מקומי

היכולות של מודלים גדולים של שפה (LLM) שונות. כדי לתת לכם שליטה וגמישות בפיתוח תוכנה בעזרת AI, ‏ Android Studio מאפשר לכם לבחור את המודל שמפעיל את פונקציונליות ה-AI של סביבת הפיתוח המשולבת (IDE). המודל צריך להיות מקומי, כלומר לפעול במחשב האישי שלכם.

תמיכה במודלים מקומיים זמינה בגרסת Feature Drop של Android Studio Narwhal 4, שאפשר להוריד מערוץ Canary.

בחירת מודל

מודל מקומי הוא חלופה לתמיכה במודל שפה גדול (LLM) שמוטמעת ב-Android Studio. עם זאת, בדרך כלל Gemini ב-Android Studio מספק את חוויית ה-AI הטובה ביותר למפתחי Android, כי הוא מבוסס על מודלים מתקדמים של Gemini. אתם יכולים לבחור מתוך מגוון מודלים של Gemini למשימות הפיתוח שלכם ב-Android, כולל מודל ברירת המחדל ללא עלות או מודלים שאפשר לגשת אליהם באמצעות מפתח Gemini API בתשלום.

היכולת של מודל מקומי היא אפשרות מצוינת אם אתם צריכים לעבוד אופליין, אם אתם מחויבים לפעול בהתאם למדיניות חברה מחמירה בנושא שימוש בכלי AI, או אם אתם רוצים להתנסות במודלים מחקריים בקוד פתוח.

הגדרת תמיכה במודלים מקומיים

  1. מורידים ומתקינים את Android Studio Narwhal 4 Feature Drop Canary 2 או גרסה מתקדמת יותר.

  2. מתקינים במחשב המקומי ספק של מודל שפה גדול (LLM), כמו LM Studio או Ollama.

  3. מוסיפים את ספק המודל ל-Android Studio.

    • עוברים אל הגדרות > כלים > AI > ספקי מודלים.

    • מגדירים את ספק המודל:

    • לוחצים על הסמל .

    • מזינים תיאור של ספק המודל (בדרך כלל שם ספק המודל)

    • הגדרת היציאה שבה הספק מאזין

    • הפעלת מודל

    תיבת הדו-שיח של ההגדרות ב-Android Studio, שמוצג בה הקטע Gemini עם אפשרות להפעלת מצב אופליין.
    תרשים 1. הגדרות של ספק מודלים.
  4. מורידים ומתקינים מודל לבחירתכם.

    אפשר לעיין בקטלוגים של מודלים של LM Studio ושל Ollama. כדי ליהנות מחוויית השימוש הטובה ביותר ב-Agent Mode ב-Android Studio, צריך לבחור מודל שאומן לשימוש בכלי.

    תיבת הדו-שיח של ההגדרות ב-Android Studio שבה מוצגת רשימה של מודלים מקומיים זמינים.
    איור 2. מודלים מקומיים זמינים.
  5. מפעילים את סביבת ההסקה.

    סביבת ההסקה משרתת את המודל שלכם לאפליקציות מקומיות. כדי לקבל ביצועים אופטימליים, צריך להגדיר חלון הקשר של טוקנים באורך מספיק. הוראות מפורטות להפעלה ולהגדרה של הסביבה מופיעות במסמכי Ollama או LM Studio.

  6. בוחרים דגם.

    פותחים את Android Studio. עוברים לחלון הצ'אט עם Gemini. כדי לעבור ממודל Gemini שמוגדר כברירת מחדל למודל מקומי שהגדרתם, משתמשים בכלי לבחירת מודל.

    חלון הצ'אט של Gemini ב-Android Studio שבו מוצג בורר המודלים עם אפשרויות ל-Gemini ולמודל מקומי.
    איור 3. בורר הדגמים.

אחרי שמחברים את Android Studio למודל המקומי, אפשר להשתמש בתכונות הצ'אט ב-IDE. כל האינטראקציות מבוססות על המודל שפועל במחשב המקומי, כך שאתם מקבלים סביבת פיתוח עצמאית של AI.

שיקולים לגבי מגבלות ביצועים

מודל מקומי במצב אופליין בדרך כלל לא יהיה יעיל או חכם כמו מודלי Gemini מבוססי-הענן. תשובות בצ'אט ממודלים מקומיים הן בדרך כלל פחות מדויקות וזמן האחזור שלהן ארוך יותר בהשוואה למודלים מבוססי-ענן.

בדרך כלל, מודלים מקומיים לא עוברים כוונון עדין לפיתוח ל-Android, והם יכולים להחזיר תשובות שלא מבוססות על ממשק המשתמש של Android Studio. חלק מהתכונות של AI ב-Android Studio ותסריטי שימוש בפיתוח ל-Android לא פועלים עם מודל מקומי. עם זאת, תכונת הצ'אט מבוסס-AI ב-Android Studio נתמכת בדרך כלל על ידי מודלים מקומיים.

הפתרון הכי טוב לקבלת תשובות מהירות ומדויקות לגבי כל ההיבטים של פיתוח ל-Android ותמיכה בכל התכונות של Android Studio הוא Gemini ב-Android Studio, שמבוסס על מודלים של Gemini.