Utilizzare un modello locale

I modelli linguistici di grandi dimensioni (LLM) differiscono per le loro funzionalità. Per offrirti il controllo e la flessibilità nello sviluppo di software assistito dall'AI, Android Studio ti consente di scegliere il modello che alimenta la funzionalità di AI dell'IDE. Il modello deve essere locale, in esecuzione sulla tua macchina personale.

Il supporto dei modelli locali è disponibile nella release di Android Studio Narwhal 4 Feature Drop, che puoi scaricare dal canale Canary.

Scegliere un modello

Un modello locale offre un'alternativa al supporto LLM integrato in Android Studio. Tuttavia, Gemini in Android Studio in genere offre la migliore esperienza di AI per gli sviluppatori Android grazie ai potenti modelli Gemini. Puoi scegliere tra una serie di modelli Gemini per le tue attività di sviluppo per Android, tra cui il modello predefinito senza costi o i modelli a cui si accede con una chiave API Gemini a pagamento.

La funzionalità di modello locale è un'ottima opzione se devi lavorare offline, devi rispettare rigorose norme aziendali sull'utilizzo degli strumenti di AI o ti interessa sperimentare modelli di ricerca open source.

Configurare il supporto del modello locale

  1. Scarica e installa Android Studio Narwhal 4 Feature Drop Canary 2 o versioni successive.

  2. Installa un provider LLM come LM Studio o Ollama sul tuo computer locale.

  3. Aggiungi il fornitore del modello ad Android Studio.

    • Vai a Impostazioni > Strumenti > AI > Fornitori di modelli.

    • Configura il fornitore del modello:

    • Seleziona l'icona .

    • Inserisci una descrizione del fornitore del modello (in genere il nome del fornitore del modello)

    • Imposta la porta su cui il fornitore è in ascolto

    • Abilitare un modello

    La finestra di dialogo delle impostazioni di Android Studio mostra la sezione Gemini con un'opzione per attivare la modalità offline.
    Figura 1. Impostazioni del provider di modelli.
  4. Scarica e installa un modello a tua scelta.

    Consulta i cataloghi dei modelli LM Studio e Ollama. Per un'esperienza ottimale con la modalità Agente in Android Studio, seleziona un modello addestrato per l'utilizzo degli strumenti.

    Finestra di dialogo delle impostazioni di Android Studio che mostra un elenco di modelli locali disponibili.
    Figura 2. Modelli locali disponibili.
  5. Avvia l'ambiente di inferenza.

    L'ambiente di inferenza pubblica il modello per le applicazioni locali. Configura una finestra di token di lunghezza del contesto sufficientemente grande per prestazioni ottimali. Per istruzioni dettagliate su come avviare e configurare l'ambiente, consulta la documentazione di Ollama o LM Studio.

  6. Seleziona un modello.

    Apri Android Studio. Vai alla finestra della chat con Gemini. Utilizza il selettore di modelli per passare dal modello Gemini predefinito al modello locale configurato.

    La finestra di chat di Android Studio Gemini che mostra il selettore di modelli con le opzioni per Gemini e un modello locale.
    Figura 3. Selettore modelli.

Dopo aver collegato Android Studio al modello locale, puoi utilizzare le funzionalità di chat all'interno dell'IDE. Tutte le interazioni sono interamente basate sul modello in esecuzione sulla tua macchina locale, offrendoti un ambiente di sviluppo AI autonomo.

Considera le limitazioni delle prestazioni

Un modello locale offline in genere non è performante o intelligente come i modelli Gemini basati sul cloud. Le risposte della chat dei modelli locali sono in genere meno accurate e hanno una latenza maggiore rispetto ai modelli basati sul cloud.

I modelli locali di solito non vengono ottimizzati per lo sviluppo Android e possono restituire risposte che non conoscono l'interfaccia utente di Android Studio. Alcune funzionalità di Android Studio AI e alcuni casi d'uso di sviluppo Android non funzionano con un modello locale. Tuttavia, la funzionalità di chat AI in Android Studio è generalmente supportata dai modelli locali.

Per risposte rapide e accurate su tutti gli aspetti dello sviluppo e dell'assistenza Android per tutte le funzionalità di Android Studio, Gemini in Android Studio, basato sui modelli Gemini, è la soluzione migliore.