Lokales Modell verwenden

Large Language Models (LLMs) unterscheiden sich in ihren Fähigkeiten. Damit Sie die KI-gestützte Softwareentwicklung flexibel steuern können, können Sie in Android Studio das Modell auswählen, das die KI-Funktionen der IDE unterstützt. Das Modell muss lokal auf Ihrem persönlichen Gerät ausgeführt werden.

Die Unterstützung lokaler Modelle ist im Android Studio Narwhal 4 Feature Drop-Release verfügbar, das Sie über den Canary-Channel herunterladen können.

Modell auswählen

Ein lokales Modell ist eine Alternative zur in Android Studio integrierten LLM-Unterstützung. Gemini in Android Studio bietet jedoch in der Regel die beste KI-Erfahrung für Android-Entwickler, da es auf den leistungsstarken Gemini-Modellen basiert. Sie können für Ihre Android-Entwicklungsaufgaben aus einer Vielzahl von Gemini-Modellen auswählen, darunter das kostenlose Standardmodell oder Modelle, auf die mit einem kostenpflichtigen Gemini API-Schlüssel zugegriffen wird.

Die Funktion für lokale Modelle ist eine gute Option, wenn Sie offline arbeiten müssen, strenge Unternehmensrichtlinien zur Nutzung von KI-Tools einhalten müssen oder mit Open-Source-Forschungsmodellen experimentieren möchten.

Unterstützung für lokale Modelle einrichten

  1. Laden Sie Android Studio Narwhal 4 Feature Drop Canary 2 oder höher herunter und installieren Sie die Software.

  2. Installieren Sie einen LLM-Anbieter wie LM Studio oder Ollama auf Ihrem lokalen Computer.

  3. Fügen Sie den Modellanbieter in Android Studio hinzu.

    • Gehen Sie zu Einstellungen > Tools > KI > Modellanbieter.

    • Konfigurieren Sie den Modellanbieter:

    • Wählen Sie das Symbol  aus.

    • Geben Sie eine Beschreibung des Modellanbieters ein (in der Regel der Name des Modellanbieters).

    • Port festlegen, den der Anbieter überwacht

    • Modell aktivieren

    Das Dialogfeld „Einstellungen“ in Android Studio mit dem Bereich „Gemini“ und einer Option zum Aktivieren des Offlinemodus.
    Abbildung 1: Einstellungen für Modellanbieter
  4. Laden Sie ein Modell Ihrer Wahl herunter und installieren Sie es.

    LM Studio- und Ollama-Modellkataloge Um den Agent-Modus in Android Studio optimal zu nutzen, sollten Sie ein Modell auswählen, das für die Verwendung von Tools trainiert wurde.

    Das Dialogfeld „Einstellungen“ in Android Studio mit einer Liste der verfügbaren lokalen Modelle.
    Abbildung 2. Verfügbare lokale Modelle.
  5. Starten Sie Ihre Inferenzumgebung.

    In der Inferenzumgebung wird Ihr Modell für lokale Anwendungen bereitgestellt. Konfigurieren Sie ein ausreichend großes Token-Fenster für die Kontextlänge, um eine optimale Leistung zu erzielen. Eine detaillierte Anleitung zum Starten und Konfigurieren Ihrer Umgebung finden Sie in der Ollama-Dokumentation oder der LM Studio-Dokumentation.

  6. Wählen Sie ein Modell aus.

    Öffnen Sie Android Studio. Rufen Sie das Gemini-Chatfenster auf. Mit der Modellauswahl können Sie vom standardmäßigen Gemini-Modell zu Ihrem konfigurierten lokalen Modell wechseln.

    Das Gemini-Chatfenster in Android Studio mit der Modellauswahl und Optionen für Gemini und ein lokales Modell.
    Abbildung 3. Modellauswahl.

Nachdem Sie Android Studio mit Ihrem lokalen Modell verbunden haben, können Sie die Chatfunktionen in der IDE nutzen. Alle Interaktionen werden vollständig vom Modell auf Ihrem lokalen Computer unterstützt. So erhalten Sie eine in sich geschlossene KI-Entwicklungsumgebung.

Leistungseinschränkungen berücksichtigen

Ein lokales Offline-Modell ist in der Regel nicht so leistungsstark oder intelligent wie die cloudbasierten Gemini-Modelle. Chatantworten von lokalen Modellen sind in der Regel weniger genau und haben eine höhere Latenz als cloudbasierte Modelle.

Lokale Modelle werden in der Regel nicht für die Android-Entwicklung optimiert und können Antworten zurückgeben, die sich nicht auf die Android Studio-Benutzeroberfläche beziehen. Einige KI-Funktionen von Android Studio und Anwendungsfälle für die Android-Entwicklung funktionieren nicht mit einem lokalen Modell. Die KI-Chatfunktion in Android Studio wird jedoch in der Regel von lokalen Modellen unterstützt.

Gemini in Android Studio, das auf den Gemini-Modellen basiert, ist die beste Lösung für schnelle und genaue Antworten zu allen Aspekten der Android-Entwicklung und Unterstützung für alle Android Studio-Funktionen.