GenerativeModel

public final class GenerativeModel implements AutoCloseable

Ein Moderator für ein bestimmtes Systemmodell.

Zusammenfassung

Öffentliche Konstruktoren
GenerativeModel(
    @NonNull GenerationConfig generationConfig,
    @NonNull DownloadConfig downloadConfig
)

Öffentliche Methoden
void

Schließt den Client und gibt seine Ressourcen frei.
final @NonNull GenerateContentResponse

Er generiert eine Antwort aus dem Systemmodell mit den angegebenen Contents.
final @NonNull GenerateContentResponse

Generiert eine Antwort vom Systemmodell mit dem angegebenen Text, der durch Content dargestellt wird.
final @NonNull Flow<@NonNull GenerateContentResponse>

Generiert eine Streamingantwort aus dem Systemmodell mit den angegebenen Contents.
final @NonNull Flow<@NonNull GenerateContentResponse>

Generiert eine Streamingantwort vom Systemmodell mit dem angegebenen Text, der als Content dargestellt wird.
final @NonNull DownloadConfig

die Konfiguration für den Download des Systemmodells
final @NonNull GenerationConfig

Konfigurationsparameter für die Inhaltsgenerierung
final @NonNull <Error class: unknown class>

Die Engine wird im Voraus vorbereitet, um den Zeitaufwand für die Inferenz zu reduzieren.

Öffentliche Konstruktoren

GenerativeModel

public GenerativeModel(
    @NonNull GenerationConfig generationConfig,
    @NonNull DownloadConfig downloadConfig
)

Öffentliche Methoden

Schließen

public void close()

Schließt den Client und gibt seine Ressourcen frei.

generateContent

public final @NonNull GenerateContentResponse generateContent(@NonNull Content prompt)

Er generiert eine Antwort aus dem Systemmodell mit den angegebenen Contents.

Parameter
@NonNull Content prompt

Eine Gruppe von Contents, die an das Modell gesendet werden sollen.
Returns
@NonNull GenerateContentResponse

GenerateContentResponse nach einiger Verzögerung. Die Funktion sollte in einem Suspend-Kontext aufgerufen werden, um die Parallelität richtig zu verwalten.

generateContent

public final @NonNull GenerateContentResponse generateContent(@NonNull String prompt)

Generiert eine Antwort vom Systemmodell mit dem angegebenen Text, der durch Content dargestellt wird.

Parameter
@NonNull String prompt

Der Text, der in ein einzelnes Content umgewandelt und an das Modell gesendet werden soll.
Returns
@NonNull GenerateContentResponse

GenerateContentResponse nach einiger Verzögerung. Die Funktion sollte in einem Suspend-Kontext aufgerufen werden, um die Parallelität richtig zu verwalten.

generateContentStream

public final @NonNull Flow<@NonNull GenerateContentResponse> generateContentStream(@NonNull Content prompt)

Generiert eine Streamingantwort aus dem Systemmodell mit den angegebenen Contents.

Parameter
@NonNull Content prompt

Eine Gruppe von Contents, die an das Modell gesendet werden sollen.
Returns
@NonNull Flow<@NonNull GenerateContentResponse>

Ein Flow, das Antworten ausgibt, sobald sie vom Modell zurückgegeben werden.

generateContentStream

public final @NonNull Flow<@NonNull GenerateContentResponse> generateContentStream(@NonNull String prompt)

Generiert eine Streamingantwort vom Systemmodell mit dem angegebenen Text, der als Content dargestellt wird.

Parameter
@NonNull String prompt

Der Text, der in ein einzelnes Content umgewandelt und an das Modell gesendet werden soll.
Returns
@NonNull Flow<@NonNull GenerateContentResponse>

Ein Flow, das Antworten ausgibt, sobald sie vom Modell zurückgegeben werden.

getDownloadConfig

public final @NonNull DownloadConfig getDownloadConfig()

die Konfiguration für den Download des Systemmodells

getGenerationConfig

public final @NonNull GenerationConfig getGenerationConfig()

Konfigurationsparameter für die Inhaltsgenerierung

prepareInferenceEngine

public final @NonNull <Error class: unknown class> prepareInferenceEngine()

Die Engine wird im Voraus vorbereitet, um den Zeitaufwand für die Inferenz zu reduzieren. Der Aufruf dieser Methode ist streng optional. Wir empfehlen jedoch, sie weit vor dem ersten Inferenzaufruf aufzurufen, um die Latenz der ersten Inferenz zu minimieren.