GenerativeModel


class GenerativeModel : AutoCloseable


Facilitateur d'un modèle système donné.

Résumé

Constructeurs publics

GenerativeModel(
    generationConfig: GenerationConfig,
    downloadConfig: DownloadConfig
)

Fonctions publiques

open Unit

Ferme le client et libère ses ressources.

suspend GenerateContentResponse
generateContent(vararg prompt: Content)

Génère une réponse à partir du modèle système avec les Content fournies.

suspend GenerateContentResponse

Génère une réponse du modèle système avec le texte fourni représenté par Content.

Flow<GenerateContentResponse>
generateContentStream(vararg prompt: Content)

Génère une réponse en streaming à partir du modèle système avec les Content fournies.

Flow<GenerateContentResponse>

Génère une réponse en streaming à partir du modèle système avec le texte fourni représenté par Content.

suspend <Error class: unknown class>

Prépare le moteur à l'avance afin de déplacer les coûts de synchronisation hors de l'inférence.

Propriétés publiques

DownloadConfig

la configuration du téléchargement du modèle système ;

GenerationConfig

les paramètres de configuration à utiliser pour la génération de contenu ;

Constructeurs publics

GenerativeModel

GenerativeModel(
    generationConfig: GenerationConfig,
    downloadConfig: DownloadConfig = DownloadConfig()
)

Fonctions publiques

fermer

open fun close(): Unit

Ferme le client et libère ses ressources.

generateContent

suspend fun generateContent(vararg prompt: Content): GenerateContentResponse

Génère une réponse à partir du modèle système avec les Content fournies.

Paramètres
vararg prompt: Content

Groupe de Content à envoyer au modèle.

Renvoie
GenerateContentResponse

Un GenerateContentResponse après un certain temps. La fonction doit être appelée dans un contexte de suspension pour gérer correctement la concurrence.

generateContent

suspend fun generateContent(prompt: String): GenerateContentResponse

Génère une réponse du modèle système avec le texte fourni représenté par Content.

Paramètres
prompt: String

Texte à convertir en élément Content unique à envoyer au modèle.

Renvoie
GenerateContentResponse

Un GenerateContentResponse après un certain temps. La fonction doit être appelée dans un contexte de suspension pour gérer correctement la concurrence.

generateContentStream

fun generateContentStream(vararg prompt: Content): Flow<GenerateContentResponse>

Génère une réponse en streaming à partir du modèle système avec les Content fournies.

Paramètres
vararg prompt: Content

Groupe de Content à envoyer au modèle.

Renvoie
Flow<GenerateContentResponse>

Un Flow qui émet des réponses telles qu'elles sont renvoyées par le modèle.

generateContentStream

fun generateContentStream(prompt: String): Flow<GenerateContentResponse>

Génère une réponse en streaming à partir du modèle système avec le texte fourni représenté par Content.

Paramètres
prompt: String

Texte à convertir en élément Content unique à envoyer au modèle.

Renvoie
Flow<GenerateContentResponse>

Un Flow qui émet des réponses telles qu'elles sont renvoyées par le modèle.

prepareInferenceEngine

suspend fun prepareInferenceEngine(): <Error class: unknown class>

Prépare le moteur à l'avance afin de déplacer les coûts de synchronisation hors de l'inférence. L'appel de cette méthode est strictement facultatif, mais nous vous recommandons de l'appeler bien avant le premier appel d'inférence afin de réduire la latence du premier inférence.

Propriétés publiques

downloadConfig

val downloadConfigDownloadConfig

la configuration du téléchargement du modèle système ;

generationConfig

val generationConfigGenerationConfig

les paramètres de configuration à utiliser pour la génération de contenu ;