GenerationConfig


class GenerationConfig


用于内容生成的配置参数。

摘要

嵌套类型

公共伴生函数

GenerationConfig.Builder

公共属性

Executor

应在其中调用回调的 Executor

Int?

要返回的最多 唯一 响应数

Context?

要使用的应用上下文

Int?

每个回答可生成的词元数量上限

Float?

词元选择的随机程度,通常介于 0 和 1 之间

Int?

要从概率最高的词元中选择多少个词元

ExecutorService

应在其中运行后台任务的 ExecutorService

公共伴生函数

公共属性

callbackExecutor

val callbackExecutorExecutor

应在其中调用回调的 Executor

candidateCount

val candidateCountInt?

要返回的最多 唯一 响应数

context

val contextContext?

要使用的应用上下文

maxOutputTokens

val maxOutputTokensInt?

每个回答可生成的词元数量上限

温度

val temperatureFloat?

词元选择的随机程度,通常介于 0 和 1 之间

topK

val topKInt?

要从概率最高的词元中选择多少个词元

workerExecutor

val workerExecutorExecutorService

应在其中运行后台任务的 ExecutorService