快速开始

参数说明

常用采样参数在 Anthropic、OpenAI、Gemini 三种协议中对应的字段名。

采样参数按各协议的原生字段名透传给上游模型。下表是常用参数在三种协议中的对应字段, 表示该协议没有这个参数。网关不校验取值范围,超出范围时以上游模型的处理为准。

参数说明AnthropicOpenAIGemini
Temperature控制输出的随机性,值越低越稳定。temperaturetemperaturegenerationConfig.temperature
Top P核采样:只从累计概率达到该值的候选词里采样。top_ptop_pgenerationConfig.topP
Top K只从概率最高的 K 个候选词里采样。top_ktop_k(透传,标准 OpenAI API 没有此参数,是否生效取决于模型)generationConfig.topK
Frequency Penalty按词在已生成文本中出现的次数降低其再次出现的概率。frequency_penalty
Presence Penalty只要词已出现过就降低其再次出现的概率。presence_penalty
Seed固定随机种子,让相同请求尽量得到相同输出。seedgenerationConfig.seed
Max Tokens最大输出 token 数。max_tokens(必填)max_tokensgenerationConfig.maxOutputTokens

50 篇文档。文中出现的模型名与价格以模型广场的实时数据为准。