CompletionCreateRequest.TopP

CompletionCreateRequest.TopP-Eigenschaft

Ruft eine Alternative zum Sampling mit Temperatur ab oder legt diese fest, die als Nucleus-Sampling bezeichnet wird, wobei das Modell die Ergebnisse der Tokens mit der top_p-Wahrscheinlichkeitsmasse berücksichtigt. Ein Wert von 0,1 bedeutet, dass nur die Tokens berücksichtigt werden, die die obersten 10% der Wahrscheinlichkeitsmasse ausmachen.

public double? TopP { get; set; }

Siehe auch

CompletionCreateRequest.Tools CompletionCreateRequest.User