RunCreateRequest.TopP

Propriété RunCreateRequest.TopP

Obtient ou définit une alternative à l’échantillonnage avec température, appelée échantillonnage par noyau, où le modèle considère les résultats des jetons avec une masse de probabilité top_p. Donc 0.1 signifie que seuls les jetons composant la masse de probabilité des 10% supérieurs sont considérés. Nous recommandons généralement de modifier cela ou la température mais pas les deux.

public double? TopP { get; set; }

Voir aussi

RunCreateRequest.Tools RunCreateRequest.TruncationStrategy