AssistantResponse.TopP

AssistantResponse.TopP özelliği

Sıcaklıkla örneklemenin bir alternatifi olan çekirdek örnekleme (nucleus sampling) yöntemini alır veya ayarlar; burada model, top_p olasılık kütlesine sahip token’ların sonuçlarını dikkate alır. Yani 0.1, yalnızca en yüksek %10 olasılık kütlesini oluşturan token’ların dikkate alındığı anlamına gelir. Genellikle bunu veya sıcaklığı değiştirmeyi öneriyoruz, ancak her ikisini birden değil.

public double? TopP { get; set; }

Ayrıca Bakınız

AssistantResponse.Tools