CalculationPrecisionStrategy numaralandırma

CalculationPrecisionStrategy numaralandırma

Hesaplama hassasiyetini yönetmeye yönelik stratejileri sıralar. IEEE 754 Kayan Nokta Aritmetiğinin kesinlik sorunu nedeniyle bazı “görünüşte basit” formüller beklenen sonuç olarak hesaplanamayabilir. “=-0.45+0.43+0.02” formülü gibi, işlenenler doğrudan ‘+’ operatörüyle hesaplanırken sonuç sıfır değildir. Bu tür hassas bir sorun için, bazı özel stratejiler beklenen sonucu verebilir.

CalculationPrecisionStrategy türü aşağıdaki üyeleri ortaya çıkarır:

Alanlar

AlanTanım
NONEHesaplamada herhangi bir strateji uygulanmadı.
Hesaplarken yalnızca orijinal double değerini işlenen olarak kullanın ve sonucu doğrudan döndürün.
Performans açısından en verimli ve çoğu durumda uygulanabilir.
ROUNDHesaplama sonucunu anlamlı basamaklara göre yuvarlar.
DECIMALMümkün olduğunda işlenen olarak ondalık sayıyı kullanır.
Performans açısından en verimsiz.

Ayrıca bakınız