Enumerazione CalculationPrecisionStrategy

Enumerazione CalculationPrecisionStrategy

Enumera le strategie per gestire la precisione dei calcoli. A causa del problema di precisione dell’aritmetica in virgola mobile IEEE 754, alcune formule “apparentemente semplici” potrebbero non essere calcolate come risultato previsto. Come la formula “=-0,45+0,43+0,02”, quando si calcolano direttamente gli operandi tramite l’operatore ‘+’, il risultato non è zero. Per questo tipo di problema di precisione, alcune strategie speciali possono dare il risultato atteso.

Il tipo CalculationPrecisionStrategy espone i seguenti membri:

Campi

CampoDescrizione
NONENessuna strategia applicata al calcolo.
Durante il calcolo è sufficiente utilizzare il valore double originale come operando e restituire direttamente il risultato.
Il più efficiente per le prestazioni e applicabile nella maggior parte dei casi.
ROUNDArrotonda il risultato del calcolo in base alle cifre significative.
DECIMALUtilizza i decimali come operandi quando possibile.
Molto inefficiente per le prestazioni.

Guarda anche