CalculationPrecisionStrategy dénombrement

CalculationPrecisionStrategy dénombrement

Énumère les stratégies de gestion de la précision des calculs. En raison du problème de précision de l’arithmétique à virgule flottante IEEE 754, certaines formules “apparemment simples” peuvent ne pas être calculées comme le résultat attendu. Comme la formule “=-0.45+0.43+0.02”, lors du calcul direct des opérandes par l’opérateur ‘+’, le résultat n’est pas nul. Pour ce genre de problème de précision, certaines stratégies spéciales peuvent donner le résultat escompté.

Le type CalculationPrecisionStrategy expose les membres suivants :

Des champs

Champ Description
NONE Aucune stratégie appliquée sur le calcul.
Lors du calcul, utilisez simplement la valeur double d’origine comme opérande et renvoyez directement le résultat.
Le plus efficace pour les performances et applicable dans la plupart des cas.
ROUND Arrondit le résultat du calcul en fonction des chiffres significatifs.
DECIMAL Utilise décimal comme opérandes lorsque cela est possible.
Le plus inefficace pour la performance.

Voir également