CalculationPrecisionStrategy
CalculationPrecisionStrategy enumeration
Énumère les stratégies de gestion de la précision des calculs. En raison du problème de précision de l’arithmétique à virgule flottante IEEE 754, certaines formules “apparemment simples” peuvent ne pas être calculées comme le résultat attendu. Comme la formule “=-0,45+0,43+0,02” , lors du calcul direct des opérandes par l’opérateur ‘+’, le résultat n’est pas nul. Pour ce type de problème de précision, certaines stratégies spéciales peuvent donner le résultat attendu.
public enum CalculationPrecisionStrategy
Valeurs
| Nom | Évaluer | La description |
|---|---|---|
| None | 0 | Aucune stratégie appliquée au calcul. Lors du calcul, utilisez simplement la valeur double d’origine comme opérande et renvoyez directement le résultat. Le plus efficace pour les performances et applicable dans la plupart des cas. |
| Round | 1 | Arrondit le résultat du calcul en fonction des chiffres significatifs. |
| Decimal | 2 | Utilise décimal comme opérandes lorsque cela est possible. Le plus inefficace pour les performances. |
Voir également
- espace de noms Aspose.Cells
- Assemblée Aspose.Cells
