CalculationPrecisionStrategy
CalculationPrecisionStrategy enumeration
Enumera estrategias para manejar la precisión del cálculo. Debido al problema de precisión de la aritmética de punto flotante IEEE 754, es posible que algunas fórmulas “aparentemente simples” no se calculen como el resultado esperado. Como la fórmula “=-0.45+0.43+0.02” , al calcular los operandos por el operador ‘+’ directamente, el resultado no es cero. Para este tipo de problema de precisión, algunas estrategias especiales pueden dar el resultado esperado.
public enum CalculationPrecisionStrategy
Valores
| Nombre | Valor | Descripción |
|---|---|---|
| None | 0 | No se aplicó ninguna estrategia en el cálculo. Al calcular, solo use el valor doble original como operando y devuelva el resultado directamente. Más eficiente para el rendimiento y aplicable para la mayoría de los casos. |
| Round | 1 | Redondea el resultado del cálculo de acuerdo con dígitos significativos. |
| Decimal | 2 | Usa decimales como operandos cuando es posible. Más ineficiente para el rendimiento. |
Ver también
- espacio de nombres Aspose.Cells
- asamblea Aspose.Cells
