CalculationPrecisionStrategy
CalculationPrecisionStrategy enumeration
枚举处理计算精度的策略。 因为IEEE 754 Floating-Point Arithmetic 的精度问题,一些“看似简单”的公式可能计算不出预期的结果。 如公式“=-0.45+0.43+0.02” ,直接用’+‘运算符计算操作数时,结果不为零。对于这种精度问题, 一些特殊的策略可能会得到预期的结果。
public enum CalculationPrecisionStrategy
价值观
姓名 | 价值 | 描述 |
---|---|---|
None | 0 | 计算时没有应用策略。 计算时只使用原始的双精度值作为操作数,直接返回结果。 性能效率最高,适用于大多数情况。 |
Round | 1 | 根据有效数字对计算结果进行四舍五入。 |
Decimal | 2 | 尽可能使用十进制作为操作数。 性能效率最低。 |
也可以看看
- 命名空间 Aspose.Cells
- 部件 Aspose.Cells