CalculationPrecisionStrategy
CalculationPrecisionStrategy enumeration
Перечисляет стратегии обработки точности вычислений. Из-за проблем с точностью арифметики с плавающей запятой IEEE 754 некоторые «кажущиеся простыми» формулы могут не рассчитываться как ожидаемый результат. Например, формула «=-0,45+0,43+0,02» , при непосредственном вычислении операндов с помощью оператора ‘+’ результат не равен нулю. Для такой проблемы с точностью некоторые специальные стратегии могут дать ожидаемый результат.
public enum CalculationPrecisionStrategy
Ценности
| Имя | Ценность | Описание |
|---|---|---|
| None | 0 | Стратегия вычисления не применяется. При вычислении просто используйте исходное двойное значение в качестве операнда и возвращайте результат напрямую. Наиболее эффективно для производительности и применимо в большинстве случаев. |
| Round | 1 | Округляет результат вычисления в соответствии со значащими цифрами. |
| Decimal | 2 | По возможности использует десятичные числа в качестве операндов. Наиболее неэффективно для производительности. |
Смотрите также
- пространство имен Aspose.Cells
- сборка Aspose.Cells
