CalculationPrecisionStrategy перечисление
CalculationPrecisionStrategy перечисление
Перечисляет стратегии управления точностью вычислений. Из-за проблем с точностью арифметики с плавающей точкой IEEE 754 некоторые «казалось бы простые» формулы могут не давать ожидаемого результата при вычислении. Например, формула “=-0,45+0,43+0,02” при прямом вычислении операндов оператором “+” возвращает результат, отличный от нуля. В случае подобной проблемы с точностью, некоторые специальные стратегии могут дать ожидаемый результат.
Тип CalculationPrecisionStrategy предоставляет следующие элементы:
Поля
| Поле | Описание |
|---|---|
| NONE | Никакая стратегия расчета не применялась. При вычислениях просто используйте исходное значение double в качестве операнда и напрямую возвращайте результат. Наиболее эффективен с точки зрения производительности и применим в большинстве случаев. |
| ROUND | Округляет результат расчета до значащих цифр. |
| DECIMAL | По возможности использует десятичные числа в качестве операндов. Самый неэффективный с точки зрения производительности. |
Смотрите также
- модуль
aspose.cells
