CalculationPrecisionStrategy перечисление
CalculationPrecisionStrategy перечисление
Перечисляет стратегии управления точностью вычислений. Из-за проблем с точностью арифметики с плавающей запятой стандарта IEEE 754 некоторые «кажущиеся простыми» формулы могут не рассчитываться как ожидаемый результат. Например, в формуле «=-0,45+0,43+0,02» при прямом вычислении операндов с помощью оператора «+» результат не равен нулю. Для такой проблемы точности, некоторые специальные стратегии могут дать ожидаемый результат.
Тип CalculationPrecisionStrategy предоставляет следующие элементы:
Поля
| Поле | Описание |
|---|---|
| NONE | Никакая стратегия не применялась при расчете. При вычислении просто используйте исходное двойное значение в качестве операнда и напрямую возвращайте результат. Наиболее эффективен с точки зрения производительности и применим в большинстве случаев. |
| ROUND | Округляет результат расчета по значащим цифрам. |
| DECIMAL | По возможности использует десятичные числа в качестве операндов. Самый неэффективный с точки зрения производительности. |
Смотрите также
- модуль
aspose.cells
