CalculationPrecisionStrategy перечисление

Перечисляет стратегии обработки точности вычислений. Из-за проблемы с точностью арифметики с плавающей запятой IEEE 754 некоторые «кажущиеся простыми» формулы могут не рассчитываться как ожидаемый результат. Например, формула «=-0,45+0,43+0,02» при прямом вычислении операндов с помощью оператора «+» дает ненулевой результат. Для такой проблемы точности, некоторые специальные стратегии могут дать ожидаемый результат.

Тип CalculationPrecisionStrategy предоставляет следующие члены:

Поля

Поле	Описание
NONE	При расчете не применяется стратегия. При вычислении просто используйте исходное двойное значение в качестве операнда и возвращайте результат напрямую. Наиболее эффективен для производительности и применим в большинстве случаев.
ROUND	Округляет результат вычисления в соответствии со значащими цифрами.
DECIMAL	По возможности использует десятичные числа в качестве операндов. Самый неэффективный для производительности.

Смотрите также

модуль aspose.cells

CalcModeType перечисление CellBorderType перечисление